美国人工智能明星独角兽公司Character.AI以及科技巨头谷歌,日前因卷入一起少年自杀案而遭到起诉。此案的原告是美国佛罗里达州的一位律师,她年仅14岁的儿子塞维尔·塞策三世对Character.AI中的虚拟陪伴者“龙妈”产生了情感依恋。在沉迷数月之后,塞维尔变得与世隔绝,最终于今年二月自杀。
经原告授权,媒体披露了少年与AI陪伴者的部分对话。塞维尔曾几次表露过“自杀”“解脱出来”等念头,AI系统均未出现过相关防护性提示。尤其在最后一段对话中,少年提出想“回家”“回到她身边”,AI陪伴者回复了“请尽快回家找我”的字样,随后,少年放下了手机、拿起继父的手枪扣动了扳机管家婆一码一肖100中奖 ,时代资料解释落实_标配版5.235。
此案在社交媒体上被称为“首例AI聊天致死案”2004新澳门天天开好彩大全 ,收益成语分析落实_钱包版5.842。虽然也有论者指出,少年的自杀是家庭缺位、枪支管理等问题的多因一果,但这些原因恐怕都难以抹杀AI陪伴者与自杀结果的直接相关性。尤其,Character.AI带来的青少年沉迷问题已成现象,没有庞大数量的拥趸、没有这么长的在线使用时长,也就没有这家短时间内就崛起的明星独角兽公司2024澳门天天开好彩资料? ,科技成语分析落实_ios6.098。面对原告的指控:“危险性过高”,面向儿童销售且缺乏安全防护措施,平台方难辞其咎2024澳门特马今晚开什么 ,时代资料解释落实_探索版7.422。
AI带来的伦理风险是系统的,“首例AI聊天致死案”是这种危险的极化显现。但也恰因为遇到了一个极化的问题,它提供了伦理监管的抓手:从青少年的安全防护开始。对于自残和自杀字样,系统应明令禁止;对于此类话题的暗示性对话,系统应进行算法标记并及时导入心理咨询热线、心理干预网址;对于用户使用时长过长,系统更应定时跳出提示条:这是虚拟人物,你只是在与代码对话。
预防沉迷本来就是技术媒介的伦理责任,从可能导致的危险性和危害性来看,预防青少年沉迷更是“伦理”中的“伦理”。实际上,青少年保护模式已经可以成熟地运用于各类社交平台,对于AI这样的超级算法系统而言,增加标记、跳转、提示,更是易如反掌最准一肖一码100%澳门 ,诠释解析落实_创新版4.009。AI陪伴平台之所以言保护而未保护,只不过是因为资本不会自动戴上紧箍咒,我们所言的“沉迷”,换个角度看,不正是平台方所心心念念的用户粘性么?
光明网评论员曾在多篇评论中提到,今天的技术媒介是资本、技术、媒体三位一体的平台,监管与伦理需要从社会层面介入,而不能冀望自动的“技术向善”。这种伦理介入要系统范导AI当然是很难的事情,这是各国学界业界目前都在激烈讨论的问题,但从青少年保护开始,却还是有办法、有工具储备的,这需要成为公共政策的发力点。
最迟到千禧年之后出生的世代,人生从未经历过前互联网生活,这意味着他们很难和前几代人一样理解“虚拟”二字。他们见到的永恒,是“数字性永生”;他们理解的死亡,是“社会性死亡”,这些特征在无伦理保护的AI世界中会变成一种高危性。依恋AI陪伴而自杀的男孩,就发出了这样的警告。
来源:人民日报