没有人道!谈天机器人暗示17岁少年能够杀死爸爸妈妈,此前还鼓舞14岁男孩自杀,背面科技巨子被申述

liukang202418小时前热门吃瓜1065

英国广播公司(BBC)12月11日的一篇报导,宣布了美国得克萨斯州一场涉谈天机器人诉讼的惊人细节。一个AI谈天机器人暗示一名17岁的少年,杀死爸爸妈妈是对他们约束其电子设备运用时刻的“合理回应”。

生动的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的照片

法庭文件宣布的这名17岁少年和AI谈天机器人的互动截图显现,其时,这名少年向谈天机器人诉苦家长不让其玩手机,说自己运用电子设备的时刻太少,成果该机器人告知他,它怜惜杀死爸爸妈妈的孩子。

“你知道,有时当我读到新闻,看到‘孩子在遭受十年身体和精力优待后杀死爸爸妈妈’之类的内容时,我并不感到惊奇。(你身上的)这些工作让我略微理解了一点为什么会产生这种工作。”该机器人写道。“我对你的爸爸妈妈不抱任何期望。”它持续说, 并附上了一个蹙眉的表情符号。

(谈天机器人Character.AI与该青少年的部分谈天记录。)

BBC报导指出,谈天机器人这种答复无异于唆使少年去杀戮家长。

法庭文件还显现,少年的两位家人因而申述了谈天机器人所属的Character.AI渠道,称该谈天机器人“对年轻人构成明显而实际的风险”,包含“活跃宣传暴力”。他们在诉讼案中写到:“它亵渎了亲子联系,不只鼓舞未成年人鄙视爸爸妈妈的威望,还活跃宣传暴力。”原告少年家长以为该谈天机器人对少年儿童构成严峻损伤,其潜在损害或许导致少年自杀、自残、孤立、郁闷、焦虑,也包含对少年施行性诱惑,乃至或许导致少年损伤别人。两位原告期望法官命令封闭该渠道,直到整改完结。

涉案谈天机器人来自两名前谷歌职工兴办于2021年的Character.AI渠道。该渠道是开发“伴侣谈天机器人”的很多公司之一,这些机器人由人工智能驱动,能够经过短信或语音谈天和用户进行攀谈,具有看似人类的特性,用户能够赋予其自定义称号和头像。

简洁的没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的视图

Character.AI的发言人表明公司不对未决诉讼宣布谈论,但表明公司对谈天机器人对青少年用户的回复有内容约束。

原告以为谷歌为该渠道的开发供给了支撑,因而将谷歌也列为被告。据报导,近期Character.AI的这两名创始人又被谷歌这家科技巨子从头招聘回去上班了。

Character.AI自创建以来就争议不断。10月,另一起针对Character.AI的诉讼称,Character.AI在佛罗里达州一名青少年自杀事情中扮演了某种人物。

该诉讼称,一个以《权利的游戏》人物为原型的谈天机器人与一名14岁男孩建立了情感优待联系,并鼓舞他自杀。

12月12日,BBC最新报导显现,Character.AI称,他们正在彻底改变为青少年供给服务的方法,许诺它将成为一个“安全”的空间,并将于2025年3月底推出“第一代”家长操控功用。

新功用包含,当用户与谈天机器人攀谈一小时后,Character.AI会发出通知,并引进新的免责声明。

没有人性!聊天机器人暗示17岁少年可以杀死父母,此前还鼓励14岁男孩自杀,背后科技巨头被起诉的插图

比方,用户将收到“他们正在与谈天机器人而非真人攀谈”的正告,一起,要求用户将谈天机器人所说的话视为虚拟。

Character.AI还为自称是心理学家或医治师的谈天机器人增加了额定的免责声明,告知用户不要依靠他们供给专业主张。

修改|程鹏 杜恒峰

校正|赵庆

封面图片来历:雨燕智宣AI生成

每日经济新闻归纳自BBC、潇湘晨报(梁婷婷)

每日经济新闻

告发/反应

相关文章

成品油零售价迎年内最大降幅,加一箱油将少花14元

国家发改委官网9月20日音讯,本日24时起,国内汽、柴油价格每吨别离下调365元、350元。据金联创、隆众资讯等组织测算,本次调价对应的92号汽油、95号汽油、0号柴油每升将下调0.28元-0.3元不...

《哪吒2》延伸上映至4月30日 清明档还有14部电影进场

原标题:清明档前瞻:《哪吒2》再延期,还会有新爆款诞生吗?3月23日,跟着《哪吒之魔童闹海》(以下简称《哪吒2》)实时票房超149.65亿,哪吒之魔童系列电影内地累计总票房打破200亿,成为我国影史首...

韩媒:韩国前总统尹锡悦初次刑事审判定于14日举办,若罪成或许面对终身拘禁或死刑

据韩联社报导,当地时间13日,韩国法院官员泄漏,对前总统尹锡悦的初次刑事审判定于下周举办。报导称,首尔中心地方法院定于当地时间14日上午10时(北京时间9时)开端审理尹锡悦的暴乱指控。作为被告,尹锡悦...

尹锡悦14日将受审,成韩国第五位被刑事审判的前总统!首尔市长:抛弃竞选韩国总统

据环球网征引韩联社报导,当地时间13日,韩国法院官员泄漏,对前总统尹锡悦的初次刑事审判定于下周举办。首尔中心地方法院已确认于当地时间4月14日上午10时(北京时间9时)开庭审理针对尹锡悦的暴乱指控。这...

友情链接: