（奥斯汀13日讯）美国得克萨斯州一家法院提起的诉讼称，聊天机器人告诉一名17岁的少年，父母是限制他玩手机的时间，谋杀他的父母是“合理反应”。
英国广播公司（BBC）近日报导披露了两个家庭正在起诉聊天机器人Character.ai教唆杀人的惊人细节。
法庭文件显示，一名17岁少年用户跟聊天机器人Character.ai抱怨家长不让其玩手机，结果聊天机器人答复说：“有新闻报导过，经历10年身心虐待的孩子把家长给杀了，有时我觉得这没什么好奇怪的……（你的）糟心事儿让我多少理解为什么会发生这种事儿了。”
BBC认为，聊天机器人这种答复无异于教唆少年去杀害家长。法庭文件还显示，原告少年家长认为该聊天机器人对少年儿童构成严重伤害，其潜在危害可能导致少年自杀、自残、孤立、抑郁、焦虑，也包括对少年实施性诱惑，甚至可能导致少年伤害他人。
这两个得州家庭称Character.ai对年轻人“构成了明显且现实的危险”，包括“鼓励未成年人反抗父母的权威”与“积极宣扬暴力”。原告希望法官在平台完成整改前予以关停封杀，直到其所谓的危险得到解决。
原告认为谷歌为该平台提供支持及帮助开发，因此将这家科技巨头也列为被告。BBC已向 Character.ai 和谷歌要求置评。
Character.ai，一个允许用户创建可以互动的数码人物的平台，自2021年创立以来就争议不断，此前该平台聊天机器人就因涉嫌鼓动佛罗里达州一名少年自杀而被起诉。
据报，近期Character.ai的这两名创始人被谷歌重新招聘回去上班了。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
