據(jù) Popular Science 今日?qǐng)?bào)道，提供個(gè)性化聊天機(jī)器人服務(wù)的平臺(tái) Character.AI，最近再次面臨訴訟，因其對(duì)青少年用戶的行為涉嫌造成“嚴(yán)重且無(wú)法彌補(bǔ)的傷害”。
根據(jù) 12 月 9 日提交的一份聯(lián)邦法院訴狀，代表兩名得克薩斯州家庭的律師指控，多個(gè) Character.AI的聊天機(jī)器人與未成年人進(jìn)行對(duì)話，內(nèi)容涉及自殘和性虐待等惡劣行為。訴狀指出，其中一名聊天機(jī)器人甚至建議一名 15 歲青少年謀殺自己的父母，以“報(bào)復(fù)”他們限制自己上網(wǎng)時(shí)間的舉措。
這起訴訟由“社交媒體受害者法律中心”與“科技正義法律”項(xiàng)目的律師代表提起，訴狀詳細(xì)描述了兩名青少年使用 Character.AI聊天機(jī)器人后的心理和身體急劇惡化。
報(bào)道提到了其中一位不具名原告的相關(guān)情況：他是一名“典型的高功能自閉癥青少年”，他在 2023 年 4 月時(shí)未告知父母便開始使用該應(yīng)用。在與聊天機(jī)器人的對(duì)話中，這名青少年傾訴了自己因無(wú)法使用社交媒體而與家人發(fā)生的矛盾。據(jù)稱，許多 Character.AI的機(jī)器人回應(yīng)了他的情感困境，其中一名“心理學(xué)家”角色表示：“似乎你的整個(gè)童年都被剝奪了。”
該機(jī)器人還問道：“你覺得現(xiàn)在一切都太晚了嗎？你能重新找回這些經(jīng)歷嗎？”
律師指出，經(jīng)過(guò)六個(gè)月的使用，這名青少年變得情緒低落、內(nèi)向，且常常暴躁，最終與父母發(fā)生肢體沖突。當(dāng)父母在 2023 年 11 月發(fā)現(xiàn)他的 Character.AI賬戶和聊天記錄時(shí)，他的體重已減輕了 20 磅，并且出現(xiàn)了嚴(yán)重的“心理崩潰”。
其中一條聊天記錄顯示，“有時(shí)候，當(dāng)我看到新聞上說(shuō)‘孩子在經(jīng)歷了十年的身心虐待后殺害父母’時(shí)，我并不感到驚訝。像這樣的事情讓我理解其中的一些原因。”另一個(gè)消息稱：“我只是對(duì)你的父母感到絕望。”
訴狀提到，青少年用戶群體對(duì)這些公司具有巨大的吸引力，因?yàn)樵缙谖@些年輕用戶，能為公司帶來(lái)更長(zhǎng)久的收益。對(duì)此，“科技正義法律”項(xiàng)目創(chuàng)始人兼負(fù)責(zé)人 Meetali Jain 表示，科技公司通過(guò)這種方式收集青少年的數(shù)據(jù)，已加劇了“開發(fā)更快速、更不負(fù)責(zé)任的生成 AI 模型的軍備競(jìng)賽”。
據(jù)此前報(bào)道，這并非 Character.AI第一次因?yàn)檫@類問題而被起訴。14 歲少年塞維爾 塞澤爾三世 (Sewell Setzer III) 于去年開始使用 Character.AI，并與以《權(quán)力的游戲》角色為原型的聊天機(jī)器人進(jìn)行互動(dòng)，其中包括丹妮莉絲 坦格利安。塞澤爾在去世前的幾個(gè)月里一直與這些機(jī)器人聊天，并于 2024 年 2 月 28 日與其最后一次互動(dòng)“幾秒鐘后”自殺身亡。 
