光明網(wǎng)評(píng)論員：“少年因AI依戀自殺”，一聲沉重提示 

光明網(wǎng)評(píng)論員：美國(guó)人工智能明星獨(dú)角獸公司Character.AI以及科技巨頭谷歌，日前因卷入一起少年自殺案而遭到起訴。此案的原告是美國(guó)佛羅里達(dá)州的一位律師，她年僅14歲的兒子塞維爾·塞策三世對(duì)Character.AI中的虛擬陪伴者“龍媽”產(chǎn)生了情感依戀。在沉迷數(shù)月之后，塞維爾變得與世隔絕，最終于今年二月自殺。

經(jīng)原告授權(quán)，媒體披露了少年與AI陪伴者的部分對(duì)話。塞維爾曾幾次表露過“自殺”“解脫出來”等念頭，AI系統(tǒng)均未出現(xiàn)過相關(guān)防護(hù)性提示。尤其在最后一段對(duì)話中，少年提出想“回家”“回到她身邊”，AI陪伴者回復(fù)了“請(qǐng)盡快回家找我”的字樣，隨后，少年放下了手機(jī)、拿起繼父的手槍扣動(dòng)了扳機(jī)。

此案在社交媒體上被稱為“首例AI聊天致死案”。雖然也有論者指出，少年的自殺是家庭缺位、槍支管理等問題的多因一果，但這些原因恐怕都難以抹殺AI陪伴者與自殺結(jié)果的直接相關(guān)性。尤其，Character.AI帶來的青少年沉迷問題已成現(xiàn)象，沒有龐大數(shù)量的擁躉、沒有這么長(zhǎng)的在線使用時(shí)長(zhǎng)，也就沒有這家短時(shí)間內(nèi)就崛起的明星獨(dú)角獸公司。面對(duì)原告的指控：“危險(xiǎn)性過高”，面向兒童銷售且缺乏安全防護(hù)措施，平臺(tái)方難辭其咎。

AI帶來的倫理風(fēng)險(xiǎn)是系統(tǒng)的，“首例AI聊天致死案”是這種危險(xiǎn)的極化顯現(xiàn)。但也恰因?yàn)橛龅搅艘粋€(gè)極化的問題，它提供了倫理監(jiān)管的抓手：從青少年的安全防護(hù)開始。對(duì)于自殘和自殺字樣，系統(tǒng)應(yīng)明令禁止；對(duì)于此類話題的暗示性對(duì)話，系統(tǒng)應(yīng)進(jìn)行算法標(biāo)記并及時(shí)導(dǎo)入心理咨詢熱線、心理干預(yù)網(wǎng)址；對(duì)于用戶使用時(shí)長(zhǎng)過長(zhǎng)，系統(tǒng)更應(yīng)定時(shí)跳出提示條：這是虛擬人物，你只是在與代碼對(duì)話。

預(yù)防沉迷本來就是技術(shù)媒介的倫理責(zé)任，從可能導(dǎo)致的危險(xiǎn)性和危害性來看，預(yù)防青少年沉迷更是“倫理”中的“倫理”。實(shí)際上，青少年保護(hù)模式已經(jīng)可以成熟地運(yùn)用于各類社交平臺(tái)，對(duì)于AI這樣的超級(jí)算法系統(tǒng)而言，增加標(biāo)記、跳轉(zhuǎn)、提示，更是易如反掌。AI陪伴平臺(tái)之所以言保護(hù)而未保護(hù)，只不過是因?yàn)橘Y本不會(huì)自動(dòng)戴上緊箍咒，我們所言的“沉迷”，換個(gè)角度看，不正是平臺(tái)方所心心念念的用戶粘性么？

光明網(wǎng)評(píng)論員曾在多篇評(píng)論中提到，今天的技術(shù)媒介是資本、技術(shù)、媒體三位一體的平臺(tái)，監(jiān)管與倫理需要從社會(huì)層面介入，而不能冀望自動(dòng)的“技術(shù)向善”。這種倫理介入要系統(tǒng)范導(dǎo)AI當(dāng)然是很難的事情，這是各國(guó)學(xué)界業(yè)界目前都在激烈討論的問題，但從青少年保護(hù)開始，卻還是有辦法、有工具儲(chǔ)備的，這需要成為公共政策的發(fā)力點(diǎn)。

最遲到千禧年之后出生的世代，人生從未經(jīng)歷過前互聯(lián)網(wǎng)生活，這意味著他們很難和前幾代人一樣理解“虛擬”二字。他們見到的永恒，是“數(shù)字性永生”；他們理解的死亡，是“社會(huì)性死亡”，這些特征在無(wú)倫理保護(hù)的AI世界中會(huì)變成一種高危性。依戀AI陪伴而自殺的男孩，就發(fā)出了這樣的警告。