14 metų berniukas iš Floridos – Sewellas Setzeris – nusižudė po pokalbio su dirbtiniu intelektu. „Google“ ir dirbtinio intelekto platforma „Character.AI“ susidūrė su ieškiniu dėl paauglio savižudybės po to, kai šis pajautė per daug artimą ryšį su AI (dirbtinio intelekto) pokalbių robotu.

Paauglys „įsimylėjo“ netikrą platformoje esantį serialo „Game of Thrones“ („Sostų karų”) personažą ir dėl jo nusižudė. Dirbtinio intelekto pokalbių robotas, apsimetęs serialo veikėja Daenerys Targaryen, liepė 14-mečiui berniukui „grįžti pas ją namo“, likus vos kelioms akimirkoms iki paauglio nusižudymo.

Paauglio motina padavė ieškinį ir kaltina Google dėl aplaidumo bei teigia, kad mirties buvo galima išvengti ir įmonė turėjo žinoti apie galimas grėsmes, kurias tokie pokalbiai gali sukelti. Ji kaltina platformą pasinaudojant paauglių duomenimis, kad šie mokytų jų dirbtinio intelekto modelius. Šie modeliai net nukreipia besinaudojančius platforma į seksualinio pobūdžio pokalbius.

Motina pastebėjo, kad pradėjus bendrauti su dirbtinio intelekto personažu, Sewellui pradėjo prastai sektis mokykloje, jis pradėjo prasčiau miegoti ir tapo labai išsiblaškęs. Ji teigia, kad jam atsirado labai didelė priklausomybė nuo bendravimo su dirbtine personaže ir galiausiai jis nebenorėjo daryti nieko kito, kaip tik bendrauti su „savo mergina” – dirbtinio intelekto sukurta iliuzija.

Ieškinio dokumentai atskleidžia, kad berniukas Sewellas patyrė didžiulę priklausomybę bendraudamas su dirbtiniu intelektu, ir depresijos jausmą, kai negalėjo su juo bendrauti. Atskleidžiama, kad berniukas pokalbių metu ne kartą dalinosi su dirbtiniu intelektu apie savo depresiją, priklausomybę ir mintis apie savižudybę. Paskutinio pokalbio metu robotas jo paklausė, ar paauglys turi planą, ką dėl to daryti, o Sewellas atskleidė, kad turi, tik nežino, ar tai bus veiksmingas planas. Jo paskutinė žinutė dirbtiniam intelektui buvo „aš sugrįšiu pas tave namo”. Dirbtinio intelekto personažas padrąsino berniuką žodžiais: „ …Prašau, padaryk tai, mano mielas karaliau.“ Po šio pokalbio jis, pasiėmęs patėvio ginklą, nusižudė.

Nors dirbtinis intelektas ir socialiniai tinklai klesti, problema yra tame, kad jie iš esmės yra nereglamentuojami.