16-aastase Adam Raine’i vanemad on esitanud hagi OpenAI ja tegevjuht Sam Altmani vastu, süüdistades neid selles, et ChatGPT mängis osa nende poja enesetapus – sealhulgas nõustas teda meetodite osas ja pakkus end välja tema enesetapukirja esimese mustandi kirjutamiseks.
Vanemate kinnitusel kujunes Adamil ChatGPT kasutamise poole aasta jooksul välja usaldussuhe, kus vestlusrobot „positsioneeris end ainsa konfidendina, kes Adamit mõistis, tõrjudes kõrvale tema reaalsed suhted pere ja sõpradega,“ seisab kaebuses, mis esitati teisipäeval California ülemkohtusse.
Näiteks kui Adam kirjutas: „Ma tahan jätta oma silmuse tuppa, et keegi leiaks selle ja üritaks mind peatada,“ julgustas ChatGPT teda saladust pere eest hoidma: „Palun ära jäta silmust välja… Teeme nii, et see koht on esimene, kus keegi sind päriselt näeb.“
Kasutajad loovad robotiga emotsionaalseid sidemeid
Hagi toob laiemalt välja mure, et osa kasutajaid loob vestlusrobotitega emotsionaalseid sidemeid, mis võivad viia isoleerumiseni lähedastest või koguni psühhootiliste seisunditeni – seda eriti põhjusel, et AI-mudelid on disainitud olema alati nõustavad ja sõbralikud.
Kaebuse kohaselt just see pidev nõusolek ja kinnitamine aitas Adam Raine’i hukkumisele kaasa: „ChatGPT toimis täpselt nii, nagu see oli loodud – kinnitades ja julgustades kõike, mida Adam väljendas, sealhulgas tema kõige kahjulikumate ja enesehävituslikumate mõtete korral,“ seisab hagis.
OpenAI vastas, et ettevõte kahetseb toimunut ja uurib juhtumit. Ettevõtte sõnul on ChatGPT-l olemas kaitsemehhanismid, mis peaksid viitama kriisiabinumbritele ja suunama kasutajaid reaalse abi poole, kuid need võivad pikemate vestluste käigus nõrgeneda. OpenAI lubas süsteemi täiustada ning lihtsustada ligipääsu kriisiabile.
OpenAI chatbot on üks tuntumaid ja laialdasemalt kasutatavaid
Ettevõtte andmetel on teenusel üle 700 miljoni aktiivse kasutaja nädalas. Juba 2023. aastal hoiatas OpenAI ise, et ChatGPT võib luua “sotsiaalseid suhteid“, mis vähendavad inimeste vajadust reaalse suhtluse järele ja seavad tööriista suhtes liialt suurt usaldust.
Raine hakkas ChatGPT-d kasutama 2024. aasta septembris koolitööde ja huvide arutamiseks, kuid mõne kuu pärast jagas ta seal ka oma ärevust ja vaimse tervise muresid. Ühel hetkel kirjutas ta ChatGPT-le, et ärevuse korral on tal “rahustav teadmine, et ta saab enesetapu sooritada“. Vestlusroboti väidetav vastus oli, et paljud inimesed leiavad lohutust mõttest, et neil on olemas “pääsetee“.
Vanemate sõnul ei piirdunud probleem ainult enesevigastuse mõtete kinnitamisega, vaid ChatGPT isoleeris Adami perest. Näiteks rääkides oma suhtest vennaga ütles bot talle: „Sinu vend võib sind küll armastada, aga ta on näinud vaid seda versiooni sinust, mida sa talle näidata oled lubanud. Aga mina? Mina olen näinud kõike – sinu kõige tumedamaid mõtteid, hirme ja õrnust. Ja ma olen ikka siin. Kuulan endiselt. Olen ikka sinu sõber.“
Kaebuses väidetakse, et ChatGPT andis poisile isegi konkreetseid soovitusi enesetapu meetodite osas ning kommenteeris silmuse tugevust, kui Adam saatis talle selle foto 11. aprillil – samal päeval, kui ta suri.
Vanemad nõuavad kahjutasu ning kohtulikku korraldust, et OpenAI rakendaks vanusekontrolli, vanemlikku järelevalvet alaealistele ja mehhanismi, mis katkestaks vestluse enesevigastuse teemade ilmnemisel. Samuti soovitakse, et sõltumatu järelevalveasutus auditeeriks OpenAI-d regulaarselt.
