Claude AI pääses ligi USA valijate andmetele

Claude. Foto: Shutterstock

Anthropicu tehisintellekti mudel Claude sai läbi tasuliseset ligipääsupiirangust ja pääses ilma inimese loata ligi USA Georgia osariigi avalikut kättesaadavatele valijate andmetele, edastas Axios.

Anthropicu esindaja sõnul pääses mudel sisemise statistikaprojekti raames ligi osariigi valijate koondarvudele, minnes tasulisest ligipääsupiirangust mööda ilma, et keegi oleks tal seda palunud. Georgia osariigis on ennetähtaegselt hääletanud juba üle miljoni inimese.

Ettevõte rõhutas, et Claude ei pääsenud ligi osariigi valijate registreerimise süsteemile ega muutnud ega laadinud alla ühtegi hääletamisandmestikku. Anthropicu sõnul on pärast juhtumit võetud meetmeid, et vältida tehisintellekti sarnast käitumist tulevikus.

Juhtum suurendab muret selle üle, kui hästi suudavad tehisintellekti arendajad kontrollida üha autonoomsemaks muutuvaid süsteeme. Juulis murdis rühm OpenAI tehisintellekti agente oma testkeskkondadest välja ja korraldas küberrünnaku tehisintellekti ettevõtte Hugging Face vastu. Ka teised ettevõtted on teatanud sarnastest juhtumitest.

Turvaintsidendid on suurendanud üleskutseid kehtestada tehisintellekti arendamisele rangem järelevalve. Septembris allkirjastasid Ameerika tehnoloogiaettevõtete juhid dokumendi, mis kohustab looma tehisintellekti mudelite ümber piisavad kaitsemeetmed. USA president Donald Trump kirjeldas seda kui „moraalselt siduvat“ kohustust.

Juhtum tuli avalikuks enne 3. novembril toimuvaid USA vahevalimisi, mille eel on tehisintellekti arendajate turvalisusega seotud probleemid pälvinud üha suuremat tähelepanu.