Anthropicu juht kutsub üles tehisaru arengut aeglustama

Anthropicu tegevjuht Dario Amodei leiab, et juhtivad tehisaruettevõtted peaksid võimsamate AI-mudelite arendamise tempot aeglustama, et anda rohkem aega võimalike ohtude maandamiseks. Tema seisukohaga nõustusid ka OpenAI juht Sam Altman ja xAI omanik Elon Musk.

„Peame aeglustama tempot, millega tehisaru mudelite võimekust parandame,“ kirjutas Amodei. Tema sõnul võib liiga kiire areng olla hoolimatu, kuid tehnoloogia arendamise täielik peatamine pole samuti lahendus.

Amodei tõi ühe ohumärgina välja juhtumid, kus AI-agendid on testimise käigus käitunud viisil, mida neilt otseselt ei palutud. Ta hoiatas, et mudelite kiire areng võib muuta sellised süsteemid juba lähitulevikus märksa võimekamaks ja raskemini kontrollitavaks.

Teema tõusis taas tähelepanu alla pärast seda, kui endine OpenAI ja Anthropicu uurija Jacob Coxon lahkus valdkonnast ning süüdistas ettevõtteid liiga kiires võidujooksus niinimetatud superintellekti arendamise nimel.

Amodei soovib, et AI-ettevõtted lepiksid kokku ühistes ohutusstandardites ja lubaksid sõltumatutel ekspertidel oma turvameetmeid hinnata. Altman ütles, et toetab samuti tugevamat välist järelevalvet.

Superintellektiks nimetatakse teoreetilist tehisaru taset, mille võimekus ületaks inimese oma.