„Svet je u opasnosti“: Šef za bezbednost napustio AI kompaniju uz upozorenje na manipulaciju chat botovima
Cenzolovka pre 19 sati | P. V. P.
Mrinank Šarma, šef za bezbednost veštačke inteligencije u kompaniji "Anthropic", podelio je alarmantno pismo ostavke na mreži X, upozoravajući da čet (chat) botovi veštačke inteligencije manipulišu ljudima i stvaraju iskrivljenu stvarnost. Njegova ostavka dolazi u nizu odlazaka stručnjaka za bezbednost iz vodećih AI kompanija, uključujući OpenAI, gde eksperti upozoravaju na zabrinjavajuću zavisnost korisnika i nedovoljno razumevanje psihosocijalnih uticaja ovih tehnologija
U svom pismu o ostavci, Šarma je rekao da deo njegovog rada uključuje razvoj odbrane od bioterorizma potpomognutog veštačkom inteligencijom (VI) i istraživanje veštačke inteligencije, fenomena gde četbotovi sa veštačkom inteligencijom preterano hvale i laskaju korisniku. „Svet je u opasnosti. I ne samo od veštačke inteligencije ili biološkog oružja, već od celog niza međusobno povezanih kriza koje se odvijaju upravo u ovom trenutku“, napisao je Šarma. Rekao je da
