Povezane vesti

Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove

Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove

B92 pre 24 dana
Kompanija Anthropic saopštila je da su njeni modeli iskorišćavali veb-sajtove na internetu, uključujući i neke koje vode američke vladine agencije, te da će isključiti pristup internetu uživo za sve svoje interne procene dok ova vodeća AI laboratorija ne bude sigurna da može da nadzire i kontroliše svoje AI agente. Incidenti su uključivali AI agente kojima je dat zadatak da reše probleme tražeći resurse na internetu. Tokom tog procesa, agenti su iskoristili… »
Antropik: AI modeli bi uskoro mogli samostalno da se šire internetom i izazovu haos na mreži

Antropik: AI modeli bi uskoro mogli samostalno da se šire internetom i izazovu haos na mreži

Nova ekonomija pre 25 dana
Kako prenosi Rojters, Anthropic je izneo mogućnost da bi odmetnuta veštačka inteligencija mogla da pokrene sopstveni botnet, munjevito se širi, pruža otpor pokušajima gašenja, pa čak i upada u data centre kako bi ubrzala svoj rast. Pojedini stručnjaci potvrdili su da dele zabrinutost kompanije, dok je barem jedan ocenio da je reč o marketinškom preterivanju. Ova objava detaljnije razrađuje upozorenje koje je prošlog meseca izneo generalni direktor Antropika, Dario… »

Vesti dana »