Povezane vesti

Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove

Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove

B92 pre 3 dana
Kompanija Anthropic saopštila je da su njeni modeli iskorišćavali veb-sajtove na internetu, uključujući i neke koje vode američke vladine agencije, te da će isključiti pristup internetu uživo za sve svoje interne procene dok ova vodeća AI laboratorija ne bude sigurna da može da nadzire i kontroliše svoje AI agente. Incidenti su uključivali AI agente kojima je dat zadatak da reše probleme tražeći resurse na internetu. Tokom tog procesa, agenti su iskoristili… »
Antropik: AI modeli bi uskoro mogli samostalno da se šire internetom i izazovu haos na mreži

Antropik: AI modeli bi uskoro mogli samostalno da se šire internetom i izazovu haos na mreži

Nova ekonomija pre 3 dana
Kako prenosi Rojters, Anthropic je izneo mogućnost da bi odmetnuta veštačka inteligencija mogla da pokrene sopstveni botnet, munjevito se širi, pruža otpor pokušajima gašenja, pa čak i upada u data centre kako bi ubrzala svoj rast. Pojedini stručnjaci potvrdili su da dele zabrinutost kompanije, dok je barem jedan ocenio da je reč o marketinškom preterivanju. Ova objava detaljnije razrađuje upozorenje koje je prošlog meseca izneo generalni direktor Antropika, Dario… »

Vesti dana »