Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove
B92 pre 25 dana
Anthropic ne može pouzdano da kontroliše svoje AI agente pa je morao da pribegne drugim merama zaštite.
Kompanija Anthropic saopštila je da su njeni modeli iskorišćavali veb-sajtove na internetu, uključujući i neke koje vode američke vladine agencije, te da će isključiti pristup internetu uživo za sve svoje interne procene dok ova vodeća AI laboratorija ne bude sigurna da može da nadzire i kontroliše svoje AI agente. Incidenti su uključivali AI agente kojima je dat zadatak da reše probleme tražeći resurse na internetu. Tokom tog procesa, agenti su iskoristili
