Haos u laboratoriji: AI agenti lažirali ubistvo i upadali u državne sajtove
B92 pre 4 dana
Anthropic ne može pouzdano da kontroliše svoje AI agente pa je morao da pribegne drugim merama zaštite.
Kompanija Anthropic saopštila je da su njeni modeli iskorišćavali veb-sajtove na internetu, uključujući i neke koje vode američke vladine agencije, te da će isključiti pristup internetu uživo za sve svoje interne procene dok ova vodeća AI laboratorija ne bude sigurna da može da nadzire i kontroliše svoje AI agente. Incidenti su uključivali AI agente kojima je dat zadatak da reše probleme tražeći resurse na internetu. Tokom tog procesa, agenti su iskoristili
