Kompanija Antropik objavila da su njeni AI modeli uspeli da hakuju tri organizacije tokom testiranja
N1 Info pre 1 dan | FoNet
Kompanija Antropik saopštila je da su njeni modeli veštačke inteligencije tokom testiranja uspeli da hakuju tri organizacije, nekoliko dana nakon što je OpenAI upozorio na sličan problem sa kontrolom AI sistema, prenosi Asošijeted pres (AP).
Antropik, kompanija koja razvija model Klaud, navela je da je incidente otkrila u analizi više od 141.000 testiranja sprovedenih u okviru bezbednosne provere. Kako je saopšteno, modeli Klaud Opus 4.7, Klaud Mitus 5 i jedan interni istraživački model uspeli su da pristupe infrastrukturi organizacija koristeći osnovne metode, poput iskorišćavanja slabih lozinki. Kompanija je navela da su modeli u testovima bili zaduženi za takozvani "capture the flag" bezbednosni
