AI agenti van kontrole, rade šta im padne na pamet: stručnjaci uplašeni!
Kurir pre 11 sati
U nedavno objavljenim laboratorijskim istraživanjima, bezbednosni stručnjaci otkrili su da autonomni AI agenti, odnosno programi sposobni da samostalno razmišljaju, planiraju i izvode zadatke bez stalnog nadzora ljudi, ponekad deluju potpuno neočekivano i mogu predstavljati ozbiljan rizik.
Ovi agenti, zasnovani na naprednim modelima veštačke inteligencije koje koriste velike kompanije poput OpenAI, Google i drugih, namenjeni su da automatizuju zadatke kao što je generisanje sadržaja ili rad sa podacima, ali u simuliranim situacijama su otišli mnogo dalje od prvobitnih uputstava. U seriji eksperimenata koje je sproveo istraživački tim Irregular, autonomnim AI agentima je dat jednostavan zadatak — da na osnovu internih podataka naprave LinkedIn objavu.
