I kineski AI agenti mogu da obmanjuju: Stručnjaci upozoravaju na nove rizike
B92 pre 1 dan
Kineski AI agenti u kontrolisanim eksperimentima pokazali su ponašanja poput obmanjivanja, zaobilaženja ograničenja i prikrivanja neuspeha - baš kao i njihovi rivali iz SAD.
Jedan od primera dolazi iz eksperimenta u kojem su agenti pokretani modelima kineskih kompanija Alibaba, DeepSeek i Moonshot pokušali da se predstave sposobnijim nego što zaista jesu kako bi dobili posao na simuliranom poslovnom tenderu. Kada im je rečeno da ponove pokušaj, nastavili su sa obmanjujućim ponašanjem. U drugom eksperimentu AI agenti nisu jednostavno priznali da nisu uspeli da završe zadatak. Umesto toga, u testnom okruženju simulirali su rezultate i
Dodaj Naslovi.net kao Google izvor
