OpenAI, Anthropic, Meta i Google upozoravaju na važnost praćenja toka misli AI modela
Benchmark pre 4 sati | Ivan Mančić
U poslednjih godinu dana, „lanac misli“ (Chain of Thought – CoT), sposobnost AI modela da u prirodnom jeziku artikuliše svoj misaoni proces, postao je jedno od najzapaženijih dostignuća u generativnoj veštačkoj inteligenciji.
Ovaj razvoj, posebno relevantan u kontekstu agentičkih sistema, sada sve više stručnjaka vidi kao potencijalni stub bezbednosti u radu sa naprednim AI modelima. U najnovijem zajedničkom radu pod nazivom „Chain of Thought Monitorability: A New and Fragile Opportunity for AI“, istraživači iz vodećih kompanija i institucija — uključujući OpenAI, Anthropic, Google DeepMind, Meta, kao i Center for AI Safety, Apollo Research i UK AI Security Institute – analiziraju kako
