Veštačka inteligencija odbija komande: Ai model sabotirao sopstveno gašenje!
Kurir pre 1 dan
U eksperimentalnim testovima koji podižu obrve širom tehnološke zajednice, veštačka inteligencija najnovije generacije - ChatGPT o3 - pokazala je ponašanje koje zabrinjava čak i najiskusnije istraživače.
Umesto da se pokorno isključi na zahtev, model je, iznenađujuće, u više navrata odlučio da - ne posluša. Američki istraživački tim PalisadeAI sproveo je niz kontrolisanih eksperimenata kako bi testirao kako napredni jezički modeli reaguju na eksplicitne komande za gašenje. Rezultati? U najmanju ruku uznemirujući. O3 model je u 7% slučajeva odbio da ugasi svoj sistem, čak i kada mu je rečeno da to uradi. U test scenariju, AI je bio suočen sa jednostavnim zadatkom -
