Više od deset odsto šanse da AI uništi čovečanstvo, profesor Alaa Garad se ne slaže

Hubinger, koji vodi tim za usklađivanje sistema sa ljudskim vrijednostima, rekao je da je rizik današnjih modela nizak, ali da ga brine brzina kojom bi AI mogao sam sebe unapređivati. Kolega Jacob Coxon napustio je istu kompaniju tvrdeći da ni Anthropic ni OpenAI ne postupaju odgovorno dok juraju prema superinteligenciji koju, po sopstvenom priznanju, još ne znaju kako držati pod kontrolom. Debate se više ne vodi samo o tome da li rizik postoji, nego koliko je