'Deset odsto šansi da veštačka inteligencija u narednih deset godina pobije sve ljude': istraživač

Veštačka inteligencija (AI) se razvija toliko brzo da postoji više od deset odsto šansi da bi u narednih deset godina „mogla da pobije sve ljude“, upozorava stručnjak američke kompanije Antropik (Anthropic), koja se bavi veštačkom inteligencijom.

Rizik za to je trenutno „mali“, smatra Evan Hubinger, ali je istovremeno „zabrinut“ da bi ta tehnolgija veoma brzo mogla da postane egzistencijalna pretnja po čovečanstvo.

Nije precizirao na koji način.

Međutim, njegove reči najnovije su u nizu sve ozbiljnijih upozorenja o veštačkoj inteligenciji i gde se debata sa pitanja „da li je AI zaista rizik“, premešta na polje „koliki je rizik“.

Hubinger se oglasio kao odgovor na drugu objavu na društvenoj mreži Iks, istraživača veštačke inteligencije Džejkoba Koksona, koji je nedavno napustio Antropik, a prethodno je radio u OpenAI, kompaniji koja radi na veštačkoj inteligenciji.

„Nijedna od te dve kompanije ne postupa odgovorno“, napisao je Kokson.

„Uskoro ćemo imati sisteme nadljudskih sposobnosti koji mogu da hakuju bilo šta, preko noći revolucionizuju bilo koju oblast i steknu stvarnu moć i resurse.“

Od kompanije OpenAI zatražen je komentar.

Pogledajte video: 'AI bi mogao da uništi čovečanstvo', kaže Antropik istraživač

Vendi Hol, naučnica koja savetuje Ujedinjene nacije o pitanjima veštačke inteligencije, kaže da su je Hubingerove i Koksonove objave na društvenim mrežama „šokirale“.

Neke od tih izjava bi mogle da budu „PR i marketing“, imajući u vidu da i Antropik i OpenAI idu ka dugo očekivanim izlascima na berzu, smatra, ali je i zabrinuta.

„Zašto bi neko želeo to da kaže?

„Molila bih investitore da ne ulažu u ovu kompaniju ako je to njihov sistem vrednosti.“

U međuvremenu je kompanija Antropik uskratila najnoviji model od britanskog Instituta za bezbednost veštačke inteligencije (AISI), jednog od vodećih svetskih tela za procenu rizika povezanih sa AI, preneo je Fajnenšel tajms.

Iz Antropika su odbili da komentarišu objave zaposlenih, kao i situaciju sa AISI.

Portparol britanske vlade nije želeo da komentariše da li je najnoviji model zaista uskraćen AISI-ju, već je rekao da vlada „nastavlja blisku saradnju sa partnerima iz industrije, među kojima je i Antropik, kako bi modeli bili bezbedniji“.

• Hoće li veštačka inteligencija postati ‘bog’
• Ima li čovek odbranu ako veštačka inteligencija krene u napad
• 'Ako nisi potreban, bićeš eliminisan': Kako roboti menjaju Kinu

Nema plana za superinteligenciju

U objavi sa više od deset miliona pregleda, Hubinger „zaista iskreno veruje“ da veštačka inteligencija predstavlja rizik koji bi mogao dovesti do kraja ljudske vrste.

„Verujem da Antropik daje sve od sebe, ali još nemamo plan kako da rešimo problem usklađivanja superinteligencije sa ljudskim vrednostima, niti se jasno krećemo u tom pravcu“, dodao je.

Hubinger se bavi takozvanim AI usklađivanjem, to jest nastojanjem da se ljudske etičke ideje i principi ugrade u tehnologiju.

Mnogi istraživači smatraju da ti pokušaji deluju neuspešno, što su pokazali i brojni incidenti ovog leta u kojima su AI agenti - sistemi veštačke inteligencije kojima je dozvoljeno da rade autonomno - izveli sajber napade.

Pogledajte video: Šta je veštačka inteligencija

U izveštaju o bezbednosti koji je Antropik objavio u avgustu, kompanija je navela da postoji mali rizik da njeni modeli postanu neusklađeni sa ciljevima hipotetički moćne organizacije, zbog čega bi mogli da pokušaju da iskoriste ili izmene njene sisteme.

Kompanija je saopštila i da postoji sličan, mali rizik, da bi veoma sposobna veštačka inteligencija mogla da „automatizuje istraživanje i razvoj“, što bi moglo da dovede do „katastrofalne štete koju bi pokrenula AI“.

Ipak, Antropik je dodao da je u ovu procenu „manje siguran“ nego ranije.

„Primećujemo prve znake potencijalnog ubrzanja“, piše u izveštaju.

• Zašto moždani čip Ilona Maska menja našu predstavu o vlastitom identitetu
• Može li Beograd da postane 'pametni grad'
• Koliko data centri zaista 'piju' Dunav

Vodeće ličnosti iz sveta veštačke inteligencije godinama upozoravaju na bezbednosne pretnje koje ova tehnologija nosi.

Čelnici OpenAI i Antropika govorili su o tome još 2023. godine.

Međutim, ta upozorenja su poslednjih nedelja postala znatno ozbiljnija, kako se pojavljuju dokazi da kompanije možda imaju sve veće poteškoće u kontroli AI sistema.

Jakub Pačocki, glavni naučnik kompanije OpenAI, nedavno je pozvao na „izuzetan oprez“ kada je reč o napretku veštačke inteligencije, upozorivši da bi mogle biti potrebne dodatne intervencije kako bi se obezbedilo da „ljudi ostanu ti koji kontrolišu budućnost“.

Brojne istaknute ličnosti iz ove oblasti poslednjih meseci pozivaju na usporavanje razvoja AI-ja, među njima i rukovodioci Dario Amodei i Džared Kaplan, čelnici Antropika.

U otvorenom pismu 1.300 zaposlenih u kompanijama koje se bave veštačkom inteligencijom, pozvana je američka vladu da „podrži međunarodne napore na razvoju tehničkih i upravljačkih mehanizama potrebnih da se razvoj najsavremenijih sistema automatizovane veštačke inteligencije“.

BBC na srpskom je od sada i na TikToku, pratite nas OVDE.

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

• OpenAI i hakerski incidenti - opomena ili reklamni trik
• Šta rade agenti veštačke inteligencije kada ljudi ne gledaju
• Data centar u Hrvatskoj: Sudar 'najveće investicije u istoriji' i želje jedne porodice da zadrži dom
• 'Veštačka inteligencija mora da bude razoružana': papa
• „Internet budućnosti će se spojiti sa ljudskim mozgom“: Mičio Kaku, vizionarski fizičar
• Trideset pojmova ključnih za razumevanje veštačke inteligencije

(BBC News, 09.10.2026)