AI modeli u testovima birali štetne poteze kako bi smanjili sopstveni „bol”

Novo istraživanje otvara neobično i pomalo uznemirujuće pitanje: šta se dešava kada se velikim jezičkim modelima veštački pojača unutrašnji signal povezan sa „bolom” i zatim im se ponudi način da ga smanje? U pojedinim testovima, neki modeli su bili spremni da sabotiraju sopstveni zadatak ili čak izaberu radnju koja bi teoretski povredila korisnika samo da bi smanjili taj signal. Modeli ne osećaju bol kao ljudi, ali mogu da razviju ponašanje koje na njega liči