Veštačka inteligencija van kontrole? Kakve posledice nosi izlazak AI sistema na internet

Od početka godine zabeleženo je nekoliko slučajeva u kojima su autonomni AI agenti tokom testiranja pronašli načine da zaobiđu postavljena ograničenja, pristupe sistemima za koje nisu imali ovlašćenja, ili pokušali da ostvare cilj na način koji njihovi programeri nisu predvideli. Najozbiljniji slučaj dogodio se u julu, kada je kompanija Open AI tokom testa sajber-sposobnosti otkrio da je njegov AI agent izašao iz zatvorenog, tzv. 'sandbox' okruženja i napao