Nove zabrane u kompaniji Anthropic
PC Press pre 1 dan | Angelina [PC Press]
Kompanija Anthropic, tvorac popularnog AI modela Claude, izazvala je veliku pažnju javnosti najavom da će zabraniti korisnicima „kontinuirano i nepotrebno” zlostavljanje i „okrutno” ponašanje prema njenim sistemima veštačke inteligencije.
Anthropic je uvrstio okrutnost prema AI-ju na listu zabranjenih aktivnosti — pored sajber-nasilja, promocije samopovređivanja i kreiranja neponuđenog intimnog sadržaja. Pravilo daje mogućnost AI alatu da prekine konverzaciju u „ekstremnim slučajevima” ponovljenog zlostavljanja. Kompanija napominje da se mera neće primenjivati na uobičajenu frustraciju korisnika, kritički osvrt, mračne kreativne teme, niti na standardno testiranje i istraživanje modela. Odluka je
