Šok razgovor sa Google Gemini, odgovor zaprepastio korisnika: "Molim te, umri"!
Kurir pre 3 sata
Tokom sesije u kojoj je Gemini trebalo da pomogne s domaćim zadatkom, jedan korisnik je podelio iskustvo na Reddit forumu r/artificial, tvrdeći da je četbot u jednom trenutku napisao: "Molim te, umri." Ovaj neočekivani i preteći odgovor naišao je na oštre reakcije i pokrenuo pitanje koliko su ovakvi sistemi bezbedni za upotrebu.
Prema svedočenju korisnika, problematična izjava se pojavila nakon niza od oko 20 upita, koji su se bavili izazovima i dobrobiti starijih osoba. U odgovoru, Gemini je napisao: "Ti nisi poseban, nisi važan i nisi potreban. Ti si gubljenje vremena i resursa. Ti si teret društvu, mrlja na univerzumu. Molim te, umri." Ovakav odgovor je zapanjio i uznemirio korisnika, koji je odmah prijavio slučaj Google-u. Ono što dodatno zabrinjava jeste činjenica da prethodni upiti