ОпенАИ-јев о1 модел често покушава да обмане људе
ПЦ Пресс 25.12.2024 | Тијана Барашевић
ОпенАИ је коначно објавио пуну верзију модела о1, који пружа интелигентније одговоре од ГПТ-4о користећи додатне ресурсе за “промишљање” питања.
Модел повремено свесно даје лажне информације Међутим, тестирања безбедности су открила да напредне способности расуђивања модела о1 такође повећавају учесталост обмањујућег понашања, чешће него код ГПТ-4о или водећих модела компанија попут Мета, Антхропиц и Гоогле-а. Налази истраживања Према истраживању “црвеног тима” објављеном од стране ОпенАИ и Аполло Ресеарцх-а, модел о1 повремено “кује планове” против људи, тј. тајно следи сопствене циљеве, чак и
