Аи под нападом: Хакери користе вештачку интелигенцију за напад на АИ системе

Сада је тај тренутак коначно стигао. Ново истраживачко откриће учинило је нападе промпт ињецтион бржим, лакшим и застрашујуће ефикасним – чак и против најсигурнијих АИ система попут Гоогле-овог Гемини модела. Напади промпт ињецтион представљају један од најсигурнијих начина за манипулацију великим језичким моделима (ЛЛМ). Убацивањем злонамерних инструкција у текст који АИ процесира, попут скривених коментара у коду или невидљивог текста на веб страници,