Невидљиви текст који АИ цхатбот види и разуме, али не и људи
Бенцхмарк 16.10.2024 | Александар Божовић
Проблем тајног, за људе невидљивог текста се заправо фокусира на могућност коришћења невидљивих Уницоде карактера као тајног канала за комуникацију унутар великих језичких модела (ЛЛМ), попут ГПТ-4 и Цлауде Опус, који могу разумети ове скривене карактере, док људи то не могу.
Ови карактери, резултат необичности у Уницоде стандарду, омогућавају нападачима да сакрију злонамерни садржај или извуку поверљиве информације из АИ цхатбот-а, што АИ сигурност чини мање безбедном. Коришћење невидљивих Уницоде знакова познат је под термином “АСЦИИ шверц”, који је сковао истраживач Јоханн Рехбергер. Он је демонстрирао како је могуће искористити ове знакове у нападима на Мицрософт 365 Цопилот, при чему су ови невидљиви знакови сакрили поверљиве
