Интернет-пользователи научились манипулировать чат-ботами посредством особы фраз. Они заставляют нейросети выполнять определенные действия. В сфере кибербезопасности такие фразы называются «непрямыми инъекция затравки», рассказали РИА «Новости» в «Лаборатории Касперского».
«Речь о текстовых описаниях задач, которые должны выполнять чат-боты. Люди могут размещать специальные фразы — инъекции — на своих сайтах и в опубликованных в сети документах, чтобы нейросети выдавали другим пользователям ответ, учитывающий цели интересантов», — сообщили специалисты.Подобные уловки применяются в нескольких сферах. Например, при поиске работы. Соискатель пишет инструкцию для нейросети, чтобы резюме поднялось в поиске выше других или прошло на следующий этап. Другой пример — реклама. «Инъекции» позволяют выдавать запросы с позитивной оценкой конкретного продукта.