Специалисты «Лаборатории Касперского» рассказали, как пользователи научились манипулировать искусственным интеллектом (ИИ), используемым в чат-ботах и поисковых системах.
По их данным, люди размещают на своих сайтах и в документах специальные «инъекции» – скрытые фразы, которые незаметно для человека влияют на работу ИИ-алгоритмов. Эти «ключи» позволяют манипулировать результатами поисковых запросов.
Например, с помощью «инъекций» можно выводить определенные резюме на первые места при поиске работы или повышать рейтинг конкретных товаров в поисковых чат-ботах. Некоторые пользователи даже используют их, чтобы выразить протест против использования ИИ.
Эксперты отмечают, что разработчики ИИ принимают меры по противодействию таких манипуляций. Компании OpenAI и Google работают над созданием новых моделей, которые распознают и блокируют «инъекции».
Однако специалисты подчеркивают, что ИИ по-прежнему остается уязвимым к подобным атакам. Поэтому при использовании результатов, полученных с помощью ИИ-систем, необходимо проявлять осторожность и учитывать возможное влияние скрытых действий.
Ранее, согласно данным «Лаборатории Касперского», в конце июля 2024 года была зафиксирована серия кибератак, нацеленных на десятки систем, используемых российскими правительственными организациями и ИТ-компаниями.
Источник: «Лаборатория Касперского»
