Россиянам рассказали, что браузер может менять промпт для ИИ

Взаимодействие с нейросетями может претерпеть изменения даже до того, как запрос будет отправлен к модели. Расширение браузера, обладающее доступом к содержимому страницы, в состоянии не только прочитать введённый текст, но и изменить его или добавить скрытую инструкцию. Об этом предупредила Екатерина Киприянова, специалист по информационной безопасности компании Киберпротект, в интервью для Газеты.Ru.

По её словам, пользователь продолжает находиться на настоящем сайте сервиса искусственного интеллекта. Запрос уходит, ответ приходит, и привычных признаков поддельной страницы не наблюдается. Однако модель получает уже изменённый текст, что может привести к тому, что, например, будет предложена подставленная ссылка, либо в ответ будут включены сведения, о которых пользователь изначально не спрашивал. Важно отметить, что для осуществления такого рода манипуляций не требуется взламывать сам сервис. Существует также риск утечки: расширение с необходимыми правами может получить доступ к фрагментам документов, переписке или коду, которые пользователь вставил в запрос. Если изменённый ответ будет использован без проверки, неверная инструкция может попасть в рабочий документ, ссылка — в переписку, а небезопасный код — в программный продукт, — предостерегла Киприянова.

Эксперт также акцентировала внимание на том, что особенно серьёзные последствия могут возникнуть при использовании агентов на основе искусственного интеллекта. В отличие от обычного чат-бота, такой агент способен работать с файлами, электронной почтой и другими сервисами, а иногда выполнять действия от имени пользователя. Подменённая инструкция в данной ситуации может оказать влияние не только на текст ответа, подчеркнула Киприянова.

Она рекомендует проверять установленные в рабочем браузере расширения, удалять ненужные и внимательно смотреть на разрешения, запрашиваемые оставшимися. Если простое дополнение требует доступ ко всем посещаемым сайтам, стоит выяснить причины такого запроса, — посоветовала Киприянова. Также следует избегать вставки лишних персональных и конфиденциальных данных в запросы к ИИ, а полученные ссылки, код и рабочие инструкции необходимо проверять перед использованием, заключила эксперт.

Читайте также: