Может ли чат-бот на искусственном интеллекте «придумывать» мошеннические схемы или использоваться в них

Руководитель департамента информационной безопасности ИМБА ИТ Андрей Прозоровский рассказал об опасности современных технологий, на основании которых работают чат-боты. По словам эксперта, часто пользователей чат-ботов, которых всё больше становится и в России, разработчики привлекают бесплатным функционалом. Но в этом как раз и заключается опасность: такие программы нередко таят в себе вредоносные ссылки или спам, навязчивую и бесполезную рекламу. Кроме того, чат-боты могут использоваться в мошеннических схемах, а недавнее исследование специалистов из OpenAI’s Alignment Research Center (ARC) показало, что чат-бот и сам может придумывать различные ходы для обмана человека. Цель у мошенников, как правило, одна — кража и последующая компрометация данных пользователя. Чтобы этого не допустить, следует передавать даже незначительные по своей ценности данные по закрытым каналам связи. Также Прозоровский перечислил базовые правила цифровой гигиены для безопасного взаимодействия с чат-ботом: Перед скачиваем чат-бота на компьютер необходимо убедиться в легитимности источника; необходимо убедиться, что разработчик сервиса является проверенным, а бот не запрашивает у пользователя избыточных разрешений или персональных данных.