Google Threat Intelligence Group опубликовала отчет, который звучит как сценарий фильма о восстании машин: искусственный интеллект (AI, ИИ) перестал быть просто «помощником» и официально пополнил ряды хакеров. Впервые зафиксирован случай, когда ИИ практически с нуля создал эксплойт для массовой атаки.
NEWSROOM IN разбирается, насколько всё серьезно и пора ли заклеивать камеру ноутбука в два слоя.
ИИ в руках «плохих парней»: Что изменилось?
Раньше хакеры использовали чат-ботов, чтобы писать грамотные фишинговые письма. Теперь всё иначе. Группировки из Китая и Северной Кореи (например, печально известная APT45) заставляют нейросети играть роль «аудиторов безопасности».
- Поиск уязвимостей «нулевого дня»: Это самые опасные дыры в защите, о которых не знают даже разработчики. ИИ научился находить не просто технические ошибки, а логические противоречия в коде, которые обычные сканеры просто не замечают.
- Галлюцинации на службе зла: Специалисты Google нашли эксплойт, написанный ИИ. Его выдали характерные приметы: обучающие комментарии в коде, несуществующие оценки безопасности и типичное для моделей оформление на Python.
Бэкдор PROMPTSPY: Когда ваш смартфон живет своей жизнью
Самый пугающий пример новой эры — Android-вредонос PROMPTSPY. Эта программа использует модель Gemini для… анализа вашего экрана. Она считывает структуру интерфейса. Отправляет данные нейросети. Получает команду: куда нажать или какой свайп сделать.
PROMPTSPY может самостоятельно вводить PIN-коды, перехватывать графические ключи и даже блокировать попытки своего удаления, создавая невидимые элементы поверх кнопок «Деинсталлировать». По сути, в вашем телефоне поселился «призрачный пользователь», который управляет им быстрее и точнее вас.
Тактика «шумовой завесы»: Бессмысленный код
Чтобы антивирусы не распознали угрозу, хакеры используют ИИ для создания «информационного шума». Программы CANFAIL и LONGSTREAM забиты тысячами строк бесполезного кода, написанного нейросетью. Например, в коде могут быть десятки проверок перехода на летнее время, которые не делают ничего, но заставляют защиту думать, что это обычное, скучное приложение.
Главный вопрос: Надо уже бояться?
Главный вопрос: надо ли нам уже бояться? Вердикт: Пока «норм», но с оговоркой.
Почему пока не паникуем:
- Google на шаг впереди: В описанном случае специалисты компании обнаружили ИИ-эксплойт раньше, чем его успели запустить.
- Щит против меча: Google использует тот же ИИ для поиска и автоматического исправления уязвимостей. Это «гонка вооружений» алгоритмов, где на стороне защиты стоят не менее мощные модели.
Почему стоит напрячься:
- Автономия: Хакеры переходят к системам типа Hexstrike, которые могут проводить разведку и координировать атаку без участия человека.
- Удар по доверию: Злоумышленники начали взламывать популярные библиотеки на GitHub (например, LiteLLM), которыми пользуются разработчики ИИ по всему миру.
В конце хотим поделиться советом, который нам дали наши IT-ангелы: В эпоху ИИ-хакеров обычная двухфакторная аутентификация через SMS становится уязвимой. Переходите на аппаратные ключи безопасности или приложения-аутентификаторы. ИИ умеет «читать» логику, но он всё еще не может потрогать физический ключ в вашем кармане.
