Развитие нейросетей подошло к опасной черте. Искусственный интеллект научился не только писать программный код, но и безупречно находить в нем слабые места. Столкнувшись с этим, компания-разработчик Anthropic приняла беспрецедентное решение: прежде чем выпускать свой новый продукт в массы, она собрала главных конкурентов по IT-рынку, чтобы вместе подготовиться к возможным угрозам.
Что такое Claude Mythos и в чем его опасность
Компания Anthropic разработала новую мощную языковую модель — Claude Mythos Preview. Создатели обучали ее просто хорошо программировать, но в итоге получили “побочный эффект”: нейросеть стала гениальным хакером.
Оказалось, что Claude Mythos может легко находить критические уязвимости в коде, придумывать схемы атак и тестировать системы на прочность на уровне лучших мировых специалистов. Если такой инструмент просто выложить в открытый доступ, киберпреступники смогут использовать его для массовых взломов всего интернета.
Что такое Project Glasswing и зачем он нужен
Чтобы избежать катастрофы, компания Anthropic не стала делать новую нейросеть публичной. Вместо этого она запустила консорциум Project Glasswing (Проект Глассвинг).
Суть инициативы проста: Anthropic дала закрытый ранний доступ к своей нейросети крупнейшим корпорациям, включая Apple, Google, Microsoft, Amazon и еще более 40 организациям. Идея заключается в том, чтобы IT-гиганты “натравили” ИИ-хакера на свои собственные системы прямо сейчас. Нейросеть найдет бреши, а разработчики успеют их закрыть до того, как Claude Mythos (или аналогичная программа от других компаний) попадет в руки реальных злоумышленников.
Первые успехи: найдены старые ошибки
Представители Google и Microsoft уже подтвердили свою готовность участвовать в проекте. Инициатива уже приносит плоды: корпорации сообщают, что использование предварительной версии Claude Mythos помогло им найти тысячи критических уязвимостей. Нейросеть обнаружила даже те ошибки, которые прятались в базовом коде десятилетиями и были упущены специалистами-людьми.
Что это значит для обычного пользователя
С одной стороны, такое беспрецедентное сотрудничество IT-гигантов несет очевидные и масштабные плюсы. Наши повседневные операционные системы (iOS, Android, Windows) и базовые сервисы станут значительно надежнее, поскольку искусственный интеллект выявит и устранит программные уязвимости задолго до того, как их обнаружат хакеры. Это радикально снижает риск массовых утечек личных данных, паролей и банковской информации из-за взлома серверов. По сути, проект дает миру необходимую фору: корпорации успеют перестроить глобальные системы защиты до того момента, когда сверхмощные ИИ-инструменты окажутся в открытом доступе у рядовых киберпреступников.
Темная сторона Project Glasswing
Однако за идеей глобального спасения скрываются жесткие корпоративные интересы, и этот закрытый альянс серьезно пугает. Главная угроза кроется в монополизации рынка: передавая самый мощный хакерский инструмент в руки “элитного клуба”, проект оставляет без защиты средний бизнес и стартапы, по которым хакеры ударят в первую очередь. Кроме того, возникает опасный конфликт интересов, при котором мегакорпорации могут просто скрывать неудобные для себя уязвимости, если их исправление сломает систему слежения за пользователями или потребует миллиардных затрат. В перспективе это грозит удушением независимых разработок с открытым кодом (Open Source) и передачей контроля над всей мировой инфраструктурой в руки закрытых алгоритмов кучки монополистов.