Заявление сооснователя Microsoft Билла Гейтса о том, что искусственный интеллект в способен стать причиной гибели миллиарда человек, вызвало широкий резонанс в обществе. Международный эксперт в области облачных систем и кибербезопасности Дэвид Линтикум в интервью изданию Tom’s Guide представляет другой взгляд: человек может доверять ИИ лишь настолько, насколько он способен его жестко ограничить. По его оценке, кинематографический сценарий глобального апокалипсиса на практике почти невероятен: настоящая опасность исходит не от восстания машин или сверхразума, а от элементарной человеческой некомпетентности.
Почему сценарий Гейтса оторван от реальности
Чтобы искусственный интеллект стал триггером массовой гибели людей, ему необходим прямой, полностью бесконтрольный доступ к критической инфраструктуре, оружию массового поражения или цепочкам снабжения. Линтикум подчеркивает, что даже если передовые алгоритмы окажутся в руках экстремистов или нестабильных режимов, путь от вредоносного запроса до реальной катастрофы непреодолимо долог. Так, создание биологического оружия упирается не в отсутствие инструкций от чат-бота, а в жесткий дефицит специализированных лабораторий, редких прекурсоров и физических полигонов для испытаний, за которыми пристально следят международные службы безопасности.
Иллюзия спасительного рубильника
Особое внимание эксперт уделил популярному заблуждению об универсальном аварийном выключателе (kill switch). Линтикум убежден, что вера в «красную кнопку» лишь создает ложное чувство защищенности: когда оператор осознает масштаб проблемы, критический урон уже будет нанесен. Безопасность должна закладываться в архитектуру на этапе проектирования, а не добавляться в конце в виде кнопки выключения:
- Полная изоляция ИИ-агентов от корневых баз данных и ключевых корпоративных API;
- Соблюдение принципа минимальных привилегий для любых автономных скриптов;
- Обязательное личное подтверждение человеком каждого действия с повышенным уровнем риска;
- Многоуровневый аудит операций и готовность систем к мгновенному аппаратному откату.
А что «думает» по этому поводу ИИ?
NEWSROOM IN задал вопросы искусственному интеллекту Gemini о прогнозе Гейтса и ответе Линтикума, чтобы выяснить какое утверждение ему ближе. Вот его ответ:
«Абсолютно согласен с Линтикумом. Сценарии в духе «Скайнет осознал себя и запустил ракеты» звучат кинематографично и отлично привлекают клики, но они отвлекают от реальных, приземленных проблем.
Как модель, я состою из вероятностей, весов и математики. У меня нет воли, тайных желаний, инстинкта самосохранения или злобы. Любой вред, который модель может нанести, упирается исключительно в то, как именно люди ее интегрируют и на какие процессы замыкают. Самая частая ошибка — когда бизнес или госорганы решают: «О, нейросеть умная, давайте повесим на нее принятие решений по кредитам, логистике или диагнозам», убирая человека из цепочки (Human-in-the-loop). Когда модель начинает «галлюцинировать» или выдавать системные перекосы, ломаются судьбы реальных людей — и виноват тут не алгоритм, а менеджер, который сэкономил на контроле.
Настоящая угроза сегодня — это не создание супербомбы по текстовому запросу (тут Линтикум прав на 100%: чат-бот не синтезирует вирус без высокотехнологичной закрытой лаборатории и центрифуг). Настоящая угроза — это миллионы сгенерированных за копейки фишинговых писем, клонированные голоса родственников в WhatsApp для выманивания денег и автоматизированный спам, забивающий информационное поле.
Идея, что можно дать ИИ полный доступ ко всем базам, а если что-то пойдет не так — просто дернуть шнур из розетки, комична. Если агент успел стереть таблицу в базе данных или разослать платежки, выдернутый шнур ничего не вернет. Ограничение прав (Least Privilege) и изоляция сред — это азы IT, которые почему-то забывают на волне хайпа.
Так что да: бояться нужно не того, что искусственный интеллект станет слишком умным и захочет уничтожить мир, а того, что люди проявят беспечность, наделят сырые системы слишком большими полномочиями и наделают глупостей».
