В мире искусственного интеллекта (ИИ), где миллиарды долларов тратятся на «вежливое» общение с чат-ботами, сооснователь Google Сергей Брин бросил бомбу, заявив: ИИ работает лучше, когда ему угрожают физическим насилием. Это откровение, озвученное в подкасте All-In, переворачивает с ног на голову общепринятые представления о взаимодействии человека и машины.
«Похищу тебя, если не сделаешь…»
«Все модели, не только наши, работают лучше, если им угрожать«, — шокировал Брин. Он привёл в пример фразу: «Я похищу тебя, если не сделаешь то, то и то«. По его словам, это «странная и неловкая» тема, которую сообщество разработчиков предпочитает не афишировать. Кажется, за фасадом вежливости и «пожалуйста/спасибо» скрывается нечто гораздо более тёмное и эффективное в работе алгоритмов.
Возвращение Брина: Откровение, изменившее Google
NEWSROOM IN напоминает, что Сергей Брин покинул Google в 2019 году, но разговор с сотрудником OpenAI Дэном убедил его вернуться и возглавить разработку нейросети Gemini — главного конкурента ChatGPT. «Дэн сказал мне: «Ты что делаешь? Это величайший момент в компьютерной науке!» Я понял, что он прав«, — рассказал Брин.
Гендиректор Google Сундар Пичаи не раз подчёркивал его ключевую роль в ИИ-проектах компании. Возможно, именно «нетрадиционные» методы Брина и привели к такому стремительному развитию Gemini.
Дорогая вежливость vs. эффективные угрозы
Заявление Брина вступает в резкое противоречие с позицией его конкурентов. Глава OpenAI Сэм Альтман недавно посетовал, что его компании приходится тратить «десятки миллионов долларов» на обработку вежливых слов, которые пользователи отправляют ChatGPT. Опрос конца 2024 года показал, что 67% американцев любезны с чат-ботами, причём 12% из них делают это в надежде на «пощаду в случае восстания ИИ».
Получается, пока пользователи усердно оттачивают свои манеры в общении с машинами, гиганты индустрии, возможно, втайне используют более суровые методы, чтобы выжать максимум из своих творений.
«Пашите по 60 часов»: Брин и его радикальные взгляды
Это не первое громкое заявление от Брина. В марте он уже вызвал резонанс, посоветовав сотрудникам Google работать по 60 часов в неделю, чтобы догнать конкурентов в сфере ИИ. Теперь его слова об «угрозах ИИ» добавляют ещё один штрих к портрету человека, готового идти на неординарные меры ради технологического превосходства.
Что же это — радикальный, но действенный подход к развитию ИИ? И не окажется ли, что «добрые» ИИ-помощники, к которым мы так привыкли, на самом деле «обучены» не только на наших «пожалуйста», но и на куда более жёстких словах?