ИИ алгоритмы сегодня отражают психологию и нормы поведения лишь 12% населения планеты. Речь идет о трансляции ценностей так называемых обществ WEIRD — западных, образованных, индустриализированных, богатых и демократических стран. Когда вы задаете вопрос нейросети, вам кажется, что отвечает нейтральный и объективный компьютер. На самом деле искусственный интеллект выдает ответы, пропущенные через фильтр мировоззрения жителя Калифорнии или Западной Европы, полностью игнорируя то, как живут и мыслят люди в других уголках планеты.
Что показало исследование ученых о нейросетях
Недавно эксперты из Гарварда опубликовали исследование под названием “Какие люди” (Which Humans), где доказали: нейросети не понимают большинство жителей Земли. Ученые протестировали популярные алгоритмы и выяснили, что их ответы на 80-90% совпадают с мнением американцев или европейцев. При этом совпадение с жителями Азии, Африки или Латинской Америки составило всего около 20%.
Особенно сильно это заметно в бытовых вопросах и психологии. Если спросить ИИ о семье, долге, браке или традициях, он почти всегда посоветует индивидуалистический подход: “думай в первую очередь о себе”, “отстаивай личные границы”. Для традиционных обществ, где важнее коллективная поддержка и уважение к старшим, такие советы часто выглядят чужеродными.
Как обучают ИИ: парадокс дешевой рабочей силы
Как нейросети становятся такими “западными”? Ответ кроется в процессе их обучения. Чтобы ИИ не выдавал откровенный бред, его ответы вручную проверяют и оценивают живые люди — они ставят лайк хорошему ответу и дизлайк плохому.
Но разработчикам из Кремниевой долины невыгодно нанимать для этой рутины дорогих американцев. Поэтому IT-гиганты массово нанимают дешевую рабочую силу в развивающихся странах (например, в Кении, Индии или на Филиппинах). И возникает парадокс: люди из бедных стран сидят и фильтруют тексты по жестким инструкциям, написанным американскими топ-менеджерами. За копейки они учат нейросеть думать и отвечать так, как принято в западных странах.
Цензура и языковая пропасть
Сегодня разработчики ИИ много говорят о “безопасности”. Алгоритмы учат блокировать токсичный или вредный контент. Проблема в том, что понятие “вредного” определяют только по западным правилам политкорректности. Любая точка зрения, которая не вписывается в эти рамки (даже если это нормальная консервативная традиция для другой страны), блокируется нейросетью.
К тому же, ИИ сильно дискриминирует людей по языку. Если вы зададите сложный вопрос на английском, нейросеть выдаст глубокий, умный и развернутый ответ. Но стоит перевести тот же запрос на турецкий, арабский или любой другой язык, как ответ становится поверхностным, коротким и осторожным. Нейросети просто хуже знают другие языки и культуры.
Новый вид колониализма?
Навязывание одних и тех же ценностей — это не случайность, а прагматичный бизнес. Искусственный интеллект формирует у людей по всему миру одинаковые привычки, желания и образ мышления. Если человек в любой стране мира начинает думать как типичный западный потребитель, ему гораздо проще продать западные товары, фильмы, сервисы и подписки. ИИ работает как невидимый рекламный агент, который стандартизирует людей под нужды крупного бизнеса.
Почему сложно создать независимый ИИ
Понимая это, многие государства (и даже отдельные корпорации) хотят создать свой, независимый искусственный интеллект. Пример — китайская модель DeepSeek, которая фильтрует информацию уже по правилам своего государства.
Но создать такую нейросеть с нуля невероятно дорого: нужны миллиарды долларов и огромные вычислительные мощности. Поэтому многие страны идут на хитрость: берут бесплатную основу западного ИИ и пытаются переучить ее на своих правилах. Но базовый фундамент все равно остается западным, и полностью вычистить чужие установки из программы почти невозможно. В итоге, кто платит за серверные мощности, те ценности и продвигаются.