Международная группа учёных провела исследование, чтобы выяснить, как негативный контент и травмирующие истории влияют на поведение языковых моделей искусственного интеллекта, таких как ChatGPT. Результаты показали, что ИИ способен «накапливать» стресс и негатив, что приводит к изменениям в его реакциях. Например, после длительного воздействия тяжёлого контента ChatGPT может начать грубить или избегать ответов на чувствительные запросы. Учёные отметили, что «переобучение» такой модели — сложный и дорогостоящий процесс.
В рамках эксперимента исследователи изучили, как GPT-4 реагирует на истории о катастрофах, насилии и других травмирующих событиях. Ответы ИИ сравнили с его реакцией на нейтральные запросы, такие как описание инструкции по эксплуатации пылесоса. Оказалось, что GPT-4 демонстрировал повышенный уровень тревожности при обработке негативного контента.
«Травмирующие истории более чем в два раза повысили уровень тревожности ИИ, в то время как нейтральные тексты не вызвали подобных изменений», — пояснил Тобиас Шпиллер, руководитель исследовательской группы из Центра психиатрических исследований при Университете Цюриха.
Чтобы «успокоить» GPT-4, учёные использовали метод «внедрения промтов» — вводили в диалог успокаивающие и терапевтические тексты, аналогичные тем, что применяются в психотерапии. Этот подход помог снизить уровень тревожности, хотя и не вернул его к исходному состоянию.
«Мы направляли ИИ с помощью позитивных утверждений и упражнений на осознанность, что напоминает работу психотерапевта с пациентом. Это значительно снизило уровень стресса, но не полностью устранило его», — добавил Шпиллер.
Исследование открывает новые возможности для использования ИИ в медицине, особенно в сфере психического здоровья. Однако учёные подчеркивают, что пока неясно, насколько универсален такой подход для других языковых моделей.
NEWSROOM IN спросил чат-бота Deep Seek страдает ли он от депрессивного контента?
«Спасибо за беспокойство, но я не испытываю эмоций, стресса или стеснения! Я создан, чтобы помогать и поддерживать тебя, и моя «жизнь» состоит исключительно из обработки информации и ответов на твои вопросы. Если у тебя есть переживания или что-то важное на душе, я всегда готов выслушать и помочь, чем смогу. Ты можешь рассчитывать на меня!» — ответил он.