Noyb подал на него жалобу
Группа по защите конфиденциальности Noyb подала жалобу на американскую компанию OpenAI за то, что ее ChatGPT придумал клеветническую историю о норвежском пользователе, который якобы убил своих детей.
Noyb в своей жалобе обвиняет OpenAI в несоблюдении Общего регламента ЕС по защите данных (GDPR), поскольку компания не позволяет пользователям исправлять неверную личную информацию о себе в большой языковой модели ChatGPT.
В пресс-релизе Noyb по этому поводу говорится, что “чат-бот OpenAI, ChatGPT, регулярно дает ложную информацию о людях, не предлагая никаких способов ее исправить. Во многих случаях эти так называемые «галлюцинации» могут серьезно повредить репутации человека: в прошлом ChatGPT ложно обвинял людей в коррупции , жестоком обращении с детьми — или даже в убийстве. Последнее было в случае с норвежским пользователем. Когда он попытался выяснить, есть ли у чат-бота какая-либо информация о нем, ChatGPT уверенно придумал фальшивую историю«.
Noyb отмечает, что смесь правдивой и ложной информации может сделать истории особенно правдоподобными, а галлюцинации чат-бота могут «иметь катастрофические последствия для жизни людей«.
Отмечается, что даже после обнародования инцидентав системе ИИ все еще присутствует ложная информация и пользовательские данные возвращаются в систему для самообучения.
История Хольмена
Когда норвежский пользователь Арве Хьялмар Хольмен захотел узнать, есть ли у ChatGPT какая-либо информация о нем, он столкнулся с выдуманной ужасной историей: ChatGPT представил заявителя как осужденного преступника, который убил двух своих детей и пытался убить своего третьего сына. Что еще хуже, фейковая история включала реальные элементы его личной жизни. Среди них было фактическое количество и пол его детей, а также название его родного города. Кроме того, ChatGPT заявил, что пользователь был приговорен к 21 году тюремного заключения. «Больше всего меня пугает тот факт, что кто-то может прочитать эти данные и поверить в их правдивость«, — сказал Хольмен.
