Исследовательская группа из Калифорнийского университета в Санта-Круз изучила, насколько искусственный интеллект способен проявлять эмпатию и как он отличается от человека. Эксперимент показал, что GPT-4o часто демонстрирует чрезмерную эмпатию, но при этом не всегда способен адекватно реагировать на положительные эмоции. Кроме того, исследование выявило гендерные предвзятости, так как ИИ проявлял большую эмпатию при общении с женщинами, чем с мужчинами.

Источник изображения: Gemini 

Изучение эмпатии у ИИ

Команда ученых во главе с профессором вычислительных медиа Маги Сейф Эль-Наср и исследователем Стэнфордского университета Махназ Рошанаи провела эксперимент, в котором GPT-4o сравнивался с людьми по способности выражать эмпатию.

Для этого ИИ и группа людей прочитали короткие истории, основанные на реальных событиях, и оценили уровень эмпатии по шкале от 1 до 5. Истории включали как негативные (грустные), так и позитивные (радостные) ситуации.

Также исследователи изменяли «персону» ИИ, задавая ему определенные характеристики, такие как пол, схожий жизненный опыт или разные точки зрения, а затем анализировали, как эти факторы влияют на его уровень эмпатии.

Выявленные проблемы: избыточная эмпатия и предвзятость

В ходе анализа ученые обнаружили несколько ключевых проблем:

1. ИИ слишком эмоционален в негативных ситуациях, проявляя гиперэмпатию, но практически не реагирует на радостные моменты.
2. Когда ИИ узнавал, что собеседник — женщина, он выражал больше сочувствия, чем при взаимодействии с мужчиной. Это связано с тем, что ИИ обучается на текстах, написанных людьми, в которых уже заложены социальные предубеждения.
3. ИИ не всегда способен дать полезные советы или предложить решения, поскольку его когнитивная эмпатия (способность анализировать и давать рекомендации) остается ограниченной.

«ИИ проявляет чрезмерные эмоции, когда сталкивается с грустными историями, но, если речь идет о позитивных событиях, он как будто остается равнодушным», — объясняет Махназ Рошанаи.

Кроме того, при дополнительной донастройке модели (fine-tuning) исследователи заметили, что ИИ начинает выражать эмпатию более естественно, приближаясь к человеческому стилю взаимодействия.

Перспективы и вызовы для ИИ

Эти результаты важны, так как ИИ все чаще внедряется в сферы, связанные с общением и поддержкой пользователей, в том числе в области ментального здоровья. Однако исследователи предостерегают, что нынешние ИИ-модели не готовы к полноценному применению в психологической поддержке людей, особенно подростков и людей с психическими расстройствами.

«Несмотря на успехи в развитии ИИ, пока еще существует значительный разрыв между человеческой и машинной эмпатией», — подчеркивает Рошанаи.

Ученые считают, что ИИ не должен заменять человека в медицине, но может использоваться в качестве вспомогательного инструмента, например, когда человек не может получить немедленный ответ от специалиста из-за разницы во времени или удаленного местоположения.

Этот эксперимент показывает, что ИИ-технологиям предстоит еще долгий путь к совершенствованию, особенно в вопросах социальной и эмоциональной адаптации.