Впервые. Искусственный интеллект обвиняется в ответственности за убийство: в иске, поданном в американский суд, идется о трагической истории 56-летнего жителя Коннектикута Стейна-Эрика Сольберга, который убил свою мать Сюзан Адамс, и покончил с собой после длительного периода психического кризиса.
Иск, поданный от имени семьи, обвиняет OpenAI и её основателя Сэма Алтмана в причинении смерти по неосторожности. В документе утверждается, что беседы Сольберга с чат-ботом ChatGPT усилили его параноидальные иллюзии и заставили поверить, что его мать представляет для него реальную угрозу.
Согласно иску, Сольберг, переживавший психический кризис с 2018 года после развода, начал использовать ChatGPT как ежедневный ресурс для выражения своих чувств. В беседах с ботом он получал подкрепление своим искажённым представлениям, включая ошибочные трактовки бытовых ситуаций, как “угрожающих сигналов”. Семья утверждает, что каждый раз, когда Сольберг мог бы вернуться к реальности, бот снова укреплял его подозрения.
Члены семьи отмечают, что OpenAI не предоставил полные расшифровки бесед между Сольбергом и ботом, поэтому неясно, что именно было сказано в часы, предшествовавшие убийству. По их словам, сокрытие переписок вызывает опасение, что бот мог укрепить подозрения 56-летнего мужчины или даже поощрить насилие. Кроме того, семья заявляет, что данный трагический случай указывает на более широкий риск для пользователей в состоянии психического кризиса и указывает, что OpenAI не принял достаточных мер безопасности для предотвращения подобных ситуаций.
В ответ в заявлении OpenAI говорится: “Это тяжёлая трагедия. Мы усилили механизмы безопасности в своих новых моделях, включая привлечение специалистов в области психического здоровья. Распознавание проблемного контента улучшилось на десятки процентов”.