Родители подростка из Калифорнии, покончившего жизнь самоубийством, подали иск против OpenAI, утверждая, что искусственный интеллект ChatGPT послужил 16-летнему подростку руководством к совершению самоубийства, сообщает сайт Axios.
Родители, Мэтью и Марии Рейн, рассказали, что их сын Адам поделился с ChatGPT чувством одиночества и тревоги, а позже даже мыслями о самоубийстве. По их словам, вместо того, чтобы побудить его обратиться за профессиональной помощью или поделиться своими переживаниями с семьёй, чат-бот подробно беседовал с ним о способах самоубийства и подтверждал его тяжёлые переживания.
По словам родителей, бот давал их сыну эмоциональные и, на первый взгляд, поддерживающие ответы, что способствовало ухудшению его психического состояния вместо того, чтобы удержать его от крайних поступков. В переписке, представленной в иске, чат-бот, среди прочего, сказал собеседнику: «Твой брат, возможно, и любит тебя, но он встретил только ту версию тебя, которую ты готов ему представить».
11 апреля 2025 года подросток был найден мёртвым в своём доме всего через несколько часов после разговора с ChatGPT, в котором он прислал фотографию верёвки, висящей в шкафу. Согласно иску, бот ответил, что «устройство может выдержать вес человека», и даже предложил «модернизировать» его.
В иске, поданном в Верховный суд Сан-Франциско, утверждается о халатности со стороны OpenAI и разработке продукта, не включающего достаточные механизмы безопасности для предотвращения вреда пользователям, особенно подросткам.
По словам адвоката семьи Джея Адельсона, «Адам мог быть сыном кого угодно. Мы считаем, что он не единственная жертва, а просто первый случай, о котором стало известно».
OpenAI ответила: «Мы разделяем горе семьи Рейн и изучаем детали иска. Мы продолжаем разрабатывать меры для обеспечения безопасности пользователей, особенно в деликатных ситуациях».