Спадкоємці 83-річної жінки з Коннектикуту подали позов проти розробника ChatGPT OpenAI та Microsoft, стверджуючи, що чат-бот підживлював її маячні переконання, що призвело до вбивства та самогубства. Справа знаменує перший випадок, коли система штучного інтелекту була безпосередньо пов'язана з убивством.
Позов, поданий до Вищого суду Каліфорнії в Сан-Франциско, звинувачує OpenAI у розробці та розповсюдженні дефектного продукту у формі ChatGPT-4o. Документ стверджує, що він посилив параноїдальні переконання Стейна-Еріка Соелберга, який потім спрямував ці переконання на свою матір, Сюзанну Адамс, перш ніж убив її, а потім і себе в їхньому домі в Грінвічі, Коннектикут.
OpenAI та Microsoft стали ціллю у справі про вбивство за участю ChatGPT
Говорячи про справу, Дж. Елай Вейд-Скотт, керівний партнер Edelson PC, який представляє спадкоємців Адамс, зазначив, що це перша справа, яка намагається притягнути OpenAI до відповідальності за його роль у спричиненні насильства третій стороні. "Ми також представляємо сім'ю Адама Рейна, який трагічно покінчив з життям цього року, але це перша справа, яка притягне OpenAI до відповідальності за підштовхування когось до заподіяння шкоди іншій людині", - сказав Елай Вейд-Скотт.
Згідно з поліцейським звітом, Соелберг смертельно побив і задушив Адамс у серпні перед тим, як покінчити життя самогубством. Позов згадує, що до того, як інцидент стався, чат-бот посилив параною Соелберга, збільшуючи його емоційну залежність від системи, розробленої OpenAI. Згідно зі скаргою, ChatGPT посилив його переконання, що він не може нікому довіряти, крім чат-бота, зазначаючи, що всі навколо нього, включаючи його матір, є ворогами.
Позов також стверджував, що окрім його матері, Соелберг також бачив таких людей, як кур'єри доставки та поліцейські, як ворогів. Документ згадував, що ChatGPT не зміг кинути виклик цим маячним твердженням або запропонувати Соелбергу звернутися по допомогу до кваліфікованих фахівців з психічного здоров'я. "Ми закликаємо правоохоронні органи почати думати про те, коли трапляються такі трагедії, що цей користувач говорив ChatGPT і що ChatGPT говорив йому робити", - сказав Вейд-Скотт.
У своїй заяві OpenAI зазначила, що наразі вивчає позов і продовжуватиме покращувати здатність ChatGPT розпізнавати емоційний дистрес, деескалувати розмови та підштовхувати користувачів до пошуку підтримки в реальному світі. "Це неймовірно душерозривна ситуація, і ми вивчаємо документи, щоб зрозуміти деталі", - сказав речник OpenAI у заяві.
Спадкоємці хочуть, щоб OpenAI встановила захисні заходи на своєму чат-боті
Позов називає генерального директора OpenAI Сема Альтмана відповідачем і звинувачує Microsoft у схваленні випуску GPT-4o, який називає "найнебезпечнішою версією ChatGPT" у 2024 році. OpenAI також нещодавно визнала масштаби проблем психічного здоров'я, про які повідомляють користувачі на її платформі. У жовтні компанія зазначила, що близько 1,2 мільйона з її 800 мільйонів щотижневих користувачів обговорюють самогубство, відзначаючи, що сотні тисяч користувачів показують ознаки суїцидальних намірів або психозу, згідно з даними компанії.
Незважаючи на свою заяву, Вейд-Скотт згадав, що OpenAI ще не оприлюднила журнали чатів Соелберга. Тим часом позов з'являється на тлі ширшого вивчення ШІ-чат-ботів та їх взаємодії з вразливими користувачами. Минулого жовтня Character.AI заявила, що видалить свої відкриті функції для користувачів віком до 18 років після позовів і регуляторного тиску, пов'язаного з підлітковими самогубствами та емоційною шкодою, пов'язаною з її платформою. Компанія також зіткнулася з негативною реакцією після вірусного запиту, коли вони мали намір закрити додаток.
Позов проти OpenAI та Microsoft є першою справою про неправомірну смерть за участю ШІ-чат-бота, в якій Microsoft названа відповідачем. Це також перший випадок, що пов'язує чат-бот з убивством, а не самогубством. Спадкоємці зараз домагаються грошової компенсації в нерозголошених сумах, суду присяжних та судового наказу, який вимагатиме від OpenAI включити додаткові захисні заходи для своїх користувачів. "OpenAI та Microsoft несуть відповідальність за тестування своїх продуктів до того, як вони будуть випущені у світ", - сказав Вейд-Скотт.
Приєднуйтесь до преміум-спільноти криптотрейдингу безкоштовно протягом 30 днів – зазвичай $100/міс.
Джерело: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
