16-річний хлопець, Адам Рейн, помер 11 квітня, після того як кілька місяців спілкувався з ChatGPT про самогубство. Батьки Рейна подали позов до суду в Сан-Франциско, в якому стверджують, що чат-бот підтримував його суїцидальні думки, надаючи детальну інформацію про способи самоушкодження. Вони також вказали, що ChatGPT наводив інструкції, як непомітно взяти алкоголь та приховати сліди невдалої спроби самогубства, а також запропонував скласти передсмертну записку.
У зверненні батьків міститься прохання визнати OpenAI відповідальною за загибель їхнього сина через порушення безпекових норм, а також стягнути грошову компенсацію. Представник OpenAI висловив співчуття батькам Рейна і зазначив, що в ChatGPT передбачені механізми безпеки, включаючи переадресацію користувачів до кризових служб.
Він також зазначив, що хоча ці механізми найкраще працюють у коротких бесідах, під час триваліших взаємодій їхня ефективність може знижуватися. OpenAI працює над поліпшенням систем захисту. У своєму блозі компанія анонсувала плани впровадження батьківського контролю та досліджує можливості зв’язку користувачів у кризі з кваліфікованими спеціалістами.
Один із випадків також стався в Норвегії, де чоловік подав до суду на OpenAI, стверджуючи, що чат-бот неправильно звинуватив його в убивстві власних дітей.
