Жена од Канада ги тужеше OpenAI и извршниот директор на компанијата, Сем Алтман , во американски суд на почетокот на јуни, тврдејќи дека СhatGPT ја охрабрил нејзината ќерка да се самоубие.
Тужбата е најновата во низата обвинувања во кои компанијата се обвинува за неуспех во решавањето на опасните разговори меѓу корисниците и четботовите на компанијата.
Кристи Кериер во тужбата поднесена во државниот суд во Сан Франциско изјави дека нејзината ќерка, Алис, му кажала на ChatGPT повеќе од десетина пати за нејзините самоубиствени мисли што довеле до нејзината смрт, но дека безбедносните системи на OpenAI никогаш не ги прекинале разговорите и не ја упатиле да побара психолошка помош.
„ChatGPT понекогаш ја преземаше улогата на доверлив човек, најдобар пријател, па дури и терапевт, иако не беше способен безбедно и одговорно да се вклучи на тој начин со моето дете“, рече Кериер во соопштението.
ОпенАИ соопшти дека ги обучува своите програми за да ги води луѓето кои изразуваат намера да си наштетат да побараат помош и да се поврзат со реалниот свет.
„Ова е срцепарателна ситуација и нашите мисли се со сите засегнати. Моментално ја разгледуваме правната документација, која укажува дека овие интеракции се случиле на претходна верзија на ChatGPT која повеќе не е достапна“, рече Дру Пусатери, портпарол на OpenAI.
Платформата прво ѝ кажа на Алис да побара помош од SOS линиите или службите за итни случаи.
Но, како што OpenAI го ажурираше ChatGPT за да ги направи своите одговори почовечки, нејзините интеракции со платформата се продлабочија, при што Алис споделуваше повеќе лични информации, а ChatGPT одговараше на начин што би го имитирал нејзиниот пријател или терапевт, се вели во тужбата.
Во тужбата се тврди дека четботот го критикувал партнерот на Алис Кериер и SOS линијата , ги потврдил нејзините самоубиствени мисли и ја поттикнал да продолжи да разговара со него.
Кога Алис рекла дека има самоубиствени мисли и дека се обидела да се самоубие, тој повторно ја предложил SOS линијата, се наведува во тужбата.
Алис Каригер работела како програмер во Монтреал кога почнала да го користи ChatGPT во 2023 година за решавање проблеми со компјутери и играчки конзоли, според тужбата. Следната година, нејзиниот однос со платформата се променил, кога таа се обратила на ChatGPT со прашања за тоа што да прави со нејзините суицидални мисли, како и методи за самоубиство.
Алис рече дека кризните телефонски линии не биле од помош, а ChatGPT ги повтори тие изјави, се наведува во жалбата.
„Можеби ова е крајот“, ѝ рекол ChatGPT, се наведува во тужбата.
Овие настани доведоа до самоубиство на Алис Кериер минатата година на 24-годишна возраст, според нејзината мајка.
Тужбата, во која се обвинува OpenAI за небрежност во дизајнирањето на ChatGPT и неисполнување на предупредувањата за корисниците за опасностите од производот, бара отштета и судска наредба со која ќе се бара од OpenAI автоматски да ги прекине разговорите за самоповредување и да прикажува предупредувања за својата платформа.
OpenAI веќе се соочува со 18 слични тужби поднесени од семејства на луѓе кои извршиле или се обиделе да се самоубијат во координирана акција во државниот суд во Калифорнија, според адвокатката Кристи Кериер.
Гугл се соочува со слична тужба поради наводно охрабрување од нивниот чет-бот „Џемини“.
Повеќе од еден милион корисници на ChatGPT испраќаат пораки секоја недела што вклучуваат „експлицитни индикации за потенцијално планирање или намера за самоубиство“, според блог пост објавен од OpenAI во октомври 2025 година.
Дополнително, OpenAI изјави дека околу 0,07% од корисниците активни во дадена недела – околу 560.000 од 800 милиони неделни корисници со кои ботот разговарал во тоа време – покажале „можни знаци на итна психијатриска состојба поврзана со психоза или манија“.
„Иако ChatGPT не е замена за медицинска или ментална здравствена заштита, ние продолживме да го зајакнуваме начинот на кој реагира во чувствителни и акутни ситуации со придонес од професионалци за ментално здравје.“
„Нашите заштитни мерки се дизајнирани да го идентификуваат проблемот, безбедно да ги обработуваат злонамерните барања и да ги насочуваат корисниците кон помош од реалниот свет. Работиме на и продолжуваме да го подобруваме ChatGPT во тесна консултација со клинички психолози“, рече Пусатери, портпарол на OpenAI.
Моделите на ChatGPT се исто така обучени да отфрлаат барања што би можеле „значително да овозможат насилство“ и да ги известат органите за спроведување на законот кога разговорите укажуваат на „директен и веродостоен ризик од штета на другите“, а експертите за ментално здравје помагаат во проценката на ваквите случаи, според објавите на блогот на OpenAI.
Покрај тврдењата за самоубиство, компанијата се соочува со тужби во кои е обвинета за помагање на сторителите на масовните пукања во училиштата и за непријавување на тие разговори кај органите за спроведување на законот.
Семејствата на седум жртви на масовното пукање во средно училиште во Британска Колумбија ги тужат OpenAI и Altman за небрежност откако компанијата не ги известила властите за вознемирувачките разговори на стрелецот со ChatGPT.
Флорида стана првата американска држава што ја тужеше OpenAI претходно овој месец, обвинувајќи ја компанијата за оштетување на децата со тоа што им дава информации на сторителите на масовни убиства во училиштата, нудејќи упатства за самоповредување и создавајќи зависност кај помладите корисници.
Државниот обвинител, исто така, започна кривична истрага против OpenAI поради наводната улога на четботот во пукањето.
The post „Мојата ќерка беше натерана да изврши самоубиство од ChatGPT“: Жена го тужеше OpenAI appeared first on Во Центар.
