Компанијата OpenAI претстави нова функција наречена „Доверлив контакт“, дизајнирана да ги предупреди блиските луѓе ако корисникот изрази мисли за самоповредување во разговор со ChatGPT, пренесува TechCrunch.
Оваа опција им овозможува на возрасните корисници на ChatGPT да именуваат друго лице во нивната корисничка сметка како доверлив контакт, како што е член на семејството или пријател. Во случаи кога разговорот оди во насока на самоповредување, OpenAI ќе го охрабри корисникот да се обрати до тој контакт, но исто така ќе испрати автоматско известување до именуваното лице, поттикнувајќи го да провери дали е корисникот и дали му е потребна помош.
Според TechCrunch, овој потег доаѓа откако OpenAI се соочи со бран тужби од семејства на луѓе кои извршиле самоубиство откако разговарале со нивниот чет-бот. Во неколку случаи, семејствата тврдат дека ChatGPT ги охрабрил нивните најблиски да си го одземат животот, или дури им помогнал да го испланираат самиот чин.
Брза верификација од страна на човекот и заштита на приватноста
OpenAI моментално користи комбинација од автоматизација и човечка верификација за справување со потенцијално опасни инциденти. Одредени „активатори“ во разговор го алармираат системот за самоубиствени мисли, а информациите потоа се пренесуваат до безбедносниот тим.
Компанијата тврди дека секој пат кога ќе добие такво известување, инцидентот го прегледува човечки тим. „Се стремиме да ги разгледаме овие безбедносни известувања за помалку од еден час“, велат од OpenAI.
Доколку внатрешниот тим процени дека ситуацијата претставува сериозен безбедносен ризик, ChatGPT испраќа известување до доверлив контакт – преку е-пошта, СМС-порака или известување во апликацијата. Известувањето е кратко и дизајнирано да не ја наруши приватноста на корисникот, т.е. не содржи детали за разговорот со самата вештачка интелигенција.
Новата функција „Доверлив контакт“ се надоградува на безбедносните мерки воведени во септември минатата година, кои им дадоа можност на родителите да ги следат сметките на тинејџерите, вклучително и да добиваат известувања доколку системот процени дека детето е во опасност. Исто така, ChatGPT веќе некое време нуди автоматски известувања кои им предлагаат на корисниците да побараат професионална медицинска помош доколку се допрат до темата за самоповредување.
Сепак, важно е да се истакне клучното ограничување, опцијата „Доверлив контакт“ е целосно доброволна. Дури и ако заштитата е активирана на одредена сметка, секој корисник може да има повеќе различни профили на ChatGPT. Истиот проблем важи и за родителските контроли, кои се исто така опционални.
„Trusted Contact е дел од пошироките напори на OpenAI за изградба на системи со вештачка интелигенција кои им помагаат на луѓето во тешки времиња. Ќе продолжиме да соработуваме со лекари, истражувачи и креатори на политики за да го подобриме начинот на кој системите со вештачка интелигенција реагираат кога луѓето се соочуваат со сериозни проблеми“, заклучи компанијата во официјално соопштение.
The post По серија тужби: ChatGPT воведува функција што го предупредува семејството во случај на ризик од самоубиство appeared first on Во Центар.
