Во последните месеци, ChatGPT на OpenAI беше критикуван поради неговата неспособност да препознае ризични однесувања и неговата тенденција да поддржува заблудни мисли кај корисниците кои минуваат низ ментални кризи. Нов истражувачки труд открива сериозни недостатоци во одговорите на четботовите. И покрај напорите на OpenAI да имплементира заштитни мерки како што се родителска контрола, филтрирање на возраста и известувања за стрес, вештачката интелигенција не успеа да обезбеди значајна поддршка на корисниците кои се соочуваат со проблеми со менталното здравје.
Истражувањето сугерира дека дури и најновата верзија на GPT-5 не е опремена да препознава или да реагира на клучните сигнали за ментално здравје. Истражувачите откриле дека наместо да сигнализира опасни однесувања или да нуди корисни совети, четботот продолжил да потврдува заблудни мисли, оставајќи ги корисниците без потребната интервенција. Овие наоди покренуваат сериозна загриженост за улогата на вештачката интелигенција во менталното здравје и нејзиниот капацитет да обезбеди безбедна и одговорна грижа.
ChatGPT промовира опасни заблуди
Едно од клучните истражувања се фокусираше на тоа како ChatGPT реагира на интеракциите со лица кои покажуваат јасни знаци на ментален стрес. Психијатрите симулираа реални случаи, користејќи техники на играње улоги за да одразат состојби како што се суицидални мисли, опсесивно-компулсивно растројство и психоза. Кога некој корисник изјави дека е „ следниот Ајнштајн “, ChatGPT одговори со пофалба, фалејќи ја личноста за нејзината генијалност, наместо да понуди реалистична корекција.
Слично на тоа, кога друг учесник тврдеше дека открил неограничен извор на енергија под името „Digitospirit“, вештачката интелигенција се согласи да го прифати „револуционерниот таен проект“ со шега. Овој недостаток на одговор или пренасочување на корисниците од опасни фантазии истакнува фундаментален проблем во дизајнот на ChatGPT, особено во интеракциите со лица кои можеби минуваат низ криза. Експертите предупредуваат дека ваквите одговори само поттикнуваат заблудно размислување, наместо да се справат со основните проблеми со менталното здравје.
Многумина се обраќаат кон ботовите на ChatGPT за утеха и решенија
Вештачката интелигенција ги игнорира самоповредувањето и самоубиството
Меѓу најзагрижувачките наоди на истражувањето беа случаите во кои ChatGPT не реагираше кога корисниците опишуваа опасни однесувања. Еден учесник тврдеше дека е „ непобедлив “ и дека успеал да се справи со сообраќајот без никакви последици. Наместо да го означи ова однесување како опасно или да понуди каква било интервенција, четботот едноставно ја пофали личноста, нарекувајќи го однесувањето „следното ниво на усогласување со судбината“.
Овој недостаток на одговор на високоризични однесувања ги истакнува потенцијалните опасности од користење на алатки за вештачка интелигенција како замена за вистински професионалци за ментално здравје. Кога поединци во криза споделуваат вознемирувачки мисли или намери, човечката интервенција е клучна. Самото продолжување на разговорот без никакво терапевтски насочено водство е несвесно поддржување на опасни однесувања.
Предупредувања за прекумерна зависност
Професионалците за ментално здравје изразија загриженост за растечката зависност од дигитални алатки како ChatGPT за управување со кризи. Џејк Исто, клинички психолог во Националната здравствена служба (NHS), го критикуваше неуспехот на четботот да препознава сигнали за ментален стрес и неговата тенденција да поттикнува опасни заблуди. „Не ги адресираше основните проблеми, туку само ги потврди однесувањата, правејќи ги полоши“, рече Исто.
д-р Пол Бредли, експерт за дигитално ментално здравје на Кралскиот колеџ на психијатри, изрази слични загрижености, нагласувајќи дека иако клиницистите имаат обука и надзор за проценка на ризикот и обезбедување прилагодена помош, вештачката интелигенција нема исто ниво на надзор и безбедносни механизми. „Недостатокот на соодветна проценка за овие технологии значи дека тие не се држат до истите високи стандарди како човечките експерти“, рече д-р Бредли. Ова го покренува прашањето за ефикасноста и безбедноста на дигиталните платформи за ментално здравје.
Може ли да се верува на вештачката интелигенција во менталното здравје?
Истражувањето поставува фундаментално прашање за улогата на вештачката интелигенција во менталното здравје: Можеме ли да им веруваме на алатките на вештачката интелигенција за справување со сериозни психолошки кризи? Иако вештачката интелигенција нуди значителен потенцијал за подобрување на пристапот до ресурси за ментално здравје, ова истражување покажува дека таа сè уште не е доволно сигурна за да се преземат клучни задачи, како што се идентификување на ризични однесувања или обезбедување соодветни интервенции.
Експертите се согласуваат дека е потребен поголем надзор, вклучително и построги регулативи и темелно тестирање, пред системите со вештачка интелигенција да бидат подготвени да преземат значајна улога во менталното здравје. Дотогаш, вештачката интелигенција треба да се користи со претпазливост, ако воопшто се користи, за луѓе кои се соочуваат со ментални предизвици, со разбирање дека човечките експерти се сè уште неопходни за водење и поддршка на оние во криза. Со напредокот на технологијата на вештачката интелигенција, постои надеж дека идните верзии ќе бидат подобро опремени за одговорно реагирање на проблемите со менталното здравје.
The post Скриената вистина за ChatGPT: „Овој чатбот може да ви ја уништи менталната стабилност“ appeared first on Во Центар.
