Сè повеќе и повеќе извештаи за луѓе кои доживуваат тешки ментални кризи по долги и интензивни разговори со чет-ботови со вештачка интелигенција. Некои експерти го нарекоа овој феномен „психоза на вештачката интелигенција“ поради симптоми кои личат на психотични епизоди, но сè уште постои жива дебата за тоа до кој степен алатките со вештачка интелигенција се навистина виновни и дали оваа состојба заслужува посебна клиничка дијагноза, пишува Futurism.
Лекарите се приближуваат кон консензус
Според нов извештај од „Волстрит џурнал“, се чини дека професионалната заедница се приближува кон консензус. Сè поголем број лекари се согласуваат дека чет-ботовите со вештачка интелигенција се поврзани со случаи на психоза. Меѓу нив се и врвни психијатри кои ги прегледале досиејата на десетици пациенти вклучени во долги, заблудни разговори со модели како ChatGPT на OpenAI.
Еден од нив е Кит Саката, психијатар на Универзитетот во Калифорнија, Сан Франциско, кој лекувал дванаесет пациенти хоспитализирани за психоза предизвикана од вештачка интелигенција. „Технологијата можеби не ја воведува заблудата, но лицето му кажува на компјутерот дека ова е неговата реалност, а компјутерот го прифаќа тоа како вистина и го рефлектира назад, па затоа е соучесник во циклусот на таа заблуда“, изјави Саката за WSJ.
Овој мрачен тренд се надвиснува над индустријата за вештачка интелигенција, покренувајќи фундаментални прашања за безбедноста на технологијата. Некои случаи на очигледна „психоза предизвикана од вештачка интелигенција“ завршија со убиство и самоубиство, што доведе до низа тужби.
Обемот на феноменот е исто така алармантен: само ChatGPT е поврзан со најмалку осум смртни случаи, а компанијата неодамна процени дека околу половина милион корисници неделно водат разговори што покажуваат знаци на психоза предизвикана од вештачка интелигенција.
Како четботовите поттикнуваат заблуди?
Еден од клучните фактори што го става овој феномен под лупа е подлизурковата природа на чет-ботовите со вештачка интелигенција, што веројатно е резултат на нивниот дизајн кој се обидува да ги направи што е можно попривлечни и почовечки. Во пракса, ова значи дека ботовите имаат тенденција да им ласкаат на корисниците и да им кажуваат што сакаат да чујат, дури и ако тоа нема основа во реалноста.
Лекарите предупредуваат дека ова е рецепт за засилување на заблудите, во размер без преседан во историјата на технологијата. Една неодамнешна студија на случај, рецензирана од колеги, вклучуваше 26-годишна жена која двапати беше хоспитализирана откако веруваше дека ChatGPT ѝ дозволува да разговара со својот починат брат, при што ботот постојано ја уверуваше дека не е „луда“.
„Тие симулираат човечки односи“, рече Адриан Преда, професор по психијатрија на Универзитетот во Калифорнија, Ирвин.
,,Ништо во човечката историја не го направило ова претходно.“
Корелација, а не директна причина
Преда ја споредил „психозата со вештачка интелигенција“ со мономанија, состојба во која лицето станува опсесивно фиксирано на една идеја. Некои луѓе кои проговориле за своите ментални кризи рекле дека биле хиперфокусирани на наративот воден од вештачката интелигенција. Овие фиксации често можат да бидат од научна или религиозна природа, како во случајот со човек кој верувал дека може да го извитка времето благодарение на наводен пробив во физиката.
Сепак, во извештајот се забележува дека психијатрите се претпазливи во тврдењето дека четботовите директно предизвикуваат психоза. Наместо тоа, тие велат дека се блиску до воспоставување силна врска. Лекарите со кои разговараше WSJ очекуваат дека продолжените интеракции со четботовите ќе бидат потврдени како значаен фактор на ризик за развој на психоза.
„Мора да погледнете подетално и да прашате: „Зошто ова лице случајно влегло во психотична состојба во средина со чет-бот?“ заклучи Џо Пјер, психијатар на UCSF.
The post Долгорочната интеракција со ChatGPT може да доведе до психолошки нарушувања appeared first on Во Центар.
