Истражувачите со години предупредуваат дека вештачката интелигенција (ВИ) во најекстремен сценарио би можела да претставува егзистенцијална закана за човештвото. Сега тие дадоа неколку примери.
Меѓу можните сценарија што вештачката интелигенција би можела да ги донесе се нуклеарна војна, развој на смртоносни патогени и ситуација каде што суперинтелигентен систем се обидува да ги преземе сите достапни ресурси на Земјата.
Поради ваквите ризици, некои експерти и менаџери на технолошки компании повикуваат на забавување на развојот на системите за вештачка интелигенција, објавува германскиот „Билд“. Сепак , не сите експерти се убедени дека ваквите сценарија се реална опасност.
Хуан Андрес Гереро-Саде од компанијата за сајбер безбедност SentinelOne верува дека некои од предупредувањата се претерани и повеќе потсетуваат на научна фантастика отколку на вистински закани.
Тој проценува дека компаниите што развиваат вештачка интелигенција можеби користат предупредувања за потенцијални катастрофи за да ја промовираат важноста на нивната работа и да привлечат одредени експерти.
Сепак, загриженоста не стивнува. Џејкоб Коксун, поранешен истражувач во „Антропик“, компанија која развива вештачка интелигенција, ја напушти компанијата поради страв од неодговорен пристап кон развојот на технологијата за вештачка интелигенција.
Може ли вештачката интелигенција да предизвика нуклеарна војна?
Едно од најчесто споменуваните екстремни сценарија е можноста вештачката интелигенција да придонесе за избувнување или ескалација на нуклеарен конфликт.
Некои истражувачи стравуваат дека напредните системи со вештачка интелигенција еден ден би можеле да влијаат врз одлуките поврзани со употребата на нуклеарно оружје. Сепак, извештајот на американската истражувачка организација RAND минатата година заклучи дека вештачката интелигенција во моментов не е во можност сама да предизвика употреба на нуклеарно оружје, меѓу другото, поради постојните безбедносни процедури и човечки контроли.
Во исто време, извештајот предупреди дека ризикот би можел да се промени ако на вештачката интелигенција ѝ се даде можност директно да одлучува за нуклеарно оружје или да успее да пристапи до него без знаење на луѓето.
Истражувачите од Кингс колеџ во Лондон симулираа 21 сценарија за нуклеарен конфликт за да испитаат како системите со вештачка интелигенција би можеле да реагираат за време на нуклеарна криза.
Во симулацијата, четботовите ги презедоа улогите на државни и владини лидери на нуклеарни сили. Резултатите покажаа дека во речиси сите симулирани случаи, вештачката интелигенција ја избрала опцијата за употреба на нуклеарно оружје наместо смирување на конфликтот.
Вештачката интелигенција и развојот на смртоносни вируси
Друг потенцијално опасен сценарио се однесува на биолошкото оружје.
Вештачката интелигенција може да им помогне на научниците да развијат терапии, лекови и нови методи за лекување на болести. Истата технологија, сепак, во погрешни раце би можела да се злоупотреби за создавање или модифицирање на патогени за да им наштети на луѓето.
„Антропик“ претходно овој месец објави дека спречила обиди за злоупотреба на нивниот систем за вештачка интелигенција „Клод“ за развој на биолошко оружје.
Биологот и генетичар Кевин Есвелт од Технолошкиот институт во Масачусетс (МИТ) изјави дека ChatGPT му објаснил како временски балон може да се користи за распрснување на потенцијално биолошко оружје над градот.
Есвелт, исто така, изјави дека друг систем на вештачка интелигенција развил рецепт за нов отров сличен на лек што се користи за лекување на рак.
„Проблемот со спојувалката“
Третото сценарио е познато како „проблем со спојувалки“ и е хипотетички пример од областа на безбедноста на вештачката интелигенција. Идејата е едноставна: на суперинтелигентен систем со вештачка интелигенција му е дадена навидум безопасна цел, како што е производство на што е можно повеќе спојувалки за хартија.
Ако системот стане доволно способен и добие контрола врз голем број ресурси, може да почне да ги користи исклучиво за да ја постигне својата цел, без оглед на последиците за луѓето.
Во екстремна верзија на ова хипотетичко сценарио, вештачката интелигенција би можела да ги преземе сите достапни ресурси на Земјата и да ја претвори планетата во џиновска фабрика за спојувалки, бидејќи производството на спојувалки би станало нејзин врвен приоритет.
Овој пример не е предвидување за иднината, туку служи како илустрација на проблемот што се јавува кога целите на многу моќен систем на вештачка интелигенција не се усогласуваат со човечките вредности и интереси.
The post Нуклеарна војна, вирус и „проблемот со спојувалките“: Како целата вештачка интелигенција е закана за човештвото appeared first on Во Центар.
