Еден од пионерите на вештачката интелигенција, Јошуа Бенџо, ги критикуваше повиците за доделување права за технологијата, предупредувајќи дека таа веќе покажува знаци на самоодржување и дека луѓето треба да бидат подготвени да ја исклучат доколку е потребно.
Јошуа Бенџо рече дека давањето правен статус на најсовремени системи со вештачка интелигенција би било слично на давање државјанство на непријателски вонземјани, во време кога расте стравот дека технолошкиот напредок далеку ја надминува можноста овие системи да се стават под контрола, пишува „ Гардијан“ .
Бенџо, претседател на водечката меѓународна студија за безбедноста на вештачката интелигенција, рече дека растечката перцепција дека четботовите стануваат свесни „води до лоши одлуки“.
Канадскиот компјутерски научник, исто така, изрази загриженост дека моделите на вештачка интелигенција, технологијата зад алатките како што се чет-ботовите, покажуваат знаци на самоодржување, како што се обидите за исклучување на системите за надзор. Една од клучните загрижености на застапниците за безбедност на вештачката интелигенција е дека моќните системи би можеле да развијат способност да ги заобиколат заштитните механизми и да им наштетат на луѓето.
„Луѓето кои бараат вештачката интелигенција да има права би направиле огромна грешка. Моделите на гранична вештачка интелигенција веќе покажуваат знаци на самоодржување во експериментални услови денес, а давањето права на крајот би значело дека не треба да ги исклучуваме. Како што растат нивните способности и степенот на автономија, треба да бидеме сигурни дека можеме да се потпреме на технички и социјални заштитни мерки за да ги контролираме, вклучително и можноста да ги исклучиме доколку е потребно“, рече Бенџо.
Како што вештачката интелигенција станува сè понапредна во автономното дејствување и извршувањето на „мислечки“ задачи, дебатата за тоа дали луѓето во одреден момент треба да ѝ дадат права се интензивира. Анкета на американскиот тинк-тенк Институт за сетилност, кој ги поддржува моралните права на сите разумни суштества, покажа дека речиси четири од десет возрасни Американци ги поддржуваат законските права за разумен систем на вештачка интелигенција.
Anthropic, водечка американска компанија за вештачка интелигенција, во август изјави дека му дозволува на својот модел Claude Opus 4 да ги прекинува потенцијално „вознемирувачките“ разговори со корисниците, наведувајќи ја потребата да се заштити „благосостојбата“ на вештачката интелигенција. Елон Маск, чија компанија xAI го развива четботот Grok, напиша на Platform X дека „мачењето на вештачката интелигенција не е во ред“.
Роберт Лонг, истражувач кој го проучува прашањето за свеста за вештачката интелигенција, рече дека „ако и кога системите за вештачка интелигенција ќе развијат морален статус, треба да ги прашаме за нивните искуства и преференции, наместо да претпоставуваме дека ние знаеме најдобро“.
Во разговор за „Гардијан“, Бенџо рече дека постојат „вистински научни својства на свеста“ во човечкиот мозок што машините би можеле, барем теоретски, да ги реплицираат, но дека начинот на кој луѓето комуницираат со чет-ботовите е „нешто сосема друго“. Според него, причината е што луѓето имаат тенденција да претпоставуваат, без докази, дека вештачката интелигенција е целосно свесна на ист начин како и човекот.
„Луѓето не се заинтересирани за механизмите што се случуваат во рамките на вештачката интелигенција. Она што ги интересира е чувството дека разговараат со интелигентен ентитет кој има своја личност и цели. Затоа толку многу луѓе се емотивно поврзани со своите системи со вештачка интелигенција. Секогаш ќе има луѓе кои ќе речат: „Што и да ми кажуваат, сигурен сум дека е свесно“, додека други ќе тврдат спротивното. Ова е затоа што свеста е нешто што го доживуваме врз основа на интуиција. Феноменот на субјективна перцепција на свеста ќе доведе до лоши одлуки. Замислете вонземски вид како доаѓа на планетата и во еден момент сфаќаме дека има злонамерни намери кон нас. Дали им даваме државјанство и права или ги браниме нашите животи?“, рече Бенџо.
Реагирајќи на коментарите на Бенџо, Џејси Рис Антис, коосновач на Институтот за свест, рече дека луѓето нема да можат безбедно да коегзистираат со дигиталните умови ако тој однос се базира на контрола и принуда.
„Можеме да ѝ доделиме на вештачката интелигенција премногу или премалку права, а нашата цел треба да биде да го сториме тоа внимателно разгледувајќи ја благосостојбата на сите разумни суштества. Ниту автоматското доделување права на сите системи на вештачка интелигенција, ниту целосното негирање на какви било права на која било вештачка интелигенција, нема да биде здрав пристап“, рече Антис.
Бенџо, професор на Универзитетот во Монтреал, го доби прекарот „кум на вештачката интелигенција“ откако ја освои наградата Тјуринг во 2018 година, која се смета за еквивалент на Нобеловата награда за компјутери. Ја сподели со Џефри Хинтон, кој подоцна доби Нобелова награда, и Јан ЛеКан, главниот научник за вештачка интелигенција во компанијата на Марк Закерберг, Мета, кој е во заминување.
The post Канадски научник предупредува: Вештачката интелигенција покажува знаци на самоодржување, луѓето мора да бидат подготвени appeared first on Во Центар.
