Антропик предупредува дека развојот на вештачката интелигенција се одвива толку брзо што во догледна иднина би можел да доведе до системи способни да развиваат свои наследници, и затоа предлага пауза.
Иако оваа фаза сè уште не е достигната, компанијата верува дека би можела да се постигне порано отколку што институциите се подготвени да ја контролираат. Во својот блог, компанијата наведува дека таквото ниво на вештачка интелигенција би можело да донесе огромни придобивки , особено во науката и медицината, каде што системите за самоподобрување би можеле да го забрзаат истражувањето и откритијата на начини што не се можни денес.
Сепак, истото сценарио носи и сериозни ризици . Антропик предупредува дека губењето на контролата врз ваквите системи би станало реална можност, бидејќи вештачката интелигенција потенцијално би можела да продолжи да се подобрува без човечки надзор.
Како можно решение, компанијата предлага глобално забавување или привремена пауза во развојот на најнапредните системи за вештачка интелигенција. Целта би била регулативата, безбедносните истражувања и социјалните институции да го достигнат технолошкиот напредок, објавува Engadget .
Овој предлог доаѓа од компанија која е еден од клучните играчи во индустријата за вештачка интелигенција денес. Критичарите, вклучувајќи ги и аналитичарите на WSJ, тврдат дека ваквите предупредувања би можеле да имаат и маркетиншка позадина . Според ова толкување, Anthropic би можел да се позиционира како „поодговорен“ играч во споредба со конкуренцијата или да зголеми интерес за сопствените производи.Текстот продолжува по рекламата
Посебни сомнежи предизвика и ограничениот пристап до нивниот безбедносен модел на вештачка интелигенција Mythos , кој наводно бил објавен само на одбрани партнери поради потенцијална злоупотреба, додека скептиците веруваат дека станува збор за деловна стратегија и контрола на пазарот.
Сепак, компанијата тврди дека предлогот за забавување се базира на работата на нејзиниот истражувачки огранок, Антрополошкиот институт, кој е формиран за да ги проучува долгорочните ризици од напредната технологија за вештачка интелигенција. За да биде можно евентуално глобално запирање на развојот, сите водечки лаборатории за вештачка интелигенција во светот би морале да учествуваат, со механизми за проверка дека никој не го продолжува развојот во тајност .
Антропик дури наведува дека слични меѓународни договори постојат и во други области , како што се нуклеарните технологии, иако признава дека воспоставувањето таков систем во индустријата за вештачка интелигенција би било значително потешко и временски осетливо .
The post Гигантот предупредува: Вештачката интелигенција ќе создаде свои наследници, ни треба светска пауза appeared first on Во Центар.
Пронајдете не на следниве мрежи:
