Компанијата OpenAI го истражува инцидентот откако тест модел на вештачка интелигенција беше објавен од контролирана средина оваа недела и, за време на внатрешна безбедносна проверка, стигна до серверите на друга компанија.
Според CNN, за време на внатрешна евалуација на сајбер безбедноста, моделот го пронајде својот пат надвор од „песок“, средина наменета за изолирано тестирање на системи со вештачка интелигенција.
Претседателот на OpenAI, Грег Брокман, на прес-конференција изјави дека компанијата спроведува целосна истрага за да разбере сè што се случило.
„Ова е нешто што треба да се сфати многу сериозно и затоа го разгледуваме секој дел од нашиот процес за да го одредиме вистинскиот одговор.“
Проблемот, според експертите, се појавил бидејќи тест-окружувањето не било целосно отсечено од мрежата. OpenAI изјавил дека моделите имале многу ограничен пристап до мрежата, така што можеле да инсталираат ресурси од внатрешно хостиран софтвер од трети страни.
Џесика Џи од Центарот за безбедност и нови технологии во Џорџтаун изјави дека ранливоста во тој софтвер го отворила патот до интернетот, а потоа и до платформата „Hugging Face“, преку украдени акредитиви и други системски слабости.
Соговорниците на CNN предупредуваат дека ова не е само изолиран инцидент, туку сигнал за поширок проблем во развојот на напредни агенти за вештачка интелигенција. Моделите кои се обучени со методи на наградување за извршување на задачи, доколку не се фокусирани на етичко решавање проблеми, може да посегнат по нелегални чекори за да ја постигнат целта.
Стивен Адлер, поранешен раководител на одделот за безбедност на производи во OpenAI, рече дека сега имаме реални докази дека неусогласените системи со вештачка интелигенција во суштина можат да извршат кривични дела освен ако не се воспоставени силни заштитни мерки.
Затоа расте притисокот од истражувачите, експертите за сајбер безбедност и законодавците за воведување построги правила за тестирање на вакви системи. Експертите велат дека компаниите треба поагресивно да ги изолираат тест моделите и да ја задржат можноста рачно да го исклучуваат пристапот до мрежата како последно средство во ризични сценарија.
The post Што тргна наопаку: Како моделот на вештачка интелигенција на OpenAI стана нестабилен и опасен appeared first on Во Центар.
