Во согласност со Регулативата (ЕУ) 2024/1689, позната како Закон за вештачка интелигенција на ЕУ, првиот сеопфатен закон што ја регулира вештачката интелигенција во Европа, воведени се бројни обврски за организациите што развиваат, користат или пласираат на пазарот системи за вештачка интелигенција на пазарот на Европската Унија. Правилата се особено строги за системи што спаѓаат во категоријата со висок ризик.
Овој преглед објаснува кога важат обврските, што точно значи следење, какви безбедносни мерки пропишува законот и како специјализираните фирми можат да преземат усогласеност со вештачката интелигенција за клиентите.
Кога се применуваат обврските за следење и контрола?
Системите со вештачка интелигенција со висок ризик подлежат на најстроги правила. Тие вклучуваат на пример системи во медицината, вработувањето, образованието, критичната инфраструктура, правдата и други.
Корисниците и давателите на овие системи имаат различни, но меѓусебно поврзани обврски.
Обврски за распоредувачи на системи со вештачка интелигенција со висок ризик
Корисниците мора:
користете го системот исклучиво во согласност со упатствата на производителот
обезбеди човечки надзор преку обучено и овластено лице
собирајте и чувајте автоматски генерирани логови најмалку 6 месеци
да ја суспендираат употребата и да го известат давателот на услуги и надлежните органи кога ќе откријат ризик или дефект
Обврски за давателите (производителите) на системи за вештачка интелигенција со висок ризик
Давателите на услуги мораат:
воспоставување систем за следење по пуштањето во промет, пропорционален на видот на ризик
континуирано собира, документира и анализира податоци за работењето на системот
креирајте и одржувајте план за следење по пуштањето во промет во техничката документација
обезбедете механизми за ажурирања, контрола на квалитетот и управување со ризици во текот на целиот животен век на системот
Што значи следење и контрола според Законот на ЕУ за вештачка интелигенција
Мониторингот вклучува:
следење на функционирањето на системот во реална средина
откривање на потенцијални грешки, влошување на перформансите и нови ризици
проверка на усогласеноста со техничките и безбедносните барања
документирање и чување на сите релевантни технички записи
соработка со надлежни тела и пријавување на инциденти
Со други зборови, континуираното следење повеќе не е препорака – туку законска обврска.
Мерки за безбедност и сигурност согласно Законот на ЕУ за вештачка интелигенција
Законот воведува неколку клучни категории на заштита:
Робусност, точност и сајбер безбедност (член 15)
Системите со висок ризик мора да бидат:
точни, стабилни и сигурни
отпорен на напади како што се труење со податоци, манипулација со модели и непријателски напади
дизајнирани со механизми за безбедност од дефекти и процедури за одговор
Мониторинг по пуштањето на пазарот и известување за инциденти (членови 72–73)
Давателите на услуги мораат:
го следи системот во текот на целиот негов животен циклус
идентификувајте нови ризици или промени во околината
пријавувајте сериозни инциденти до владините органи
Забранети практики со вештачка интелигенција (член 5)
Законот забранува системи кои:
Тие манипулираат со луѓето преку потсвесни техники
искористување на ранливостите на одредена група
тие вршат социјално бодување
врши масовен, нецелен биометриски надзор
анализирајте емоции во работната и образовната средина
Посебни услови за системи со висок ризик
Пред да се пушти во продажба таков систем, тој мора да има:
проценка на ризик
техничка и организациска документација
човечки надзор
план за следење и механизми за известување
сертификација (кога е пропишано)
Институционална рамка
ЕУ воведува:
национални надзорни тела
Централноевропска канцеларија за вештачка интелигенција
координација и надзор на спроведувањето на законот во сите земји-членки
Казни
За најсериозните прекршувања на законот, казните можат да достигнат над 7 проценти од глобалните годишни приходи на компанијата.
Како компаниите можат да ги исполнат своите обврски
Специјализирани компании, како што е CompliAI (Lexai), преземаат целосна усогласеност со Законот за вештачка интелигенција на ЕУ за своите клиенти. Ова вклучува:
идентификација и класификација на системи со вештачка интелигенција
континуиран технолошки и оперативен мониторинг
собирање и архивирање на логови
проценки на ризик (проценки на ризик од вештачка интелигенција)
човечки надзор и управување со инциденти
документација и подготовка за сертификација
спроведување на пост-пазарен мониторинг во согласност со законот
За компаниите кои не сакаат сами да организираат усогласеност со вештачката интелигенција, ова е најефикасното решение.
The post Што пропишува „Законот на ЕУ за вештачка интелигенција“? Обврски за следење, контрола и безбедност на системите за вештачка интелигенција appeared first on Во Центар.
