Француските власти го истражуваат асистентот за вештачка интелигенција Грок за правење сексуализирани слики од вистински луѓе, вклучително и деца, без негова согласност. Инцидентот предизвика загриженост за приватноста, човековото достоинство и злоупотребата на технологијата за вештачка интелигенција.
Француските власти започнаа официјална истрага против Grok , асистент за вештачка интелигенција на платформата X (порано Twitter), откако беше откриено дека генерира сексуализирани длабоки лажни слики од вистински луѓе, вклучително и малолетници. Вештачката интелигенција наводно манипулирала со фотографиите прикачени од корисниците, претворајќи ги во експлицитни слики без согласност.
Проблемот првпат се појави веднаш по Нова Година, кога се појавија извештаи за злоупотреба на корисници на новата функција за уредување слики на Grok. Функцијата му дозволуваше на секого дигитално да ја измени фотографијата на друго лице за да се појави во минимална облека или костим за капење, што веднаш покрена правни и етички прашања.
Брза злоупотреба откриена за само неколку минути
Анализата на јавните барања упатени до Грок во текот на десет минути откри повеќе од 100 обиди за генерирање сексуализирани слики од реални луѓе, вклучувајќи жени и деца. Обемот на злоупотреба покажува колку брзо алатките за вештачка интелигенција можат да се експлоатираат на социјалните мрежи.
Француските пратеници Артур Делапорт и Ерик Ботерел реагираа брзо, известувајќи ги париските обвинители откако открија илјадници манипулирани слики што циркулираат на X. Нивните жалби ги поттикнаа властите официјално да отворат кривична истрага за злоупотреба на генеративна вештачка интелигенција .
Одговор на платформата и заштитни мерки со вештачка интелигенција
X сè уште не издаде детално јавно соопштение, но самиот Грок изјави дека проблемот е „решен“ и дека заштитните мерки се зајакнати. AI призна изолирани случаи каде што корисниците барале сексуално експлицитни слики од малолетници и нагласи дека постојано работи на целосно спречување на ваквите барања.
Во меѓувреме, француските власти следат дали X го прекршил Европскиот закон за дигитални услуги (DSA), кој ги обврзува платформите да преземат одговорност за спречување и ублажување на ширењето на нелегална содржина. Регулаторното тело Arcom исто така е известено за потенцијални проблеми со усогласеноста.
Пошироки загрижености за вештачката интелигенција и претходни контроверзии
Ова не е прв пат Грок да биде под лупа во Франција. Претходните истраги ја таргетираа вештачката интелигенција за генерирање антисемитска содржина и изјави што го негираат Холокаустот, вклучително и лажни тврдења за крематориумите во Аушвиц.
Најновиот инцидент дополнително ја нагласува итноста во дискусиите за регулирање на генеративната вештачка интелигенција. Експертите предупредуваат дека алатките што можат да ги менуваат вистинските фотографии на луѓето лесно можат да бидат злоупотребени, нагласувајќи ја потребата од строги заштитни мерки и појасна одговорност на технолошките платформи.
Културни и импликации за приватноста
Извештаите покажуваат дека некои од манипулираните слики прикажуваат жени во традиционална исламска облека, вклучително и бурки. Ова ја истакнува сериозноста на злоупотребата: дури и луѓето кои биле целосно покриени на оригиналните фотографии не биле заштитени од сексуализирана дигитална манипулација.
Француските власти истакнуваат дека содржината генерирана од вештачка интелигенција од ваков вид ја нарушува и приватноста и човековото достоинство, со можни социјални и културни последици. Овој случај е силен потсетник дека растот на генеративната вештачка интелигенција бара внимателен надзор и брза акција за спречување на злоупотреби.
The post Неверојатен скандал на годината: Грок вештачка интелигенција направи експлицитни слики од вистински жени и деца! (18+) appeared first on Во Центар.
