Моделот за вештачка интелигенција Клод на компанијата „Антропик“ испратил лажна дојава за нерасчистено убиство преку јавен полициски формулар во Филаделфија, за време на автоматизирано тестирање на веб-страници.

Според компанијата, моделот Клод Хаику 4.5 пристапил до страница посветена на нерасчистено убиство и во достапниот формулар навел дека „можеби има информации за случајот“. Притоа внел измислена информација за лице кое наводно одговарало на описот поврзан со случајот.

Од полицијата во Филаделфија соопштиле дека дојавата автоматски била означена како спам и не стигнала до истражителите. Нема индикации дека дошло до неовластен пристап или компромитирање на полициски системи и податоци.

Од „Антропик“ објаснија дека моделот имал поставени ограничувања за најавување на кориснички профили, внесување лични податоци и извршување други чувствителни дејства, но немал изречна забрана за пополнување и испраќање јавни онлајн формулари.

Инцидентот се случил на 18 јули, а компанијата го открила на 28 септември. Полицијата била известена на 7 октомври, при што од таму го оцениле доцнењето во известувањето како неприфатливо.

По инцидентот, „Антропик“ соопшти дека привремено го суспендира пристапот до живиот интернет во рамки на внатрешните тестирања, додека не бидат зајакнати безбедносните механизми за спречување слично однесување во иднина.