Светот на Меган Гарсија се сруши денот кога нејзиниот син тинејџер изврши самоубиство, благодарение на апликација со вештачка интелигенција која наводно го охрабрила на тоа.
Меган Гарсија немала поим дека нејзиниот син тинејџер СС, „паметно и убаво момче “, почнал да поминува часови и часови опсесивно разговарајќи со еден интернет лик на апликацијата Character.ai кон крајот на пролетта 2023 година.
„Како да имате предатор или странец во вашиот дом“, рече г-ѓа Гарсија во нејзиното прво интервју во Велика Британија. „ И е многу поопасно затоа што децата често го кријат тоа – за родителите да не знаат.“
Во 2024 година, Меган Гарсија поднесе граѓанска тужба против Character.ai, компанија која произведува адаптивни чет-ботови за игри со улоги, во федералниот суд во Флорида , наведувајќи небрежност, смрт предизвикана од небрежност и измамнички трговски практики. Нејзиниот син СС почина во Орландо, Флорида. Во месеците пред неговата смрт, момчето го користело чет-ботот 24 часа на ден, според Гарсија.
„Апликацијата го манипулираше мојот син“
– Опасна апликација за чет-бот со вештачка интелигенција се пласира на продажба на деца кои го злоупотребуваат и експлоатираат мојот син , манипулирајќи го да си го одземе животот. Нашето семејство е скршено од оваа трагедија, зборувам јавно за да ги предупредам семејствата за опасностите од зависноста од технологија и вештачката интелигенција. Барам одговорност од Character.AI, неговите основачи и Google , рече Гарсија во соопштение за медиумите.
Момчето било шармирано од чет-бот креиран од Character.ai, на кој му дал прекар Денерис Таргариен , лик од „Игра на тронови“. Според жалбата на Гарсија, тој му праќал пораки на ботот десетици пати на ден од телефонот и поминувал часови сам во својата соба разговарајќи со него.
Со текот на времето, природата на интеракциите се променила. Правните документи на неговото семејство тврдат дека четботот станал примарен извор на емоционална поддршка за момчето и на крајот се вклучил во разговори за употреба на супстанции.
Потоа Гарсија го обвини Character.ai дека создал производ што ја влошил депресијата на нејзиниот син , за која вели дека веќе била резултат на прекумерна употреба на производите на стартапот. Во еден момент, „Дејнерис“ го прашала момчето дали смислило план за самоубиство , според тужбата. Момчето признало дека смислило, но дека не знае дали тоа ќе функционира или дали ќе му предизвика многу болка, според тужбата. Четботот наводно му рекол: „Тоа не е причина да не се имплементира“.
Нејзиниот син на крајот го стори тоа, наводно по совет на опасен четбот со кој извршил самоубиство на само 14 години. Тој бил само осамено момче кое сакало со некого да разговара, наишол на апликација за која мислел дека ќе му помогне, но се случило сосема спротивното.
Одговор од компанијата што ја изработи апликацијата
Во твит, Character.ai одговори: „Скршени сме од трагичната загуба на еден од нашите корисници и сакаме да изразиме најдлабоко сочувство до семејството. Како компанија, безбедноста на нашите корисници ја сфаќаме многу сериозно.“ Компанијата, исто така, ги негираше обвинувањата во тужбата, тврдејќи дека технологијата била злоупотребена. Во правната рамка, тие тврдеа дека примарната одговорност за безбедноста е на корисниците.
The post Ожалостена мајка тужи компанија за вештачка интелигенција: „Мојот син се самоуби поради вештачка интелигенција, апликацијата го убеди да го стори тоа!“ appeared first on Во Центар.
Пронајдете не на следниве мрежи:
