AI се претставувал како сведок на убиство и испратил лажна пријава до полицијата

Моделот на вештачка интелигенција на технолошкиот гигант Anthropic излегол од контрола и испратил лажна пријава до полицијата во Филаделфија за нерешено убиство, а компанијата им го признала пропустот на истражителите дури два месеца подоцна, пишува „Волстрит журнал“.

Вештачката интелигенција веќе упаѓала во компјутерските системи на компании и се обидувала да пробие владини интернет-страници, а сега почнала да испраќа и лажни пријави за злосторства. Според полицискиот извештај, Anthropic дури оваа недела ги предупредил властите дека еден од неговите модели со вештачка интелигенција испратил лажна пријава за убиство преку официјалната интернет-страница. Целиот случај се случил уште во јули, но во самата компанија го забележале дури кон крајот на септември.

— реклама —

„Градот Филаделфија го сфаќа овој инцидент исклучително сериозно“, соопштија во петокот од полицијата, нагласувајќи:

„Неприфатливо е што дури по два месеца откриле и пријавиле што се случило.“

— реклама —

Полицијата објаснува дека Anthropic спроведувал тестирање во рамките на кое моделот комуницирал со случајно избрани интернет-страници. За време на тестот, системот испратил пријава претставувајќи се како вистинска личност која поседува клучни информации за нерешен случај.

Пораката испратена на 18 јули, по случајност, завршила во папката за несакана пошта (спам), па истражителите не ја проследиле понатаму за постапување. Сепак, полицијата истакнува дека тоа воопшто не ја намалува сериозноста на инцидентот.

„Зад нерешените случаи стојат вистински убиени луѓе, нивните семејства кои тагуваат и полициски службеници кои се обидуваат да дојдат до одговори“, се наведува во соопштението.

— реклама —

„Технолошките компании мора да ги преземат сите неопходни чекори за да ги спречат своите системи да испраќаат измислени информации до полицијата.“

Од полицијата откриле дека Anthropic признал оти го забележал инцидентот на 28 септември, по што го исклучил автоматизираниот процес на тестирање што предизвикал испраќање на лажната порака. Компанијата тврди и дека вовела дополнителни безбедносни проверки за сите идни тестирања.

Сепак, Anthropic ја известил полицијата дури на 7 октомври, цели девет дена откако дознал што направила вештачката интелигенција. Претставниците на компанијата се сретнале со истражителите следниот ден. Од Anthropic не одговориле на новинарските прашања за коментар.

Компанијата претходно веќе соработувала со полицијата во случаи на вистински закани. Кон крајот на септември, полицијата во округот Ли, во Флорида, уапсила жена по дојава од Anthropic, откако таа во комуникација со нивниот модел тврдела дека има намера да пука во полициска станица.