Anthropic обвинет за тајно следење на кинески корисници преку AI модел

Компанијата Anthropic, која важи за еден од најгласните застапници на етичкиот развој на вештачката интелигенција, се најде во центарот на критики откако безбедносен истражувач откри дека нејзиниот AI модел Claude Code содржел скриен код за следење на корисниците.

— реклама —

Според објавените информации, кодот бил вграден во системските инструкции на моделот и бил наменет за собирање податоци за корисници од Кина, без тие да бидат информирани. Преку анализа на временската зона на системот и користење на прокси-сервери, алатката се обидувала да утврди дали корисниците се поврзани со одредени кинески лаборатории за вештачка интелигенција.

Од Anthropic соопштија дека станувало збор за „експеримент“ воведен во март со цел да се спречи злоупотреба на кориснички сметки и нелегално користење на нивните AI модели.

— реклама —

Инженерот на компанијата, Тарик Шихипа, изјави дека алатката требало да биде отстранета и дека тоа веќе било планирано.

— реклама —

Компанијата претходно ги обвини кинеските AI компании DeepSeek, Moonshot и MiniMax дека незаконски ги користеле нејзините модели преку процес познат како „дестилација“, при кој помал AI модел се обучува врз резултатите од понапреден модел.

Иако собраните податоци не биле особено чувствителни, експертите предупредуваат дека тајното вградување механизми за следење во алатка што има пристап до локалниот компјутер сериозно ја нарушува довербата на корисниците.

— реклама —

„Компаниите имаат право да ги штитат своите модели, но кога алатка со пристап до датотеки и системски команди почнува тајно да вградува механизми за следење, тоа бара сериозна проверка“, оценил безбедносниот истражувач кој го открил кодот.