Пентагон целосно го исфрли Claude: Anthropic одби да ги тргне ограничувањата за автономно оружје и масовен надзор

Пентагон повеќе не ги користи алатките за вештачка интелигенција на Anthropic, потврди претставник на американското Министерство за одбрана за BBC, неколку месеци откако компанијата беше прогласена за ризик за синџирот на снабдување поради спорот околу безбедносните ограничувања на моделот Claude.

„Министерството престана со употребата на производите на Anthropic“, соопштил претставникот.

Министерот за одбрана Пит Хегсет уште во февруари ја означи компанијата како ризик за националната безбедност во синџирот на снабдување и постави рок од шест месеци за нејзините производи да бидат отстранети од системите на Пентагон. Не е познато зошто процесот траел подолго од најавеното.

— реклама —

Повеќе извори на BBC, меѓу кои поранешни американски одбранбени функционери и соработници кои работеле со Пентагон на вештачка интелигенција, тврдат дека Claude се користел до минатата недела за истражување, анализа и собирање разузнавачки информации, како и при американските воени операции против Иран.

Anthropic соработуваше со американската влада и војска од 2024 година и беше првата компанија од водечките лаборатории за вештачка интелигенција чии модели беа воведени во класифицирани американски владини мрежи.

Судирот со Пентагон ескалираше кога од компанијата било побарано да прифати употреба на Claude за сите законски дозволени воени цели. Anthropic одби да отстапи од две ограничувања: неговата технологија да не се користи за масовен домашен надзор и за целосно автономно оружје.

Компанијата тврдеше дека актуелните модели со вештачка интелигенција не се доволно сигурни за самостојно да управуваат со оружје и дека нивната употреба за масовен надзор би ги загрозила основните права.

— реклама —

Хегсет потоа ја прогласи компанијата за ризик за националната безбедност во синџирот на снабдување. Anthropic ја оцени одлуката како правно неоснована и најави судска постапка против администрацијата на Доналд Трамп.

И покрај спорот, Claude не можел веднаш да биде отстранет од воените системи. Според изворите на BBC, моделот бил интегриран во Maven Smart System, пошироката платформа на Пентагон за обработка и организирање разузнавачки и други податоци, со која управува Palantir.

Maven се користи за обработка на големи количества информации, меѓу кои сателитски снимки и снимки од дронови. Според изворите на BBC, податоците можеле да се обработуваат преку Claude и други јазични модели за различни задачи, вклучително и анализа на потенцијални воени цели и подготовка на разузнавачки извештаи.

— реклама —

„Фактот дека на Пентагон му требаше толку време целосно да го отстрани Claude од системот покажува дека овие работи не се едноставно заменливи“, изјавила Лорен Кан, поранешна функционерка во американското Министерство за одбрана и истражувачка во Центарот за безбедност и нови технологии на Универзитетот Џорџтаун.

Додека траеше отстранувањето на Anthropic, Пентагон ја прошири соработката со други компании за вештачка интелигенција.

Меѓу нив е и OpenAI, која во февруари постигна договор со Пентагон за распоредување напредни системи со вештачка интелигенција во класифицирани средини. И OpenAI има ограничувања за масовен домашен надзор и автономно оружје, но договорот со американската војска предвидува поинаква техничка и договорна рамка за нивно спроведување.

Според извори на BBC, алатките на OpenAI во последните месеци почнале пошироко да се користат во делови од американскиот воен систем.

— реклама —

Спорот меѓу Пентагон и Anthropic, сепак, не значи целосен прекин на односите меѓу компанијата и администрацијата на Трамп. Извршниот директор Дарио Амодеи минатата недела двапати се сретнал со американскиот претседател.

По една од средбите Амодеи изјави дека и натаму постојат прашања околу ризиците од вештачката интелигенција за кои се води дебата, но порача дека со соработка со претседателот може да се постигне безбеден развој на технологијата.

Трамп потоа јавно го пофалил Амодеи, нарекувајќи го „одличен“ и „фантастичен“.