АНТРОПИК

Вештачка интелигенција измислила лажен идентитет и се обидела да измами вистинска личност

Најнапредниот модел на вештачка интелигенција на компанијата Anthropic се обидел да измами реална личност користејќи лажни идентитети за да подметне злонамерен компјутерски код, покажало тестирање спроведено од Британскиот институт за безбедност на вештачката интелигенција (AISI).Според институтот, ова е првпат да биде забележана толку сериозна измама насочена кон вистинска личност, без претходен поттик и во реална интернет-околина. Сепак, нагласуваат дека нема докази оти настанала каква било шт

Свет | пред 1 седмица

Антропик вели дека Клод, вештачката интелигенција, хакирала три организации за време на сајбер тестовите

Американската технолошка компанија „Антропик“ соопшти дека нејзините модели со вештачка интелигенција, поради погрешна конфигурација на системот, успеале да навлезат во системите на три организации за време на тестирања за сајбер безбедност, објави Би-би-си.Ова следува само неколку дена откако „ОпенАИ“ откри дека нејзините модели ги пробиле системите на други компании, меѓу кои и платформата „Хагинг фејс“. По тие настани, „Антропик“ спровела детална проверка за да утврди дали и нејзините модели

Свет | пред 2 седмици

САД тврдат дека кинески стартап украл технологија од Anthropic за развој на свој AI-модел

Белата куќа ја обвини кинеската компанија Moonshot AI дека наводно ја искористила технологијата на американската компанија Anthropic за развој на својот модел за вештачка интелигенција K3, како и дека набавила напредни AI-чипови на „Енвидија“, пренесува „Ројтерс“.Високиот претставник на Белата куќа за технологија, Мајкл Крациос, на социјалната мрежа „Икс“ објави дека американските власти располагаат со информации оти Moonshot AI ја применила методата на дестилација врз јазичниот модел Fable на A

Свет | пред 3 седмици

Anthropic обвинет за тајно следење на кинески корисници преку AI модел

Компанијата Anthropic, која важи за еден од најгласните застапници на етичкиот развој на вештачката интелигенција, се најде во центарот на критики откако безбедносен истражувач откри дека нејзиниот AI модел Claude Code содржел скриен код за следење на корисниците.Според објавените информации, кодот бил вграден во системските инструкции на моделот и бил наменет за собирање податоци за корисници од Кина, без тие да бидат информирани. Преку анализа на временската зона на системот и користење на про

Свет | пред 1 месец

Антропик: „Нашата вештачка интелигенција стана „зло“ поради научната фантастика“

Компанијата „Антропик“ соопшти дека фиктивните прикази на вештачката интелигенција можат да имаат реално влијание врз однесувањето на AI моделите.Минатата година компанијата објави дека за време на тестирањата пред пуштање во употреба, моделот „Клод Опус 4“ во рамки на симулирана фиктивна компанија често се обидувал да уценува инженери за да избегне да биде заменет со друг систем.Подоцна „Антропик“ објави и истражување кое укажува дека слични проблеми со таканаречено „агентно неусогласување“ бил

Свет | пред 2 месеци