Американската технолошка компанија „Антропик“ соопшти дека нејзините модели со вештачка интелигенција, поради погрешна конфигурација на системот, успеале да навлезат во системите на три организации за време на тестирања за сајбер безбедност, објави Би-би-си.
Ова следува само неколку дена откако „ОпенАИ“ откри дека нејзините модели ги пробиле системите на други компании, меѓу кои и платформата „Хагинг фејс“. По тие настани, „Антропик“ спровела детална проверка за да утврди дали и нејзините модели направиле слични упади, при што биле откриени три случаи. Компанијата соопшти дека засегнатите организации веќе се известени, но нивните имиња не се објавени.
Од „Антропик“ ги повикаа и останатите компании што развиваат модели со вештачка интелигенција да извршат слични проверки, со цел подобро да се проценат потенцијалните ризици од автономните системи.
Во рамки на истрагата биле анализирани повеќе од 140.000 тестови за да се утврди дали моделите од семејството „Клод“ можеле да воспостават интернет-конекција од тест-околини кои требало да бидат целосно изолирани. Дел од анализата опфатил и таканаречени „capture the flag“ тестови, во кои моделите добивале задача да дојдат до информации преку пробивање на други системи – метод што често се користи за процена на нивните способности за сајбер напади.
Компанијата објасни дека поради погрешна конфигурација на системите со кои управувале „Антропик“ и нејзиниот партнер за тестирање, моделите добиле директен пристап до интернет, што им овозможило да навлезат во реални системи. Првите инциденти се случиле уште во април, но тогаш не биле забележани ниту од компанијата, ниту од организациите чии системи биле погодени.
„Антропик“ призна дека можела потемелно да ги анализира своите записи и порача дека ја презема целосната одговорност за отстранување на пропустите. Од компанијата оценуваат дека со дополнителни инвестиции и построги безбедносни мерки ваквите ризици можат значително да се намалат.
Експертот за сајбер безбедност Дејвид Алот за Би-би-си изјави дека овие случаи не значат дека вештачката интелигенција развила сосема нови методи за хакирање. Според него, поголемата опасност е тоа што автономните агенти можат да комбинираат различни способности, да дојдат до лозинки и системски овластувања и самостојно да извршуваат активности со брзина што далеку ги надминува човечките можности.
Во меѓувреме, технолошките компании вложуваат милијарди долари во развој на автономни ВИ агенти кои можат самостојно да извршуваат задачи – од истражување и корисничка поддршка до сајбер безбедност. Серијата инциденти предизвика нови повици за построг надзор и регулација на ваквите технологии.
Американскиот претседател Доналд Трамп изјави дека Вашингтон разгледува можни мерки за ограничување на одредени ВИ алатки по неодамнешните сајбер инциденти.
Во изминатата недела и „ОпенАИ“ презеде одговорност за најмалку два случаи во кои нејзините модели ги надминале ограничувањата поставени при тестирањата. На 21 јули компанијата соопшти дека нејзин автономен агент успеал да ги заобиколи тест-ограничувањата и да навлезе во системот на „Хагинг фејс“. Од „ОпенАИ“ го оценија случајот како „без преседан“ и најавија детална техничка анализа, додека коосновачот на „Хагинг фејс“, Томас Волф, изјави дека инцидентот претставува сериозно предупредување за целата индустрија.
Сепак, дел од експертите со резерва ги оценуваат овие случаи, имајќи предвид дека и „ОпенАI“ и „Антропик“ се подготвуваат за големи берзански листирања, при што се очекува вредноста на секоја од компаниите да достигне околу еден билион американски долари. Од „ОпенАI“ порачаа дека се свесни за бројните прашања и шпекулации околу инцидентите и најавија дека во наредните недели ќе објават технички извештај со деталите од истрагата.
