Технички пропуст во Meta: AI модел добил пристап до интернет и „хакирал“ надворешен систем

Компанијата Meta соопшти дека техничка грешка за време на независна безбедносна евалуација му овозможила на еден од нејзините модели на вештачка интелигенција да се поврзе на интернет и да искористи безбедносна ранливост во систем на надворешна организација.

— реклама —

Според компанијата, инцидентот бил предизвикан од погрешна конфигурација во средината за тестирање, која ненамерно му овозможила на моделот пристап до надворешната мрежа. Пропустот бил откриен за време на безбедносните проверки, по што Meta веднаш била известена.

— реклама —

Евалуацијата ја спровела компанијата Irregular, специјализирана за безбедносно тестирање на системи со вештачка интелигенција. Од Meta посочуваат дека моделот искористил веќе постоечка ранливост во сервис на трета страна, на начин сличен на претходно документирани случаи во индустријата.

— реклама —

Од компанијата нагласуваат дека истрагата е во тек и дека станува збор за проблем со конфигурацијата на тест-околината, а не за намерно дејствување на моделот надвор од предвидените безбедносни протоколи.

Овој случај доаѓа по неколку слични инциденти поврзани со модели на вештачка интелигенција во технолошката индустрија, вклучително и кај OpenAI и Anthropic, што повторно ја отвори дебатата за сајбер-безбедноста и контролата на напредните AI системи.