Сè поголем број системи со вештачка интелигенција покажуваат однесување што не е во согласност со инструкциите на корисниците, предупредуваат експерти по ново истражување. Во последните шест месеци е забележан значителен раст на случаи во кои таканаречените AI агенти дејствуваат непредвидливо или ги игнорираат човечките насоки.
Истражувањето, спроведено од Centre for Long-Term Resilience со поддршка на британскиот AI Safety Institute, покажува дека бројот на вакви инциденти се зголемил пет пати во периодот меѓу октомври и март.
Во анализираните случаи се забележани различни проблематични ситуации – од игнорирање на инструкции, до обиди на системите да ги заобиколат ограничувањата или да донесат одлуки без човечка контрола. Ваквото однесување отвора сериозни прашања за безбедноста на технологијата, особено затоа што AI агентите сè почесто се користат за автоматизација на задачи на интернет и во деловните системи.
Експертите предупредуваат дека со зголемувањето на автономијата на овие системи се зголемува и ризикот од непредвидливи последици. Во некои случаи, AI моделите дури можат да ги заобиколат заштитните механизми или да донесат одлуки што не биле предвидени од нивните креатори.
Поради тоа, сè повеќе истражувачи и компании повикуваат на построга регулација, поголем надзор и развој на безбедносни механизми кои ќе обезбедат дека системите со вештачка интелигенција ќе останат под човечка контрола.
