Алтман и Амодеи пред Советот за безбедност на ОН: Потребни се глобални правила за вештачката интелигенција

Потребата од меѓународни правила и поголема соработка за безбедноста при развојот на вештачката интелигенција беше во фокусот на обраќањата на извршните директори на „ОпенАИ“ и „Антропик“ пред Советот за безбедност на Обединетите нации.

Сем Алтман и Дарио Амодеи одделно се обратија до членовите на Советот, предупредувајќи дека брзиот развој на технологијата носи и ризици што можат да имаат глобални последици.

— реклама —

Амодеи оцени дека без соодветна меѓународна соработка, вештачката интелигенција би можела да претставува ризик за човештвото. Тој предложи конкретни глобални договори, системи за евалуација и проверка на преземените обврски, како и заеднички стандарди за тестирање на ВИ и известување за безбедносни инциденти.

Како пример за меѓународен договор, Амодеи ја посочи можната забрана за користење вештачка интелигенција за производство на биолошко оружје.

— реклама —

Алтман, пак, повика на воспоставување меѓународни стандарди со кои би се мереле можностите на ВИ, би се проценувале ризиците и би се проверувало дали воспоставените заштитни механизми се доволни. Тој нагласи и дека е потребен значаен човечки надзор врз технологијата.

Според Алтман, земјите треба да имаат пристап до брзи и точни информации за безбедносните инциденти, со цел светот да може да учи од пропустите пред тие да прераснат во сериозни последици. Тој предложи и безбедни канали за размена на информации меѓу владите за новите закани.

— реклама —

Нивните обраќања доаѓаат по повеќе случаи во кои агенти со вештачка интелигенција презеле непланирани дејства, вклучително и инциденти во кои биле хакирани системи на други компании.

Алтман порача дека секој ризик од катастрофа предизвикана од ВИ е неприфатлив, но истовремено предупреди дека не треба да се паѓа ниту во краен песимизам ниту во слеп оптимизам во однос на технологијата.

Тој нагласи дека вештачката интелигенција може да помогне во решавањето на големи глобални предизвици, но дека за справување со ризиците е потребна меѓународна координација.

Не се очекува состанокот на Советот за безбедност на ОН да резултира со писмени договори.