Од биолошко оружје до губење контрола: На што предупредуваат шефовите на водечките AI компании

Двајца од водечките луѓе во развојот на вештачката интелигенција, Сем Алтман од OpenAI и Дарио Амодеи од Anthropic, пред Советот за безбедност на Обединетите нации предупредија дека брзината со која напредува технологијата носи ризици кои би можеле да станат глобален безбедносен проблем.

Алтман предупреди дека еден од најголемите ризици е развојот на вештачката интелигенција да стане толку брз што луѓето повеќе да не можат да следат што се случува или навреме да интервенираат.

„Ризикот е таа да се движи толку брзо што луѓето повеќе нема да можат да следат што се случува или да интервенираат кога е потребно. Тоа очигледно би било ужасно“, рече Алтман пред Советот за безбедност.

Тој посочи дека компаниите не смеат да преземаат преголем технолошки ризик само поради придобивките од развојот или поради конкуренцијата меѓу компаниите.

— реклама —

Според Алтман, не треба да се развиваат модели за кои не постојат силни докази дека можат да останат под човечка контрола.

Другиот ризик што го посочи е концентрацијата на огромна моќ кај мал број компании, држави или поединци. Според него, ниту една компанија или држава не треба да може да ги користи најмоќните модели за да го наметне сопствениот поглед врз останатите.

За да покаже колку брзо напредувала технологијата, Алтман направи споредба со математичките способности на моделите во изминатите неколку години.

Според него, пред три лета моделите биле на ниво на основношколска математика, една година подоцна биле добри на средношколски математички натпревари, а минатото лето достигнале ниво на златен медал на престижен меѓународен математички натпревар.

— реклама —

Алтман пред ОН тврдеше и дека само неколку недели претходно еден од нивните модели решил еден од Милениумските математички проблеми – Навие-Стоксовите равенки.

Со сериозни предупредувања настапи и Дарио Амодеи.

Тој рече дека гледа две главни категории ризици: злоупотреба на моделите и губење контрола врз нив.

„Првиот е злоупотребата на моделите со вештачка интелигенција, на пример од биотерористи за создавање биолошко оружје“, рече Амодеи.

Како втор ризик го посочи сценариото во кое способностите на моделите би напредувале побрзо отколку што нивните создавачи можат да ги контролираат.

— реклама —

„Ако лошо се управува со ова, верувам дека вештачката интелигенција би можела да претставува ризик за човештвото во целина“, предупреди Амодеи.

Тој предложи меѓународни правила кои би забраниле употреба на вештачката интелигенција за создавање биолошко оружје, системи за процена и проверка на способностите на најнапредните модели и заеднички глобални стандарди за тестирање на ризикот од губење контрола.

Амодеи побара и воспоставување систем преку кој државите и компаниите би пријавувале инциденти со вештачка интелигенција кои можат да имаат последици врз глобалната безбедност.

Алтман, исто така, побара заеднички национални и меѓународни стандарди за најмоќните модели, механизми за мерење на нивните способности и ризици и брзо пријавување на безбедносните инциденти.

— реклама —

„Мора да имаме точни и брзи механизми за пријавување инциденти, класификација и протоколи за известување, за светот да може да учи од неуспесите пред тие да станат катастрофи“, порача тој.

Американскиот претседател Доналд Трамп, пак, има поинаков пристап кон прашањето за глобална регулација. Во говорот пред Генералното собрание на ОН тој ги отфрли предупредувањата дека вештачката интелигенција ќе го уништи човештвото и се спротивстави на создавање глобален систем кој би го контролирал развојот на технологијата.

„Кој ќе победи во суперинтелигенцијата, победува“, порача Трамп, нагласувајќи дека САД во моментов се пред Кина и дека сакаат да ја задржат таа предност.

Така, додека дел од водечките луѓе од самата индустрија бараат меѓународни стандарди и предупредуваат на ризик од губење контрола, американската администрација става поголем акцент на технолошката конкуренција, националната регулатива и задржувањето на американската предност.