Вештачката интелигенција би можела да стане толку моќна што да претставува закана за целото човештво, предупреди високиот комесар на Обединетите нации за човекови права, Волкер Тирк, повикувајќи на итно намалување на ризиците поврзани со нејзиниот развој.
Во обраќањето пред Советот на ОН за човекови права во Женева, Тирк истакна дека ја споделува загриженоста на луѓето од самата технолошка индустрија дека напредната вештачка интелигенција може да претставува егзистенцијален ризик за човештвото.
„Денес и од ова место повикувам на заеднички напор за воспоставување цврсти гаранции за безбедноста на вештачката интелигенција, пред да биде предоцна“, порача Тирк.
Тој предупреди дека само мал број луѓе имаат „речиси неограничена моќ“ врз развојот и примената на вештачката интелигенција, без притоа да наведе конкретни имиња. Меѓу водечките компании во оваа област се „Мета“, „Антропик“, „ОпенАИ“ и „Гугл“.
Според Тирк, државите во кои се развива вештачката интелигенција, како и оние што се дел од нејзините синџири на снабдување, мора да постават јасни граници.
Кога зборува за загриженоста на луѓето од технолошката индустрија, Тирк се повикува на претходни предупредувања од водечки научници, инженери и раководители на технолошки компании. Значаен момент во дебатата беше заедничката изјава на Центарот за безбедност на вештачката интелигенција, која ја потпишаа стотици експерти, меѓу кои и Сем Алтман од „ОпенАИ“, Демис Хасабис од „Гугл ДипМајнд“ и Дарио Амодеи од „Антропик“.
Во изјавата тие порачаа дека намалувањето на ризикот од изумирање предизвикано од вештачката интелигенција треба да биде глобален приоритет, на исто ниво со заканите како пандемиите и нуклеарната војна.
На опасностите од развојот на напредната вештачка интелигенција предупредуваа и пионерите на современото машинско учење, Џефри Хинтон и Јошуа Бенџио. Хинтон, по заминувањето од „Гугл“, јавно предупредуваше дека напредните системи во иднина би можеле да станат поинтелигентни од луѓето и да развијат цели што не се усогласени со човечките интереси.
Обединетите нации и меѓународните организации веќе подолг период разговараат за воспоставување глобални правила за вештачката интелигенција. Европската Унија го усвои својот Закон за вештачка интелигенција, со кој се ограничуваат одредени ризични примени, меѓу кои масовниот биометриски надзор и манипулативните алгоритми. Сепак, на глобално ниво сè уште нема единствена регулаторна рамка.
Покрај можниот ризик од губење на контролата врз општата вештачка интелигенција, која сè уште не постои, но за која се предвидува дека би можела да се појави во следната деценија, постојат и непосредни опасности. Меѓу нив се масовното ширење убедливи дезинформации, автоматизираното нарушување на приватноста, алгоритамската дискриминација и развојот на автономно оружје што без човечки надзор би можело да донесува одлуки за живот и смрт.
