ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА

Нов аларм за вештачката интелигенција: AI системи почнуваат да дејствуваат самостојно

Сè поголем број системи со вештачка интелигенција покажуваат однесување што не е во согласност со инструкциите на корисниците, предупредуваат експерти по ново истражување. Во последните шест месеци е забележан значителен раст на случаи во кои таканаречените AI агенти дејствуваат непредвидливо или ги игнорираат човечките насоки.Истражувањето, спроведено од Centre for Long-Term Resilience со поддршка на британскиот AI Safety Institute, покажува дека бројот на вакви инциденти се зголемил пет пати во периодот меѓу октомври и март.Во анализираните случаи се забележани различни проблематични ситуации – од игнорирање на инструкции, до обиди на системите да ги заобиколат ограничувањата или да донесат одлуки без човечка контрола. Ваквото однесување отвора сериозни прашања за безбедноста на технологијата, особено затоа што AI агентите сè почесто се користат за автоматизација на задачи на интернет и во деловните системи.Експертите предупредуваат дека со зголемувањето на автономијата на овие системи се зголемува и ризикот од непредвидливи последици. Во некои случаи, AI моделите дури можат да ги заобиколат заштитните механизми или да донесат одлуки што не биле предвидени од нивните креатори.Поради тоа, сè повеќе истражувачи и компании повикуваат на построга регулација, поголем надзор и развој на безбедносни механизми кои ќе обезбедат дека системите со вештачка интелигенција ќе останат под човечка контрола.

Свет | пред 12 часа

Крај на интернетот каков што го знаеме: Од 2027 ботoвите ќе бидат побројни од луѓето

Интернетот се движи кон историска пресвртница во која автоматизираните системи ќе ја преземат главната улога во сообраќајот на мрежата. Според проценките изнесени од извршниот директор на технолошката компанија „Клаудфлер“, Метју Принс, активноста што ја генерираат ботови и т.н. AI агенти би можела да ја надмине активноста на човечките корисници веќе во наредниот период, а од 2027 година да стане доминантна.Принс на конференција во Остин оцени дека експанзијата на генеративната вештачка интелигенција го менува самиот ритам на интернетот: додека човек обично посетува неколку веб-страници за да пронајде производ или информација, AI агентите можат да „поминат“ низ илјадници страници во секунда, собирајќи податоци и споредувајќи понуди, извори и детали во име на корисникот.Во периодот пред големиот подем на генеративната AI, ботовите сочинувале околу една петтина од интернет-сообраќајот, а значаен дел од тоа биле легитимни пребарувачи и индексирачи. Но, „гладта“ на новите модели за огромни количини податоци, како и растот на автоматизираните алатки што постојано комуницираат со веб-содржини, според Принс ќе ја промени статистиката драматично и трајно.Тој го спореди овој премин со претходните големи технолошки пресвртници – на пример, преминот од десктоп кон мобилен интернет – и предупреди дека ќе бидат потребни и нови инфраструктурни решенија. Поголемиот обем автоматизирани барања, според оценките, ќе донесе силен притисок врз серверите ширум светот и би можел да го надмине оптоварувањето што мрежата го доживеа во пандемијата.Како можен одговор, Принс најави дека интернетот ќе мора да се прилагоди со создавање милиони привремени, изолирани дигитални средини во секунда – „џебови“ во кои AI-кодот ќе извршува задача и потоа ќе исчезнува. Во таков модел, клучна ќе стане способноста за брза проверка на доверливоста на автоматизираните посетители, заштита од злоупотреби и оптимизација на ресурсите за да не се гушат услугите што ги користат луѓето.Се отвора и пошироко прашање: ако мрежата се наполни со роботи што разговараат со други роботи, колку ќе биде лесно да се разликува корисно од манипулативно, легитимно од штетно, вистинска потреба од „празно“ генерирање сообраќај. Дебатата што допрва ќе се разгорува не е само техничка – туку и општествена – бидејќи од неа ќе зависи како ќе изгледа пристапот до информации, трговијата и безбедноста на интернет во годините што доаѓаат.

Магазин | пред 1 седмица

Администрацијата на Трамп планира ВИ да пишува федерални закони

Администрацијата на американскиот претседател Доналд Трамп планира да воведе контроверзна, но револуционерна промена во работењето на федералните институции, со користење на вештачка интелигенција за изработка на нацрт-закони и федерални прописи.Според извештаи на истражувачкиот медиум „ПроПаблика“, пренесени од американски медиуми, станува збор за пилот-проект во рамки на Министерството за сообраќај на САД, каде што ќе се користи AI моделот Google Gemini. Целта на иницијативата е значително да се забрза процесот на носење регулативи, кој досега траел со месеци, па дури и години.„Наместо сложените правила да се пишуваат со месеци, со помош на Gemini тие би можеле да бидат подготвени за само дваесетина минути“, наведуваат извори запознаени со проектот.Изјавите на високи функционери во Министерството за сообраќај предизвикаа сериозна загриженост во јавноста. Главниот правен советник на министерството, Грегори Зерзан, на интерни состаноци наводно изјавил дека администрацијата не тежнее кон „совршени“ или „исклучително добри“ прописи, туку кон правила што се „доволно добри“ за, како што рекол, „да се преплави системот со нови регулативи“.Експерти и поранешни федерални службеници предупредуваат на сериозни ризици од ваквиот пристап. Еден од клучните проблеми се таканаречените „халуцинации“ на вештачката интелигенција – појава при која AI моделите генерираат неточни или целосно измислени информации, што во правни документи може да има катастрофални последици.Дополнителна загриженост предизвикува и фактот што Министерството за сообраќај регулира чувствителни области како безбедноста на комерцијалниот авионски сообраќај, транспортот на опасни материи и стандардите за возачи. Критичарите сметаат дека потпирањето на вештачка интелигенција во овие сегменти може директно да ги загрози животите на граѓаните.

Свет | пред 2 месеци

Новата опција на Gemini овозможува одговор веднаш, без чекање

Google започна со воведување на нова функционалност во својата апликација Gemini, со која значително се забрзува интеракцијата со вештачката интелигенција. Станува збор за копчето „Answer Now“, кое им овозможува на корисниците да добијат одговор веднаш, без да го чекаат процесот на подлабинска анализа на моделот.Корисниците на понапредните верзии на Gemini, како што се моделите Pro и Thinking, досега често забележуваа кратко задржување пред апликацијата да започне со генерирање текст. Во тој период системот анализира податоци, проверува факти и ја планира структурата на одговорот за да обезбеди поголема точност.Сепак, Google процени дека во одредени ситуации корисниците повеќе имаат потреба од брз, отколку од целосно разработен одговор. Токму затоа е воведена функцијата „Answer Now“. Додека Gemini го обработува прашањето, на екранот се појавува копче со кое корисникот може да го прекине процесот на анализа. Со негово притискање, вештачката интелигенција веднаш го прикажува одговорот врз основа на досега обработените информации.Оваа новина носи поголема контрола, бидејќи корисникот сам одлучува дали му е поважна брзината или максималната прецизност на одговорот.Функцијата „Answer Now“ постепено станува достапна на Android и iOS уредите, како и на веб-верзијата на сервисот Gemini.

Магазин | пред 2 месеци

Википедија склучи договори со водечките AI-компании

Фондацијата „Викимедија“, која управува со интернет-енциклопедијата Википедија, објави дека склучила нови комерцијални договори со водечки компании од областа на вештачката интелигенција, меѓу кои се „Амазон“, „Мета Платформс“, „Перплексити“, „Мајкрософт“ и „Мистрал AI“, преку својата деловна платформа „Викимедија Ентерпрајз“.Објавата доаѓа во период кога Википедија одбележува 25 години од своето постоење и претставува продолжување на напорите да се одговори на сè поголемите барања што генеративните технологии за вештачка интелигенција ги наметнуваат врз инфраструктурата на сајтот. Преку „Викимедија Ентерпрајз“ се нуди платен пристап до структурирани податоци од повеќе од 65 милиони статии на над 300 јазици, наменети за големи технолошки компании кои овие информации ги користат за обука и функционирање на своите AI-системи.Слични договори со „Гугл“ биле склучени уште во 2022 година, а со новите партнерства моделот на монетизација е проширен и на други големи компании. Целта, како што наведуваат од фондацијата, е да се ублажат високите трошоци за сервери и инфраструктура, предизвикани од масовната автоматска обработка на податоци од страна на AI-системите, бидејќи стандардниот модел на финансирање преку донации веќе не е доволен.Основачот на Википедија, Џими Вејлс, изјави дека ја поддржува употребата на податоците од Википедија за обука на вештачка интелигенција, истакнувајќи дека станува збор за човечки уредувана и квалитетна содржина. Сепак, тој нагласи дека компаниите кои интензивно го користат овој материјал треба правично да придонесат кон покривање на трошоците за одржување на платформата.Договорите, според Фондацијата „Викимедија“, не значат дека Википедија ќе престане да биде слободно достапна за јавноста. Содржината останува отворена и бесплатна за сите корисници, додека партнерствата овозможуваат сигурен, брз и скалабилен пристап до податоците за комерцијални цели.

Магазин | пред 2 месеци

Гугл тестира персонализиран асистент што „знае повеќе за вас“

Компанијата Гугл претстави нова бета-функција наречена Personal Intelligence во рамки на својата Gemini AI апликација, чија цел е да овозможи значителна поперсонализирана помош за корисниците.Новата функција им дозволува на корисниците, со сопствена согласност, да поврзат одбрани Гугл сервиси како Gmail, Google Photos, Search и YouTube, со што Gemini може да користи личен контекст за да дава попрецизни и порелевантни одговори.Со Personal Intelligence, Gemini повеќе не се потпира само на општи информации, туку може да „разбира“ претходни активности, пораки, пребарувања или фотографии и врз основа на тоа да предлага поконкретни решенија. На пример, асистентот може да комбинира податоци од различни сервиси за да одговори на прашања поврзани со минати планови или активности.Од Гугл нагласуваат дека корисниците имаат целосна контрола – функцијата е исклучена по дифолт, а секој сам одлучува кои апликации ќе ги поврзе. Компанијата уверува дека приватноста е клучен приоритет и дека се користат само податоците за кои корисникот дал дозвола.Во моментов, Personal Intelligence е достапен во бета-верзија во САД, првенствено за претплатниците на Google AI Pro и AI Ultra, со најави дека во наредните месеци ќе се прошири и во други земји и за бесплатни корисници.Овој чекор се смета за директен одговор на конкурентските AI решенија, при што Google ја користи предноста на својот силно поврзан дигитален екосистем.

Магазин | пред 2 месеци

Воцaп и Вибер се најчестите ВИ алатки што ги користат Македонците: Норвешка, Данска и Швајцарија вештачката интелигенција ја користат за работа

Комуникацијата е најчестата причина поради која граѓаните во Македонија се свртуваат кон алатките за генеративна вештачка интелигенција: дури 86 проценти од испитаниците во анкетата на „Евростат“ изјавиле дека ги користат за телефонски разговори и видеоповици. Осумдесет проценти навеле употреба на „Воцaп“, „Вибер“, „Месинџер“ и други алатки, а 41 отсто ги користат за испраќање и примање пораки.Истражувањето покажува и значајна употреба на ВИ за информативни цели – 62 проценти читаат вести и други содржини преку овие алатки, 43 проценти бараат здравствени информации, додека 34 проценти пребаруваат податоци за добра и услуги.Според податоците за 2025 година, генеративна вештачка интелигенција користеле 22 проценти од македонските граѓани на возраст од 16 до 74 години. Од нив, 15,76 отсто ја користеле за приватни цели, 8,55 проценти за работа, а 4,21 процент во формалното образование.Во споредба со Европската Унија, каде оваа година 32,7 проценти од возрасната популација користела алатки за генеративна ВИ, Македонија е под просекот. На ниво на ЕУ, 25,1 процент од граѓаните ги користеле за приватни цели, 15,1 процент за работа, а 9,4 проценти во образованието.Меѓу европските земји, врвот го држат Норвешка (56,32 проценти), Данска (48,44 проценти) и Швајцарија (47,02 проценти). Во овие држави вештачката интелигенција е силно присутна и во професионалните средини – во Норвешка 35,44 проценти од граѓаните ја користат за работа, во Швајцарија 34,40 проценти, а во Данска 27,17 проценти.Низ Европа, најмал удел на корисници имаат Романија (17,8 проценти), Италија (19,9 проценти) и Бугарија (22,5 проценти).Во регионот, процентите варираат: Хрватска бележи 27,52 проценти корисници на генеративна ВИ, Словенија 37,56 проценти, Унгарија 29,56 проценти, Босна и Херцеговина 20,3 проценти, а Србија 18,6 проценти.Анкетата на „Евростат“ покажува дека генеративната вештачка интелигенција станува сè почесто користена алатка – со комуникацијата преку „Воцaп“, „Вибер“ и видеоповици како најсилен мотив кај македонските граѓани.

Македонија | пред 3 месеци

Нема фотографија

Трамп сака да преземе контрола над регулацијата на вештачката интелигенција

Американскиот претседател Доналд Трамп најави дека ќе потпише извршна уредба со која федералната регулатива за вештачка интелигенција би ги заменила законите на поединечните држави. Според него, единствен национален правилник е неопходен за САД да го задржат водството во развојот на АИ. Трамп предупреди дека компаниите не можат да бараат 50 различни одобренија и дека таков систем би го уништил технолошкиот напредок.Најавата предизвика загриженост кај академци, безбедносни експерти и државни законодавци, кои стравуваат дека олабавените правила ќе им овозможат на технолошките компании да ја избегнат одговорноста ако нивните АИ-системи предизвикаат штета. Неколку држави веќе имаат сопствени закони за да се спротивстават на ризични практики како deepfake-содржини или алгоритамска дискриминација.Технолошките лидери, пак, тврдат дека мрежата од различни државни прописи ја кочи иновацијата и ја ослабува американската конкурентност. Нараснува поддршката во Силициумската долина за централизирано и полабаво регулирање.Нцрт-уредбата предвидува формирање работна група која би ги оспорувала построгите државни закони и би воспоставила единствен федерален пристап. Некои политичари, меѓу нив и гувернерот на Флорида Рон Десантис, остро се спротивставија на планот, предупредувајќи дека тоа претставува прекумерна федерална моќ и подарок за големите технолошки компании.Стотици организации, вклучувајќи синдикати и здруженија за заштита на потрошувачи, побараа од Конгресот да го блокира потегот, предупредувајќи дека концентрацијата на моќ во Big Tech може да доведе до губење работни места, повисоки трошоци за живот и поголема зависност од енергетски интензивни дата-центри.

Свет | пред 3 месеци

Вештачката интелигенција признава: Еден милион корисници на ChatGPT неделно сакаат да се самоубијат

Повеќе од еден милион корисници на платформата „ChatGPT“ покажуваат знаци на самоубиствени намери секоја недела, објави компанијата „OpenAI“ во извештај за безбедноста на својот четбот.Според официјалниот блог пост, „OpenAI“ проценува дека пораките со „експлицитни индикатори за потенцијално самоубиствено планирање или намера“ сочинуваат значителен дел од вкупните интеракции на корисниците, пишува Гардијан.Тоа е едно од најдиректните признанија на компанијата за потенцијалното влијание на вештачката интелигенција врз менталното здравје.Компанијата, исто така, соопшти дека околу 0,07 проценти од неделните активни корисници - што е приближно 560.000 луѓе од околу 800 милиони корисници - покажуваат можни знаци на психотични епизоди или манично однесување.Во соопштението се наведува дека ваквите проценки се прелиминарни и тешко се квантифицираат прецизно.За да се подобри точноста и етичките стандарди во комуникацијата, OpenAI регрутираше 170 клиничари и експерти за ментално здравје од својата Глобална мрежа на лекари.Тие анализираа повеќе од 1.800 одговори на модели во ситуации кои вклучуваат сериозни кризи на менталното здравје и помогнаа во адаптирањето на содржината поврзана со емоционална поддршка.Експертите за ментално здравје претходно предупредија дека четботовите можат ненамерно да поттикнат опасни мисли со потврдување на заблудите или негативните чувства на корисникот - феномен познат како „лизгање“.Извршниот директор на OpenAI, Сем Алтман, изјави дека компанијата „постигнала напредок во намалувањето на ризикот од сериозни проблеми со менталното здравје“ и најави олеснување на одредени ограничувања за работењето на ChatGPT.OpenAI ќе продолжи да развива механизми за побезбедна употреба на своите модели и да соработува со независни експерти и регулатори, така што, како што велат, „алатките за вештачка интелигенција ќе станат поддршка, а не закана, за корисниците во криза“.

Магазин | пред 5 месеци

Креаторот на OpenAI e обвинет за силување, го тужи неговата сестра

Ен Алтман, сестра на извршниот директор на OpenAI Сем Алтман, поднесе тужба обвинувајќи го нејзиниот брат за долгогодишна сексуална злоупотреба од 1997 до 2006 година.Според поднесокот поднесен на 6 јануари во Окружниот суд на САД за Источниот округ Мисури, Ен тврди дека злоупотребата започнала кога таа имала три години, додека нејзиниот брат имал 12 години.Самиот Алтман, заедно со неговата мајка и браќата, јавно ги отфрли сите наводи во изјавата на платформата X, нарекувајќи ги тврдењата „целосно невистинити“. Во соопштението се истакнува: „Грижата за член на семејството со ментални здравствени предизвици е исклучително тешка. Оваа ситуација носи огромна болка за целото наше семејство“.Ен Алтман во тужбата наведува дека злоставувањата вклучуваат силување и тврди дека последниот инцидент се случил кога таа била малолетна, а нејзиниот брат веќе бил полнолетен. Во тужбата се бара судење поротата и финансиска штета поголема од 75.000 долари.Сем Алтман, познат по својата улога во технолошката индустрија, стана глобално препознатлив на крајот на 2022 година кога OpenAI го лансираше ChatGPT, револуционерен чет-бот базиран на вештачка интелигенција.

Свет | пред 1 година