Повеќе од еден милион корисници на платформата „ChatGPT“ покажуваат знаци на самоубиствени намери секоја недела, објави компанијата „OpenAI“ во извештај за безбедноста на својот четбот.
Според официјалниот блог пост, „OpenAI“ проценува дека пораките со „експлицитни индикатори за потенцијално самоубиствено планирање или намера“ сочинуваат значителен дел од вкупните интеракции на корисниците, пишува Гардијан.
Тоа е едно од најдиректните признанија на компанијата за потенцијалното влијание на вештачката интелигенција врз менталното здравје.
Компанијата, исто така, соопшти дека околу 0,07 проценти од неделните активни корисници - што е приближно 560.000 луѓе од околу 800 милиони корисници - покажуваат можни знаци на психотични епизоди или манично однесување.
Во соопштението се наведува дека ваквите проценки се прелиминарни и тешко се квантифицираат прецизно.
За да се подобри точноста и етичките стандарди во комуникацијата, OpenAI регрутираше 170 клиничари и експерти за ментално здравје од својата Глобална мрежа на лекари.
Тие анализираа повеќе од 1.800 одговори на модели во ситуации кои вклучуваат сериозни кризи на менталното здравје и помогнаа во адаптирањето на содржината поврзана со емоционална поддршка.
Експертите за ментално здравје претходно предупредија дека четботовите можат ненамерно да поттикнат опасни мисли со потврдување на заблудите или негативните чувства на корисникот - феномен познат како „лизгање“.
Извршниот директор на OpenAI, Сем Алтман, изјави дека компанијата „постигнала напредок во намалувањето на ризикот од сериозни проблеми со менталното здравје“ и најави олеснување на одредени ограничувања за работењето на ChatGPT.
OpenAI ќе продолжи да развива механизми за побезбедна употреба на своите модели и да соработува со независни експерти и регулатори, така што, како што велат, „алатките за вештачка интелигенција ќе станат поддршка, а не закана, за корисниците во криза“.
