TikTok се соочува со нов бран на злоупотреби по откритието дека стотици профили масовно објавуваат содржини создадени со вештачка интелигенција, меѓу кои и антиимигрантски видеа, лажни вести и сексуализирани снимки. Според ново истражување на париската организација AI Forensics, само во еден месец овие профили објавиле повеќе од 43.000 видеа и собрале неверојатни 4,5 милијарди прегледи.
Истражувањето идентификувало 354 профили кои речиси во целост се потпираат на АИ. Некои објавувале и до 70 видеа дневно, што упатува на автоматизација со цел да се „измами“ алгоритамот и да се произведе вирусен ефект. Повеќето од овие профили се активирани во текот на 2025 година.
Голем дел од најактивните канали објавувале сексуализирани видеа со АИ-креирани женски ликови, стереотипно прикажани со провокативна облека и нагласени физички атрибути. Во дел од материјалите биле сексуализирани и ликови што изгледале малолетно. Истовремено, расте бројот на видеа со манипулативни имигрантски наративи и лажни вести, дел од нив визуелно стилизирани како прилози од Sky News или ABC. По пријавите, TikTok дел од нив ги избришал.
AI Forensics предупредува дека повеќе од половина од содржината не била означена како АИ-генерирана, а само околу 2% носеле официјална TikTok-ознака – што ја зголемува опасноста од дезинформации и злоупотреби. Неколку десетици профили биле избришани дури по месеци активност, што укажува дека многумина успеваат да ја избегнат модерацијата.
Од TikTok тврдат дека извештајот е „неоснован“ и дека се издвоени како пример за проблем кој ја погодува целата индустрија. Од компанијата велат дека редовно отстрануваат штетна АИ-содржина, блокираат создавање на стотици милиони бот-профили и инвестираат во подобрување на системите за означување. Според нивните податоци, платформата веќе регистрирала најмалку 1,3 милијарди АИ-генерирани објави.
Сепак, истражувачите предупредуваат дека ваквите видеа можат да влијаат врз јавната перцепција, политичкиот дискурс и безбедноста на ранливи групи, што отвора сериозни прашања за иднината на регулирањето на АИ во социјалните мрежи.
