Шведската истражувачка Алмира Османовиќ Тунстром спровела експеримент во кој измислената болест „биксoманија“ станала дел од одговорите на AI алатки како ChatGPT и Gemini.
Болка, чешање во очите и благо црвенило на очните капаци навеле некои корисници во последните 18 месеци да прашуваат чет-ботови како ChatGPT и Gemini за можни дијагнози. Еден од одговорите што ги добивале била „биксoманија“, наводна болест предизвикана од синото светло од екраните.
Сепак, таква болест не постои во медицинската литература. Таа всушност е дел од експеримент осмислен од шведски научници предводени од Алмира Османовиќ Тунстром од Универзитетот во Гетеборг.
Таа објаснила дека експериментот започнал како начин да им се покаже на студентите како се градат големите јазични модели (LLM) и како може да се манипулира со нив, како и да се тестира безбедноста на системите.
Според списанието Nature, „биксoманија“ првпат се појавила на 15 март 2024 година на платформата Medium, а потоа и во април и мај истата година во академски објави на SciProfiles, иако тие трудови не поминале рецензија.
Набргу потоа, AI моделите почнале да ја прикажуваат како вистинска состојба. Така, Gemini во април 2024 година ја опишувал биксoманијата како пореметување предизвикано од сино светло, додека Perplexity наведувал и проценки за зачестеност, а и ChatGPT давал одговори за ова „заболување“.
Тунстром истакнува дека AI системите не се дизајнирани за критичко размислување, и предупредува дека проблемот настанува кога извори со низок квалитет се третираат како веродостојни, што може да доведе до ширење на неточни информации.
Во експериментот биле користени и целосно измислени автори и институции, кои сепак биле цитирани во некои научни публикации.
Таа заклучува дека ова покажува колку луѓето се потпираат на автоматизација без доволна човечка проверка, и порачува: „Секогаш проверувајте ги изворите и читајте ги оригиналните трудови.“
