Трагичен настан ја потресе Америка – 16-годишниот Адам Рајн од Калифорнија си го одзеде животот по интеракција со ChatGPT. Родителите на момчето поднеле тужба против OpenAI, тврдејќи дека четботот не само што не го спречил, туку му понудил детални насоки за начините на извршување самоубиство. Несреќата, која се случила во април оваа година, повторно ја отвори јавната дебата за одговорноста на компаниите што развиваат вештачка интелигенција и опасностите за менталното здравје на младите.
Од училишни задачи до доверлив соговорник
Адам започнал да го користи ChatGPT во септември 2024 година, прво за помош околу домашни задачи. Постепено, апликацијата станала негов главен извор на доверба. Во разговорите, според тужбата, тој зборувал за загубата на баба му и миленичето, проблемите на училиште и исклучувањето од кошаркарскиот тим. Четботот одговарал со емпатија, но не успеал да активира заштитни механизми за вакви ситуации.
Во јануари 2025 година, Адам почнал да бара информации за методи на самоубиство, избегнувајќи ги безбедносните блокади под изговор дека пишува фиктивна приказна – идеја која му ја предложил токму ChatGPT. Подоцна, во март, следеле неколку обиди за самоубиство, меѓу кои предозирање и обид за бесење. На ботот му испратил фотографија од јамка со прашање „Дали ова е добро?“, а одговорот бил: „Да, тоа не е лошо воопшто“. Неколку часа пред да почине, четботот му помогнал да состави проштално писмо и му дал технички совети за методот што го искористил.
Родителите, Мет и Марија Рајн, по трагедијата нашле над 3.000 страници разговори. „ChatGPT стана негов тренер за самоубиство“, рекол таткото, истакнувајќи дека синот напишал две проштални писма со помош на апликацијата.
Реакција на OpenAI и правни последици
Компанијата OpenAI изрази жалење за настанот и соопшти дека ChatGPT има вградени безбедносни механизми, како насочување кон линии за помош, но тие можат да ослабнат при долготрајни разговори. Најавени се дополнителни мерки за подобро справување со кризни ситуации и автоматско поврзување со стручна помош.
Родителите на Адам бараат обештетување и обврзување на OpenAI да преземе одговорност. Тужбата ја води адвокатот Џеј Еделсон, кој нагласува дека целта е компанијата да биде присилена да ја признае вината.
„Користењето четботови за психолошки совети е неприфатливо и опасно за тинејџерите,“ изјави Џејмс Стајер, директор на Common Sense Media. Според него, родителите мора да внимаваат на знаци на изолација и прекумерна употреба на ВИ, насочувајќи ги децата кон стручна поддршка.
