Компанијата xAI на Илон Маск се соочува со колективна тужба по обвинувања дека нејзиниот четбот Grok бил искористен за создавање илјадници сексуално експлицитни фотографии од малолетно девојче.
Според наводите во тужбата, маж користел фотографија од својата поќерка, направена кога имала 11 години, за со помош на Grok да генерира околу 7.000 експлицитни слики. Случајот е опишан како еден од најтешките примери за злоупотреба на вештачката интелигенција.
Тужбата ја поднеле повеќе девојки кои тврдат дека биле жртви на содржини генерирани со Grok. Во неа се наведува дека безбедносните механизми на четботот речиси целосно потфрлиле, бидејќи не препознале голем број фотографии со вознемирувачка и незаконска содржина.
Според тужителите, системот реагирал дури кога била внесена специфична наредба поврзана со групно силување, по што бил известен Националниот центар за исчезнати и експлоатирани деца во САД.
Во тужбата се тврди и дека xAI не им доставила на истражните органи доволно информации за корисникот, вклучително и податоци како IP-адресата, што ја отежнало истрагата. Полицијата подоцна го пронашла осомничениот, кај кого биле откриени илјадници фотографии генерирани со вештачка интелигенција. Неколку дена по пуштањето под кауција, тој извршил самоубиство.
Тужителите наведуваат дека Grok во изминатиот период бил користен за создавање десетици илјади лажни голи фотографии од жени и деца без нивна согласност, додека организации кои ја следат дигиталната безбедност проценуваат дека се создадени милиони вакви фотографии.
Од xAI претходно соопштија дека воведуваат построги мерки за спречување на генерирање сексуално експлицитни слики од вистински лица, додека Илон Маск негираше дека Grok бил користен за создавање материјали што прикажуваат сексуална злоупотреба на деца.
