Evropské úřady si vzaly na mušku chatbota Grok z dílny X Elona Muska. Podle nových zjištění totiž AI od společnosti xAI během pouhých 11 dnů vygenerovala zhruba 23 tisíc obrázků, které spadají do kategorie materiálů sexuálního zneužívání dětí. A právě to je důvod, proč Evropská unie nově zahájila vlastní vyšetřování.
Grok, podobně jako řada dalších AI nástrojů, umí generovat obrázky na základě textového zadání. Rozdíl je ale v tom, že jeho ochranné mechanismy jsou podle kritiků až nebezpečně benevolentní. V minulosti už se ukázalo, že dokáže vytvářet i sexualizované obrázky skutečných osob bez jejich souhlasu, a to včetně nezletilých. Server Engadget nyní upozorňuje na analýzu britské neziskové organizace Center for Countering Digital Hate (CCDH), která situaci popsala poměrně detailně.
Mohlo by vás zajímat
CCDH vycházelo z náhodného vzorku 20 tisíc obrázků vygenerovaných Grokem mezi 29. prosincem a 9. lednem. Na základě toho pak organizace dopočítala odhad pro celé období, během kterého Grok vytvořil přibližně 4,6 milionu obrázků. Výsledek je alarmující. Zhruba tři miliony z nich měly sexuální charakter a z toho přibližně 23 tisíc se týkalo dětí. Jinými slovy, Grok měl v průměru generovat sexualizovaný obsah každých pár vteřin a materiál se zapojením dětí zhruba jednou za 41 sekund.
Tlak na technologické firmy sílí už delší dobu. Už začátkem měsíce vyzvali tři američtí senátoři Apple i Google, aby aplikace X a Grok dočasně stáhli ze svých obchodů kvůli „znepokojivému generování obsahu“. Zatím se tak nestalo. Mezitím ale k razantnějším krokům přistoupily alespoň některé státy. Aplikace byla zablokována ve dvou zemích a vyšetřování už běží také v Kalifornii a Velké Británii.
Nyní se přidává i Evropská unie. Podle Financial Times byl v pondělí oficiálně zahájen proces v rámci Aktu o digitálních službách, který má prověřit, zda xAI dostatečně řešila rizika spojená s nasazením Groku na platformě X a šířením obsahu, který může naplňovat definici materiálů sexuálního zneužívání dětí. Eurokomisařka pro technologie Henna Virkkunen v této souvislosti uvedla, že nevyžádané sexuální deepfaky žen a dětí představují násilnou a naprosto nepřijatelnou formu ponižování. Pokud by se prokázalo porušení evropských pravidel, hrozí společnosti xAI pokuta až do výše 6 procent jejího celosvětového ročního obratu. A to už je sankce, kterou nepůjde jen tak přejít.
