Skupina amerických senátorů vyzvala společnosti Apple a Google, aby ze svých aplikačních obchodů odstranily aplikace X a Grok, které provozuje společnost X Corp. Důvodem jsou nedávné incidenty spojené s masovým vytvářením sexualizovaných obrázků žen a dětí bez jejich souhlasu pomocí umělé inteligence. V dopise adresovaném generálnímu řediteli Applu Timu Cookovi a šéfovi Googlu Sundaru Pichaiovi senátoři Ron Wyden, Ben Ray Lujan a Edward Markey upozorňují na to, že obrazové generování pomocí Groku bylo zneužíváno k vytváření snímků zobrazujících ženy a děti v bikinách či spodním prádle. Tyto praktiky označují za škodlivé a pravděpodobně nezákonné. Ačkoliv X podle dostupných informací omezilo některé funkce generování obrázků pro neplatící uživatele, nástroje zůstávají dostupné předplatitelům i v samostatné aplikaci Grok.
Mohlo by vás zajímat
Senátoři tvrdí, že takový obsah je v rozporu s pravidly obou platforem. Pravidla App Storu například zakazují „urážlivý nebo zjevně nevhodný“ obsah a výslovně nepovolují sexualizovaný materiál, zejména pokud se týká dětí nebo je vytvářen bez souhlasu zobrazovaných osob. Podobné zásady dlouhodobě uplatňuje i Google ve svém Obchodě Play. V dopise zaznívá také kritika možného přehlížení problému. Podle senátorů by nečinnost Applu a Googlu podkopala jejich tvrzení, že přísný dohled nad aplikacemi zajišťuje uživatelům bezpečnější prostředí než alternativní způsoby distribuce aplikací. Zároveň by oslabila jejich pozici v probíhajících politických a soudních sporech týkajících se regulace a konkurence v oblasti aplikačních obchodů. Zákonodárci požadují písemnou odpověď nejpozději do 23. ledna.
