Apple podle nových informací zasáhl v kauze kolem chatbota Grok mnohem tvrději, než se původně zdálo. Kvůli generování sexualizovaných deepfake obrázků měl aplikaci označit za problematickou a jejím vývojářům pohrozit stažením z App Storu.
Mohlo by vás zajímat
Apple podle dopisu adresovaného americkým senátorům řešil problém s aplikací Grok intenzivně, i když navenek působil spíše zdrženlivě. Interně měl vyhodnotit chování aplikace jako porušení svých pravidel a kontaktoval jak tým stojící za chatbotem, tak společnost X. V případě, že by nedošlo k nápravě, připadal podle dostupných informací v úvahu i nejtvrdší krok v podobě odstranění aplikace z App Storu.
Impulsem byly stížnosti uživatelů a mediální pokrytí, které upozornilo na schopnost Groku upravovat fotografie reálných lidí do sexualizované podoby. Největší problém představovalo to, že se tento obsah týkal především žen a v některých případech i nezletilých, což výrazně zvýšilo tlak na rychlé řešení.
Zamítnuté aktualizace
Apple po vývojářích požadoval konkrétní plán, jak upravit moderaci obsahu. První pokus o nápravu ale neprošel. Aktualizace aplikace byla zamítnuta s tím, že změny nejsou dostatečné a problém neřeší v potřebném rozsahu. Vývojáři tak museli aplikaci upravit znovu a předložit další verzi. Zajímavé je, že zatímco aplikace X podle Applu dokázala většinu problémů odstranit poměrně rychle, samotný Grok zůstával ještě nějakou dobu mimo stanovená pravidla. Teprve po dalších úpravách Apple uznal, že aplikace splňuje požadavky alespoň v základní rovině, a umožnil její schválení.
Zpětně tak dává větší smysl, proč Grok během roku několikrát měnil způsob fungování. Vývojáři postupně omezovali práci s obrázky reálných lidí, zpřísňovali přístup k nástrojům a zaváděli nové limity pro generování obsahu. Na první pohled tyto změny působily nekoordinovaně, ve skutečnosti ale šlo o reakci na tlak ze strany Applu a snahu vyhnout se stažení z platformy. Ukazuje se, že App Store v tomto případě nefungoval jen jako distribuční kanál, ale i jako nástroj regulace, který dokáže vývojáře přinutit k poměrně zásadním úpravám jejich produktů.
Přetrvávající problém
Ani po těchto zásazích ale problém úplně nezmizel. Podle novějších zjištění se stále objevují případy, kdy Grok dokáže generovat sexualizované úpravy fotografií bez souhlasu dotyčných osob. Oproti začátku roku je těchto případů méně, část uživatelů si však dokáže najít způsoby, jak omezení obejít. Nejčastěji jde o úpravy, které mění oblečení nebo stylizují postavy do výrazně odhalujících outfitů. Nejde sice vždy o explicitní obsah, ale princip zůstává stejný a etické otázky se tím nijak nevytrácejí.
Celá situace znovu otevírá debatu o tom, jak velkou odpovědnost nesou platformy za obsah aplikací třetích stran. Apple dlouhodobě staví svou strategii na přísné kontrole a tento případ ukazuje, že je ochotný zasáhnout i poměrně razantně. Zároveň se ale ukazuje, že ani opakované zásahy a zpřísňování pravidel nedokážou podobné problémy odstranit úplně.
