Umělá inteligence toho dnes zvládne opravdu hodně, jenže zatímco některé její možnosti dokážou člověku výrazně usnadnit život, jiné představují poměrně vážný problém. Řeč je například o vytváření falešných intimních fotografií skutečných lidí, které se v posledních měsících stalo jedním z nejdiskutovanějších způsobů zneužívání AI. Právě proti podobným praktikám se proto nyní rozhodl důrazněji zakročit i Apple. který aktualizoval pravidla svého App Storu s tím, že nově vývojářům jasně vzkazuje, že pokud jejich aplikace umožňují vytváření či šíření podobného obsahu a oni proti tomu nic nedělají, mohou se s App Storem rozloučit.
Mohlo by vás zajímat
Nová pravidla se zaměřují především na takzvané deepfake snímky, tedy obrázky vytvořené či upravené umělou inteligencí tak, aby zachycovaly skutečné lidi v situacích, které se nikdy nestaly. Problematické jsou zejména aplikace schopné z běžné fotografie vytvořit falešný intimní snímek bez souhlasu vyobrazené osoby. Apple přitom podobný obsah zakazoval již dříve, nyní však své podmínky výrazně zpřesnil. Nové pravidlo totiž výslovně ukládá provozovatelům aplikací povinnost aktivně předcházet vytváření a šíření intimních snímků bez souhlasu dotčených osob, a to včetně těch generovaných pomocí AI. Pokud pak vývojáři nezavedou dostatečná ochranná opatření nebo neodstraní nahlášený závadný obsah, riskují odstranění aplikace z App Storu.
Fotogalerie
Zajímavé je, že zpřísnění pravidel přichází po několika kontroverzích, které se v posledních měsících kolem podobných aplikací objevily. Jednou z nejvýraznějších byl případ chatbota Grok od společnosti xAI Elona Muska. Ten totiž někteří uživatelé zneužívali k vytváření sexualizovaných fotografií skutečných osob, včetně nezletilých. Apple kvůli tomu údajně společnost xAI již na začátku letošního roku upozornil, že pokud problém nevyřeší, může Grok z App Storu odstranit. Vývojáři následně zavedli dodatečná ochranná opatření a Apple aktualizovanou aplikaci schválil.
Nová pravidla však míří i na další problematickou praktiku. Někteří vývojáři totiž podle Applu dokázali jeho schvalovací proces obejít tím, že aplikaci nejprve předložili jako zdánlivě neškodný nástroj a teprve po jejím schválení zpřístupnili funkce umožňující například vytváření falešných nahých fotografií. Právě proti tomu nyní směřuje nové pravidlo, které výslovně zakazuje skryté, nezdokumentované či dodatečně aktivované funkce, o nichž Apple při kontrole aplikace nevěděl. Za závažné porušení přitom může následovat nejen odstranění aplikace, ale také zrušení vývojářského účtu.
Mohlo by vás zajímat
Zda nová pravidla skutečně povedou k výraznému omezení podobného obsahu, ukáže až čas. Samotné zpřísnění podmínek totiž problém nevyřeší, pokud Apple nedokáže jejich dodržování také důsledně kontrolovat. Vzhledem k tomu, jak snadno lze dnes pomocí AI vytvořit přesvědčivý falešný snímek, je však podobný krok rozhodně na místě a já jsem za něj rád. App Store je totiž dlouhodobě vnímán jakožto spolehlivý a bezpečný prostor a právě podobné aplikace mu dle mého ubíraly na věrohodnosti. Každý krok k tomu, aby se opět stal co možná nejvíce důvěryhodným, je tak rozhodně fajn.
