Meta minulý týden představila novou AI funkci, která dokázala vytvářet obrázky na základě veřejných fotografií z Instagramu. Novinka ale vydržela v provozu jen několik dní. Po silné kritice ze strany uživatelů, organizací na ochranu soukromí i zástupců filmového průmyslu se totiž společnost rozhodla kontroverzní funkci stáhnout.
Mohlo by vás zajímat
AI nástroj s názvem Muse Image uměl využívat veřejně dostupné fotografie a Reels z instagramových profilů k vytváření nových obrázků. Funkce byla navíc ve výchozím nastavení aktivní pro většinu dospělých uživatelů, což okamžitě vyvolalo obavy z možného zneužití. Kritici upozorňovali především na to, že lidé mohli pomocí několika kliknutí vytvářet realistické AI snímky cizích osob, aniž by k tomu jejich majitelé dali výslovný souhlas.
Meta přiznává, že přestřelila
Pod tlakem veřejnosti Meta uznala, že se jí nepodařilo správně odhadnout reakce uživatelů. Podle společnosti měla být funkce kreativním nástrojem, místo toho se ale stala symbolem obav z narůstajícího využívání umělé inteligence bez dostatečné kontroly nad osobními daty. Firma proto oznámila, že možnost generovat obrázky z veřejných instagramových profilů úplně vypíná. Ostatní AI funkce v aplikacích Meta ale zůstávají beze změny.
Kritika přicházela nejen od běžných uživatelů, ale také od hereckých odborů SAG-AFTRA či dalších organizací hájících práva tvůrců. Ty dlouhodobě upozorňují na rizika vytváření digitálních kopií lidí bez jejich výslovného souhlasu a požadují, aby podobné funkce fungovaly pouze na principu dobrovolného zapojení, nikoliv automatického povolení s možností následného odhlášení.
Mohlo by vás zajímat
Celá situace je dalším důkazem toho, že vývoj AI nástrojů naráží stále častěji na otázky ochrany soukromí a autorských práv. A přestože technologické firmy představují nové funkce prakticky každý týden, veřejnost i regulátoři začínají mnohem důsledněji řešit, jaká data mohou podobné systémy využívat a zda k tomu mají skutečně souhlas jejich majitelů. Z uživatelského hlediska jsou pak dle mého právě tyto regulace jedině dobře. Přeci jen, umělou inteligenci je třeba držet alespoň v určitých mezích, aby nezačala svými možnostmi lidem spíš škodit.
