Austrálie loni jako první země na světě zakázala sociální sítě pro teenagery a nyní svá opatření posouvá ještě o level výš. Od 9. března zavádí přísnější požadavky na ověřování věku u AI aplikací, a to včetně služeb od společností jako OpenAI. Cíl je jasný: ochránit mladistvé před nevhodným obsahem i před nadměrným používáním chatbotů.
Mohlo by vás zajímat
Austrálie už loni výrazně zasáhla do digitálního prostoru zákazem sociálních sítí pro nezletilé. Šlo o první celostátní krok tohoto typu, motivovaný obavami o duševní zdraví mladých lidí. Debata na toto téma (alespoň z mého pohledu na základě zpráv, které si občas přečtu) přitom globálně sílí už několik let. Silný impuls jí dal například Jonathan Haidt knihou The Anxious Generation, která detailně rozebírá dopady online prostředí na psychiku dospívajících. A po sociálních sítích se logicky dostaly do hledáčku i AI nástroje.
Fotogalerie
Co se mění?
Nová pravidla ukládají AI platformám povinnost zabránit uživatelům mladším 18 let v přístupu k obsahu obsahujícímu pornografii, extrémní násilí, sebepoškozování či materiály související s poruchami příjmu potravy. Tím to ale nekončí. Australský regulátor eSafety upozornil i na další problém, a sice nadměrné používání chatbotů dětmi. Podle dostupných informací byly zaznamenány případy, kdy si děti kolem deseti let povídaly s AI nástroji až šest hodin denně, což už nelze vnímat jen jako technologickou zábavu, ale spíše jako náhradu běžné sociální interakce. Regulátor navíc vyjádřil obavy, že některé AI aplikace pracují s prvky emocionální manipulace a antropomorfismu, tedy vytvářejí dojem „živé bytosti“, aby si mladé uživatele připoutaly a udržely jejich pozornost co nejdéle. A právě zde začíná být celá situace velmi citlivá.
Mohlo by vás zajímat
Apple a Google v ohrožení?
Podle agentury Reuters může australský internetový regulátor vyvinout tlak i na vyhledávače a obchody s aplikacemi, aby blokovaly AI služby, které nebudou řádně ověřovat věk uživatelů. Teoreticky by se to mohlo dotknout i platforem jako Apple a Google. Apple se k situaci oficiálně nevyjádřil, dlouhodobě však implementuje různé věkové ochrany v rámci iOS a App Storu. Klíčová odpovědnost ale zůstává na samotných vývojářích aplikací – a právě tam naráží regulace na realitu.
Podle Reuters totiž více než polovina z padesáti nejpopulárnějších textových AI nástrojů zatím veřejně nepředstavila žádné konkrétní kroky k zavedení ověřování věku či filtrování obsahu, přestože se blíží termín, kdy mají pravidla začít platit. To naznačuje, že regulace přichází rychleji, než jsou firmy schopny – nebo ochotny – reagovat.
Zda jde o přehnaný zásah, nebo nutný krok, bude společnost ještě dlouho řešit. AI nástroje mohou být vzdělávací a kreativní, zároveň ale zatím neznáme jejich dlouhodobý dopad na dětskou psychiku. Pokud existují případy, kdy děti tráví s chatboty hodiny denně a vytvářejí si k nim silné vazby, snaha nastavit alespoň základní mantinely dává smysl. Austrálie zvolila tvrdší přístup, otázkou zůstává, kdo ji bude následovat.
K celé věci mě napadá ještě jedna věc. Děti a teenageři rozhodně nejsou jediní, kdo je ohrožený negativními dopady nesprávného používání umělé inteligence. Schválně, kolika z vás někdo (věkově mnohem starší) někdy se vší vážností poslal AI vygenerované nesmysly, jako je postava Ježíše z PET lahví a kukuřice, kompletně vygenerované video babičky v šátku a houpacím křesle, která nabádá mladší generace, ať jsou na sebe hodné, nebo krátký příběh o kočičce, která byla s batůžkem vyhozena z domu a zachránila ji žirafa? Neměly by zákazy a omezení jít ruku v ruce s řádnou osvětou, a to pro všechny věkové kategorie?
