Technologičtí giganti si zažili minulý rok své a na hlavy mnoha z nich se sesypala snůška obvinění a nejrůznější prohřešků, zejména týkajících se soukromí a bezpečnosti dat. Nejinak je tomu i u Facebooku, který je právoplatným obětním beránkem většiny z těchto nařčení a nejednou musel zaplatit tučnou pokutu. Nejen z tohoto důvodu si při dalším postupu dává větší pozor a přichází s iniciativou, jež má zabránit manipulaci veřejnosti pomocí podvržených videí, vytvořených zejména umělou inteligencí.
Mohlo by vás zajímat
Dezinformací a polopravd kolovala internetem vždy celá řada, avšak v posledních letech přerostl tento problém do obludných rozměrů. Zmanipulované volby, kybernetické útoky na státní činitele, vytváření upravených videí tak, aby hlasy voličů nahrály té či oné straně. Facebook se, jako jeden z mála technologických gigantů, rozhodl této problematice postavit a přišel s řešením, jenž má míru manipulativního obsahu alespoň částečně omezit. Zejména si posvítil na deepfake, tedy videa vytvořená umělou inteligencí a strojovým učením, která dokáže analyzovat a zreplikovat něčí záznam. Uživateli následně stačí jen vložit svá slova do úst například významného státníka a problém je na světě. Výsledek je natolik realistický, že běžný uživatel nerozezná rozdíl mezi originálem a podvrhem.
Podobná videa jsou sice vzácná, ale při vhodném použití se může jednat doslova o zbraň hromadného ničení. Facebook chce těmto potenciálním následkům předejít a zejména se nechce namočit do případných potíží, která by pro platformu znamenaly další předvolání na kobereček. Společnost tak bude automaticky mazat jakákoliv videa, která byla upravena za účelem oklamat veřejnost, nebo se jedná o produkt umělé inteligence, jež se tváří jako autentický a dokonale napodobuje originální záznam. Iniciativa však zapomíná na důležitou zmínku, a to konvenční, běžnými nástroji upravená videa. Ta budou podle všeho povolena a nadále mohou být využita k manipulaci a šíření dezinformací, zatímco nová pravidla se budou týkat pouze strojového učení.
Mohlo by vás zajímat
Zářným příkladem může být video zachycující Nancy Pelosi, předsedkyni sněmovny reprezentantů Spojených států, které bylo upraveno tak, aby ji zesměšnilo a zaměnilo její reakci. Stačilo záznam zpomalit o 75%, pohrát si se zvukem a vznik přesvědčivé náhrady na sebe nenechal dlouho čekat. Jak přesně Facebook ošetří podobné podvody je zatím otázkou, avšak v případě deepfake má společnost jasno. Kromě smazání videa se společnost zavázala také k tomu, že bude uživatele před podobnými podvrhy varovat a v případě, že bude chtít dotyčný video sdílet mu na obrazovce vyskočí okno s informací o tom, že je obsah falešný. Nezbývá než čekat, zda budou opatření efektivní, avšak v tomto případě se jedná spíše o boj s větrnými mlýny.
A ukladaj hesla porad v plaintextu?