Kamery v uliciach už dávno nemusia slúžiť iba na to, aby zaznamenávali obraz, na ktorý sa v prípade potreby neskôr pozrie človek. Stále častejšie sa do hry dostáva umelá inteligencia, ktorá dokáže obraz analyzovať v reálnom čase, rozpoznávať objekty, osoby alebo ich správanie. Berlínsky umelec a technológ Simon Weckert sa teraz rozhodol ukázať, že ani tieto systémy nemusia byť zďaleka neomylné. Vytvoril totiž oblečenie, v ktorom vás človek vidí úplne normálne, zatiaľ čo AI môže mať problém vôbec pochopiť, že sa pred ňou nachádza ľudská postava.
Projekt dostal príznačný názov Digitálna kamufláž a na prvý pohľad pripomína predovšetkým veľmi výraznú havajskú košeľu. Je pokrytá farebným abstraktným vzorom kombinujúcim zelenú, ružovú, oranžovú a ďalšie farby. Dizajn však nevznikol iba preto, aby oblečenie priťahovalo pozornosť ľudí. Jeho skutočným cieľom je zmiasť algoritmy počítačového videnia. Tie totiž obraz nevnímajú rovnakým spôsobom ako ľudské oko. Systémy na detekciu objektov hľadajú určité kombinácie hrán, tvarov, textúr a ďalších charakteristík, ktoré sa počas svojho trénovania naučili spájať napríklad s človekom. Weckert preto vytvoril vzor založený na princípe takzvaného adversarial attack, teda útoku, pri ktorom sú vstupné dáta zámerne upravené takým spôsobom, aby algoritmus prinútila k nesprávnemu výsledku.
Fotogaléria
V tomto prípade je výsledkom skutočne zaujímavý efekt. Na ukážkach Digital Camouflage dokáže systém označiť okolitých chodcov klasickým rámčekom s informáciou, že sa jedná o osobu, zatiaľ čo Weckerta v špeciálnej košeli v niektorých prípadoch ako človeka vôbec nerozpozná. Pro ľudské oko pritom samozrejme zostáva úplne normálne viditeľný. Celý projekt vznikol v reakcii na zavádzanie kamerového systému využívajúceho umelú inteligenciu v oblasti berlínskeho Kottbusser Tor. Práve tu má byť pomocou kamier a softvéru automaticky analyzované dianie vo verejnom priestore a systém má byť schopný vyhodnocovať správanie ľudí. Weckert chcel svojim projektom upozorniť predovšetkým na otázku, nakoľko by sme mali podobným automatizovaným systémom dôverovať.
Je však dôležité dodať, že Digital Camouflage rozhodne nie je univerzálnym plášťom neviditeľnosti, vďaka ktorému môžete bez povšimnutia prechádzať okolo ľubovoľnej bezpečnostnej kamery. Weckert svoje demonštrácie vykonáva s open-source systémom na detekciu objektov YOLO a sám zdôrazňuje, že netvrdí, že jeho oblečenie dokáže zmiasť konkrétne systémy používané políciou alebo štátnymi inštitúciami. Rovnako nemôže zaručiť, že bude vzor fungovať proti každému algoritmu a za všetkých podmienok. Práve to je však súčasťou pointy celého projektu. Verejnosť často vôbec netuší, ako presne systémy používané na automatizované sledovanie fungujú, ako spoľahlivé sú alebo ako ľahko ich možno zmiasť. Digital Camouflage má ukázať, že technológia, ktorá na prvý pohľad pôsobí takmer neomylne, môže mať svoje slabiny.
Fotogaléria
Zaujímavé navyše je, že podobné experimenty nie sú iba teoretickou hračkou. Takzvané adversarial patterns sú predmetom skutočného výskumu a vedci už dlhšiu dobu skúmajú, ako sa dá pomocou špeciálne vytvorených obrazcov ovplyvniť neuronové siete používané na rozpoznávanie objektov. Weckert tento princíp iba previedol z laboratória na kus oblečenia, ktorý je možné skutočne nosiť. Navyše tričká začal skutočne predávať na svojom eshope Digital Camouflage. Pokiaľ sa teda bojíte sledovania pomocou AI, potom máte teraz možnosť sa mu brániť pomocou špeciálneho oblečenia Digital Camouflage.
