Kamery v ulicích už dávno nemusí sloužit pouze k tomu, aby zaznamenávaly obraz, na který se v případě potřeby později podívá člověk. Stále častěji se do hry dostává umělá inteligence, která dokáže obraz analyzovat v reálném čase, rozpoznávat objekty, osoby nebo jejich chování. Berlínský umělec a technolog Simon Weckert se nyní rozhodl ukázat, že ani tyto systémy nemusí být zdaleka neomylné. Vytvořil totiž oblečení, ve kterém vás člověk vidí naprosto normálně, zatímco AI může mít problém vůbec pochopit, že se před ní nachází lidská postava.
Projekt dostal příznačný název Digital Camouflage a na první pohled připomíná především hodně výraznou havajskou košili. Je pokrytá barevným abstraktním vzorem kombinujícím zelenou, růžovou, oranžovou a další barvy. Design však nevznikl pouze proto, aby oblečení přitahovalo pozornost lidí. Jeho skutečným cílem je zmást algoritmy počítačového vidění. Ty totiž obraz nevnímají stejným způsobem jako lidské oko. Systémy pro detekci objektů hledají určité kombinace hran, tvarů, textur a dalších charakteristik, které se během svého trénování naučily spojovat například s člověkem. Weckert proto vytvořil vzor založený na principu takzvaného adversarial attack, tedy útoku, při kterém jsou vstupní data záměrně upravena takovým způsobem, aby algoritmus přiměla k nesprávnému výsledku.
Fotogalerie
V tomto případě je výsledkem skutečně zajímavý efekt. Na ukázkách Digital Camouflage dokáže systém označit okolní chodce klasickým rámečkem s informací, že se jedná o osobu, zatímco Weckerta ve speciální košili v některých případech jako člověka vůbec nerozpozná. Pro lidské oko přitom samozřejmě zůstává naprosto normálně viditelný. Celý projekt vznikl v reakci na zavádění kamerového systému využívajícího umělou inteligenci v oblasti berlínského Kottbusser Tor. Právě zde má být pomocí kamer a softwaru automaticky analyzováno dění ve veřejném prostoru a systém má být schopný vyhodnocovat chování lidí. Weckert chtěl svým projektem upozornit především na otázku, nakolik bychom měli podobným automatizovaným systémům důvěřovat.
Je však důležité dodat, že Digital Camouflage rozhodně není univerzálním pláštěm neviditelnosti, díky kterému můžete bez povšimnutí procházet kolem libovolné bezpečnostní kamery. Weckert své demonstrace provádí s open-source systémem pro detekci objektů YOLO a sám zdůrazňuje, že netvrdí, že jeho oblečení dokáže zmást konkrétní systémy používané policií nebo státními institucemi. Stejně tak nemůže zaručit, že bude vzor fungovat proti každému algoritmu a za všech podmínek. Právě to je však součástí pointy celého projektu. Veřejnost často vůbec netuší, jak přesně systémy používané k automatizovanému sledování fungují, jak spolehlivé jsou nebo jak snadno je lze zmást. Digital Camouflage má ukázat, že technologie, která na první pohled působí téměř neomylně, může mít své slabiny.
Fotogalerie
Zajímavé navíc je, že podobné experimenty nejsou pouze teoretickou hříčkou. Takzvané adversarial patterns jsou předmětem skutečného výzkumu a vědci již delší dobu zkoumají, jak lze pomocí speciálně vytvořených obrazců ovlivnit neuronové sítě používané pro rozpoznávání objektů. Weckert tento princip pouze převedl z laboratoře na kus oblečení, který lze skutečně nosit. Navíc trička začal skutečně prodávat na svém eshopu Digital Camouflage. Pokud se tedy bojíte sledování pomocí AI, pak máte nyní možnost se mu bránit pomocí speciálníh oblečení Digital Camouflage.
