Kamere na ulicah ne smejo več služiti le snemanju slike, ki si jo človek lahko kasneje po potrebi ogleda. Vse bolj v poštev vstopa umetna inteligenca, ki lahko v realnem času analizira slike, prepozna predmete, ljudi ali njihovo vedenje. Berlinski umetnik in tehnolog Simon Weckert se je zdaj odločil pokazati, da tudi ti sistemi morda niso nezmotljivi. Ustvaril je oblačila, v katerih vas človek vidi povsem normalno, medtem ko ima umetna inteligenca morda težave z razumevanjem, da je pred njimi človeška postava.
Projekt dostal příznačný název Digitalna kamuflaža in na prvi pogled spominja na zelo značilno havajsko srajco. Prekrita je z barvitim abstraktnim vzorcem, ki združuje zeleno, roza, oranžno in druge barve. Vendar pa dizajn ni bil ustvarjen le zato, da bi oblačila pritegnila pozornost ljudi. Njegov pravi cilj je zmesti algoritme računalniškega vida. Ti ne zaznavajo slik na enak način kot človeško oko. Sistemi za zaznavanje predmetov iščejo določene kombinacije robov, oblik, tekstur in drugih značilnosti, ki so se jih na primer med usposabljanjem naučili povezovati z ljudmi. Weckert je zato ustvaril vzorec, ki temelji na načelu tako imenovanega adversarial attack, napada, pri katerem so vhodni podatki namerno spremenjeni tako, da algoritem prisili, da da napačen rezultat.
Fotogalerie
V tomto případě je výsledkem skutečně zajímavý efekt. Na ukázkách Digital Camouflage dokáže systém označit okolní chodce klasickým rámečkem s informací, že se jedná o osobu, zatímco Weckerta ve speciální košili v některých případech jako člověka vůbec nerozpozná. Pro lidské oko přitom samozřejmě zůstává naprosto normálně viditelný. Celý projekt vznikl v reakci na zavádění kamerového systému využívajícího umělou inteligenci v oblasti berlínského Kottbusser Tor. Právě zde má být pomocí kamer a softwaru automaticky analyzováno dění ve veřejném prostoru a systém má být schopný vyhodnocovat chování lidí. Weckert chtěl svým projektem upozornit především na otázku, nakolik bychom měli podobným automatizovaným systémům důvěřovat.
Pomembno pa je omeniti, da digitalna kamuflaža vsekakor ni univerzalni plašč nevidnosti, ki vam omogoča, da se sprehodite mimo katere koli varnostne kamere, ne da bi vas opazili. Weckert predstavlja svoje delo z odprtokodnim sistemom za zaznavanje predmetov YOLO in poudarja, da ne trdi, da lahko njegova oblačila zavedejo določene sisteme, ki jih uporabljajo policija ali vladne agencije. Prav tako ne more zagotoviti, da bo vzorec deloval proti vsakemu algoritmu in v vseh pogojih. Vendar je to del bistva celotnega projekta. Javnost pogosto nima pojma, kako natančno delujejo sistemi, ki se uporabljajo za avtomatiziran nadzor, kako zanesljivi so ali kako enostavno jih je mogoče zavesti. Namen digitalne kamuflaže je pokazati, da ima lahko tehnologija, ki se na prvi pogled zdi skoraj nezmotljiva, svoje slabosti.
Fotogalerie
Zanimivo je tudi, da takšni poskusi niso le teoretični triki. Tako imenovani adversarni vzorci so predmet resničnih raziskav in znanstveniki že dolgo preučujejo, kako lahko posebej ustvarjene vzorce uporabimo za vplivanje na vedenje ljudi.euronove mreže, ki se uporabljajo za prepoznavanje predmetov. Weckert je to načelo iz laboratorija zgolj prenesel na kos oblačila, ki bi ga dejansko lahko nosili. Še več, majice je dejansko začel prodajati na svojem Spletna trgovina z digitalno kamuflažoČe vas torej skrbi nadzor s strani umetne inteligence, imate zdaj možnost, da se branite s posebnimi oblačili Digital Camouflage.
