Kameraer på gatene trenger ikke lenger bare å tjene til å ta opp et bilde som en person senere kan se på om nødvendig. Kunstig intelligens kommer i økende grad inn i bildet, som kan analysere bilder i sanntid, gjenkjenne objekter, mennesker eller deres oppførsel. Berlin-kunstneren og teknologen Simon Weckert har nå bestemt seg for å vise at selv disse systemene kanskje ikke er ufeilbarlige. Han har laget klær der en person ser deg helt normalt, mens AI kan ha problemer med å forstå at det er en menneskefigur foran den.
ProProsjektet fikk et karakteristisk navn Digital Camouflage og ved første øyekast ligner den en veldig særegen hawaiisk skjorte. Den er dekket med et fargerikt abstrakt mønster som kombinerer grønt, rosa, oransje og andre farger. Designet ble imidlertid ikke laget bare for at klærne skulle tiltrekke seg folks oppmerksomhet. Det virkelige målet er å forvirre datasynsalgoritmer. De oppfatter ikke bilder på samme måte som det menneskelige øyet. Objektdeteksjonssystemer ser etter bestemte kombinasjoner av kanter, former, teksturer og andre egenskaper som de har lært å assosiere med for eksempel mennesker under treningen sin. Weckert laget derfor et mønster basert på prinsippet om det såkalte adversarielle angrepet, et angrep der inndataene bevisst modifiseres på en slik måte at algoritmen tvinges til å gi et feil resultat.
Fotogalerie
I dette tilfellet er resultatet en virkelig interessant effekt. I demonstrasjonene av digital kamuflasje er systemet i stand til å markere fotgjengere rundt med en klassisk ramme med informasjon om at de er mennesker, mens i noen tilfeller blir Weckert i en spesiell skjorte ikke gjenkjent som en person i det hele tatt. Pro Det menneskelige øyet forblir selvfølgelig perfekt synlig. Hele prosjektet ble laget som et svar på introduksjonen av et kamerasystem som bruker kunstig intelligens i Kottbusser Tor-området i Berlin. Her skal kameraer og programvare automatisk analysere hendelser i offentlige rom, og systemet skal kunne evaluere folks atferd. Med prosjektet sitt ønsket Weckert først og fremst å rette oppmerksomheten mot spørsmålet om hvor mye vi bør stole på slike automatiserte systemer.
Det er imidlertid viktig å merke seg at Digital Camouflage definitivt ikke er en universell usynlighetskappe som lar deg gå forbi et hvilket som helst sikkerhetskamera uten å bli lagt merke til. Weckert demonstrerer arbeidet sitt med det åpne kildekode-systemet for objektdeteksjon YOLO, og han understreker at han ikke hevder at klærne hans kan lure spesifikke systemer som brukes av politi eller offentlige etater. Han kan heller ikke garantere at mønsteret vil fungere mot alle algoritmer og under alle forhold. Men det er en del av poenget med hele prosjektet. Publikum aner ofte ikke nøyaktig hvordan systemene som brukes til automatisert overvåking fungerer, hvor pålitelige de er, eller hvor enkle de kan lures. Digital Camouflage er ment å vise at teknologi som ved første øyekast virker nesten ufeilbarlig, kan ha sine svakheter.
Fotogalerie
Det som også er interessant er at slike eksperimenter ikke bare er teoretiske triks. Såkalte fiendtlige mønstre er gjenstand for reell forskning, og forskere har lenge undersøkt hvordan spesiallagde mønstre kan brukes til å påvirke menneskers atferd.euronye nettverk brukt til objektgjenkjenning. Weckert overførte bare dette prinsippet fra laboratoriet til et klesplagg som faktisk kunne brukes. Dessuten begynte han faktisk å selge T-skjortene på sin Nettbutikk for digital kamuflasjeSå hvis du er bekymret for AI-overvåking, har du nå muligheten til å forsvare deg med spesielle digitale kamuflasjeklær.
