Kameraer på gaderne behøver ikke længere kun at tjene til at optage et billede, som en person senere kan se på, hvis det er nødvendigt. Kunstig intelligens kommer i stigende grad i spil, hvilket kan analysere billeder i realtid, genkende objekter, personer eller deres adfærd. Berlins kunstner og teknolog Simon Weckert har nu besluttet at vise, at selv disse systemer måske ikke er ufejlbarlige. Han har skabt tøj, hvor en person ser dig helt normalt, mens AI kan have svært ved at forstå, at der er en menneskelig figur foran den.
ProProjektet fik et karakteristisk navn Digital Camouflage og ved første øjekast ligner den en meget karakteristisk hawaiiansk skjorte. Den er dækket af et farverigt abstrakt mønster, der kombinerer grøn, pink, orange og andre farver. Designet blev dog ikke skabt udelukkende for at tøjet skulle tiltrække folks opmærksomhed. Dets egentlige mål er at forvirre computervisionsalgoritmer. De opfatter ikke billeder på samme måde som det menneskelige øje. Objektdetektionssystemer leder efter bestemte kombinationer af kanter, former, teksturer og andre karakteristika, som de har lært at forbinde med for eksempel mennesker under deres træning. Weckert skabte derfor et mønster baseret på princippet om det såkaldte adversarielle angreb, et angreb, hvor inputdataene bevidst ændres på en sådan måde, at algoritmen tvinges til at give et forkert resultat.
Fotogalerie
I dette tilfælde er resultatet en virkelig interessant effekt. I demonstrationerne af digital camouflage er systemet i stand til at markere omgivende fodgængere med en klassisk ramme med information om, at de er mennesker, mens Weckert i en særlig skjorte i nogle tilfælde slet ikke genkendes som en person. Pro Det menneskelige øje forbliver naturligvis fuldt ud synligt. Hele projektet blev skabt som svar på introduktionen af et kamerasystem, der bruger kunstig intelligens, i Kottbusser Tor-området i Berlin. Her skal kameraer og software automatisk analysere begivenheder i det offentlige rum, og systemet skal kunne evaluere folks adfærd. Med sit projekt ønskede Weckert primært at henlede opmærksomheden på spørgsmålet om, hvor meget vi skal stole på sådanne automatiserede systemer.
Det er dog vigtigt at bemærke, at Digital Camouflage bestemt ikke er en universel usynlighedskappe, der giver dig mulighed for at gå forbi et hvilket som helst sikkerhedskamera uden at blive bemærket. Weckert demonstrerer sit arbejde med open source-objektdetektionssystemet YOLO, og han understreger, at han ikke påstår, at hans tøj kan narre specifikke systemer, der bruges af politi eller offentlige myndigheder. Han kan heller ikke garantere, at mønsteret vil virke mod alle algoritmer og under alle forhold. Men det er en del af pointen med hele projektet. Offentligheden har ofte ingen idé om, præcis hvordan de systemer, der bruges til automatiseret overvågning, fungerer, hvor pålidelige de er, eller hvor lette de kan narres. Digital Camouflage har til formål at vise, at teknologi, der ved første øjekast virker næsten ufejlbarlig, kan have sine svagheder.
Fotogalerie
Det er også interessant, at sådanne eksperimenter ikke blot er teoretiske tricks. Såkaldte adversarielle mønstre er genstand for reel forskning, og forskere har i lang tid undersøgt, hvordan specielt skabte mønstre kan bruges til at påvirke menneskers adfærd.euronye netværk brugt til objektgenkendelse. Weckert overførte blot dette princip fra laboratoriet til et stykke tøj, der rent faktisk kunne bæres. Desuden begyndte han faktisk at sælge T-shirts på sin Digital camouflage e-butikSå hvis du er bekymret for AI-overvågning, har du nu muligheden for at forsvare dig selv med specielt digitalt camouflagetøj.
