Teknologigiganter havde deres del af problemer sidste år, hvor mange af dem stod over for en byge af anklager og forskellige ugerninger, især med hensyn til privatliv og datasikkerhed. Det er ikke anderledes med Facebooksom er den legitime syndebuk for de fleste af disse anklager og har måttet betale en klækkelig bøde mere end én gang. Ikke kun af denne grund er han mere forsigtig i sine videre handlinger og kommer med et initiativ til at forhindre manipulation af offentligheden med falske videoer, primært skabt af kunstig intelligens.
Du kunne være interesseret i
Der har altid været en masse misinformation og halve sandheder i omløb på internettet, men i de senere år er dette problem vokset til uhyrlige proportioner. Valgmanipulation, cyberangreb på embedsmænd, produktion af redigerede videoer for at påvirke vælgernes stemmer til det ene eller det andet parti. Facebook har, som en af de få teknologigiganter, besluttet at konfrontere dette problem og er kommet med en løsning, der i det mindste delvist skal begrænse niveauet af manipulerende indhold. Han fokuserede især på deepfakes, det vil sige videoer skabt af kunstig intelligens og maskinlæring, der kan analysere og replikere en persons optagelse. Brugeren skal så blot lægge deres ord i munden på fx en fremtrædende statsmand, og problemet er løst. Resultatet er så realistisk, at den gennemsnitlige bruger ikke vil være i stand til at kende forskel på originalen og den falske.
Selvom lignende videoer er sjældne, kan de, når de bruges korrekt, bogstaveligt talt være et masseødelæggelsesvåben. Facebook ønsker at undgå disse potentielle konsekvenser og ønsker især ikke at komme i problemer, der ville betyde endnu en indkaldelse til offentlighedens dækning. Virksomheden vil automatisk slette alle videoer, der er blevet redigeret for at bedrage offentligheden, eller som er et produkt af kunstig intelligens, der foregiver at være autentiske og perfekt imiterer den originale optagelse. Initiativet glemmer dog en vigtig omtale, nemlig konventionelle videoer redigeret med almindelige værktøjer. Disse vil tilsyneladende være tilladt og kan stadig bruges til at manipulere og sprede misinformation, mens de nye regler kun vil gælde for maskinlæring.
Du kunne være interesseret i
Et slående eksempel er videoen, der viser Nancy Pelosi, formand for Repræsentanternes Hus i USA, som blev redigeret for at håne hende og forvirre hendes reaktion. Alt, hvad der skulle til, var at sænke optagelsens hastighed med 75%, lege med lyden, og så blev der hurtigt skabt en overbevisende erstatning. Hvordan præcist Facebook Hvorvidt de vil håndtere den slags svindel er stadig et spørgsmål, men i tilfældet med deepfake er virksomheden klar. Udover at slette videoen har virksomheden også forpligtet sig til at advare brugerne om den slags svindel, og hvis de ønsker at dele den pågældende video, vil der dukke et vindue op på deres skærm med information om, at indholdet er falsk. Det er endnu uvist, om foranstaltningerne vil være effektive, men i dette tilfælde er det mere som at bekæmpe vindmøller.
Og gemmer du adgangskoder i klartekst?