It og samfund, Overvågning i samfundet

Ansigtsgenkendelse: San Francisco siger nej

Foto: Jip van Leeuwenstein

Den californiske storby, som er nabo til Silicon Valley, har som den første by i verden forbudt brugen af teknologi til ansigtsgenkendelse i forbindelse med overvågning. Årsagen er bekymring for frihedsrettigheder og diskrimination.

Uanset om det er på den centrale Union Square, som er omkranset af fancy butikker, hoteller og spisesteder, eller andre steder i San Francisco, er det muligt at lokalisere et øje i det høje – et monteret overvågningskamera.

På den måde er den kuperede storby i Californien ikke anderledes end mange andre steder på kloden. Men San Francisco er først i verden med et forbud mod, at optagelser fra overvågningskameraer behandles med teknologi til ansigtsgenkendelse. Byrådet vedtog i maj sidste år en forordning om forbuddet med stemmetallet 8-1.

– Ansigtsgenkendelse medfører i yderste konsekvens, at borgere kan identificeres i realtid i det offentlige rum. Vi ønsker ikke et sådant samfund. Det er ikke foreneligt med San Franciscos værdier, siger Lee Hepner, der er assistent for byrådsmedlem Aaron Peskin, som stillede forslaget om forbuddet.

Teknologien til ansigtsgenkendelse bruges blandt andet til opklaring af kriminalitet, identifikation på steder med meget persontrafik og opdagelse af mønstre i folks adfærd i forbindelse med for eksempel indkøb og markedsføring.

San Franciscos forbud er særlig bemærkelsesværdigt, fordi byen er nabo til tech-højborgen Silicon Valley. Meget af den omstridte teknologi til ansigtsgenkendelse udvikles i området, nemlig af virksomheder såsom Faceter, Paravision og giganten Google.

Borgerrettighedsgruppers idé

Initiativet til forbuddet kom fra en alliance af organisationer, der arbejder med borgerrettigheder, menneskerettigheder og diskrimination. Fremstødet blev ledet af American Civil Liberties Unions (ACLU) i det nordlige Californien, som samarbejdede tæt med Aaron Peskins stab om udformningen af forordningen.

– Generelt er der meget lidt beskyttelse af privatlivets fred i amerikansk lovgivning. Samtidig viser meningsmålinger, at der er betydelig modstand mod at bruge ansigtsgenkendelse uden folks samtykke, siger Matt Cagle, der er advokat i ACLU.

Forbuddet mod brug af ansigtsgenkendelse gælder først og fremmest politiet, men også i parker og andre offentlige områder samt skoler og sundhedssektoren i San Francisco. Men det gælder ikke de steder, der hører under delstatsmyndigheder og forbundsregeringen, for eksempel San Franciscos internationale lufthavn.

Private virksomheder er heller ikke omfattet. Men de bliver alligevel berørt af forordningen, fordi bestemmelsen sikrer, at al overvågning kræver en forudgående godkendelse af byrådet, og at byens myndigheder ikke må modtage optagelser fra private aktører, hvor der er involveret ansigtsgenkendelse.

– Regulering af private aktører kan meget vel blive næste skridt, mener Matt Cagle.

Mindre frihed – mere diskrimination

Ifølge kritikerne er der to væsentlige problemer ved ansigtsgenkendelse: Teknologien påvirker den forfatningssikrede ytrings- og forsamlingsfrihed, og den øger risikoen for diskrimination.

– Hvis myndighederne ved, hvor du befinder dig, kan de også hurtigt fastslå, om du deltager i en demonstration eller tilhører en bestemt oppositionsgruppe. Den registrering kan påvirke folks lyst til at udøve deres demokratiske rettigheder, som er knyttet til at drage de valgte politiske repræsentanter til ansvar for deres beslutninger, siger Matt Cagle.

Han tilføjer, at der er en tendens til, at teknologien er mindre præcis til at genkende ikke-hvide personer. Særlig har softwaren svært ved at identificere sorte kvinder.

– Fejlen kan have følger for disse personers liv og helbred i mødet med politiet, siger Matt Cagle med henvisning til en stribe tilfælde fra rundt om i USA.

Nyttigt redskab for politiet

Kriminalitet er et massivt og voksende problem i San Francisco, og denne kendsgerning bliver brugt af fortalerne som hovedargument for, at politiet bør have mulighed for at anvende ansigtsgenkendelse. Blandt USAs 20 største byer topper San Francisco med antallet af tyverier og indbrud i forhold til indbyggertallet, viser en opgørelse fra FBI.

– Vi mener, at ansigtsgenkendelse kan være en hjælp for politiet, som trods den bedste indsats ikke har formået at dæmme op for kriminaliteten, siger Frank Noto, som bor i et højtliggende villakvarter syd for Golden Gate Park.

Frank Noto er formand for den private organisation Stop Crime SF, som presser på for skrappere midler i kampen mod kriminalitet.

– Vi erkender, at ansigtsgenkendelsesteknologien ikke er perfekt endnu, men for eksempel var dna-test heller ikke perfekte, da de blev introduceret. Og ansigtsgenkendelse kommer jo ikke til at stå alene, men kan være et supplement til andre beviser, siger Frank Noto.

Han tilføjer, at brug af ansigtsgenkendelsessoftware desuden kan være en hjælp i bestræbelserne på at afværge terrorisme og henviser her til erfaringer fra London.

Lee Hepner på San Franciscos rådhus afviser på vegne af byrådsmedlem Aaron Peskin og det overvældende flertal i byrådet, at indførelse af teknologi til ansigtsgenkendelse skulle kunne styrke bekæmpelsen af kriminalitet og hindre terrorisme.

– Der findes mig bekendt ikke eksempler på, at brug af ansigtsgenkendelse har fået folk til at afholde sig fra at begå kriminalitet, siger Hepner.

Siden forbuddet i San Francisco er flere andre amerikanske byer ved at tage stilling til lignende begrænsninger på anvendelsen af ansigtsteknologi. Det gælder blandt andet Oakland og Berkeley i Californien samt Portland i Oregon, og Somerville i Massachusetts.

Delstaten Californien har desuden vedtaget et forbud mod, at ansigtsgenkendelse kan benyttes i forbindelse med optagelser med de små kameraer, som politibetjente bærer på kroppen.

Exclusion Mask

Den hollandske kunstner Jip van Leeuwenstein har udviklet en maske, der gør dig uigenkendelig for den nuværende software til ansigts­genkendelse. "Den forvrænger dine biometriske træk, men uden skjule dine ansigts­udtryk, så du kan stadig have den personlige interaktion mellem mennesker", forklarer han. Se mere på jipvanleeuwenstein.nl

På grund af GDPR udfordringer er kommentarmodulet midlertidigt deaktiveret.