It og samfund, Overvågning i samfundet

Privatlivets endestation

Politiet i USA har købt sig adgang til den revolutionerende app Clearview AI, som har løftet ansigtsgenkendelse op på et helt andet niveau. Det nye værktøj giver politiet adgang til milliarder af private billeder fra sociale medier, og en række uopklarede kriminalsager er blevet løst. Men måske er det også et endegyldigt farvel til at kunne bevæge sig frit i det offentlige rum.

Indtil for nylig var to af Hoan Ton-Thats største opfindelser et obskurt Iphone-spil og en app, der gjorde det muligt for folk at sætte Donald Trumps karakteristiske, gule hår på deres egne billeder.

Men så gjorde Hoan Ton-That pludselig noget opsigtsvækkende. Den australske tech-entusiast og tidligere fotomodel opfandt et værktøj, der i sidste ende kan betyde, at du aldrig mere kan gå anonymt ned ad gaden.

Hans lille virksomhed Clearview AI har udviklet en revolutionerende app til ansigtsgenkendelse. Den fungerer ved, at du tager et foto af en person og uploader det i appen, hvorefter du får adgang til at se alle offentligt tilgængelige billeder af personen samt links til de sider, hvor disse billeder optræder.

Værktøjet har han solgt til hundredvis af politikredse i USA – fra en lokal politistation i Florida til FBI og Department of Homeland Security.

Systemet, der er bygget på en database med flere end tre milliarder billeder, som Clearview AI hævder at have skrabet sammen fra Facebook, YouTube, betalingstjenesten Venmo og millioner af andre hjemmesider, går langt videre end noget, der nogensinde er konstrueret af den amerikanske regering eller af techgiganterne i Silicon Valley.

Rigspolitiet modtager ikke varer eller tjeneste­ydelser fra Clearview Al og har ikke på noget tidspunkt været kunde hos virksomheden
— Justitsminister Nick Hækkerup (S) i et skriftligt svar til Folketingets Retsudvalg 18. februar 2020

Flere politifolk fortæller, at selv om de har en begrænset viden om, hvordan Clearview AI virker, og hvem der står bag, så har de brugt appen til at løse sager om alt fra butikstyveri og kreditkortsvindel til identitetstyveri, mord og børneporno.

Holder teknologien tilbage

Hidtil har teknologi, der er i stand til umiddelbart at identificere alle borgere baseret på vedkommendes ansigt, været tabu på grund af den åbenlyse underminering af privatlivsbeskyttelsen. Og de techvirksomheder, der er i stand til at udvikle sådanne værktøjer, har afstået fra at gøre det.

Således fastslog Googles bestyrelsesformand i 2011, at ansigtsgenkendelse var den eneste teknologi, som virksomheden var tilbageholdende med, fordi den kunne udnyttes ”på en meget uheldig måde”. Enkelte storbyer – deriblandt San Francisco – har forbudt politiet at bruge teknologi til ansigtsgenkendelse.

Men udenfor offentlighedens søgelys begyndte flere end 600 afdelinger under amerikansk politi at bruge Clearviews værktøj sidste år. Det oplyser virksomheden, som dog afviser at udlevere en liste over kunder.

Et moderne våben

Den computerkode, der anvendes i appen, indeholder ifølge New York Times programmeringssprog, der gør det muligt at parre den med AR-briller (Augmented Reality). Dermed vil brugere potentielt være i stand til at identificere hvert eneste menneske, de møder på deres vej. Værktøjet kan eksempelvis identificere aktivister ved en demonstration eller en attraktiv fremmed person i metroen. Ikke bare navnet på vedkommende, men også hvor de bor, hvem de kender, og hvad de laver til daglig.

Uden en virkelig stærk national lov­givning om beskyttelse af privat­liv, er vi alle sammen alvorligt på spanden
— Al Gidari, professor i privatlivs­beskyttelse ved Stanford Law School

Og appen benyttes ikke kun af politiet. Clearview AI har også givet licenser til mindst en håndfuld virksomheder til sikkerhedsformål.

– Der er uendelige muligheder for at benytte det som et våben, siger Eric Goldman, der er leder af High Tech Law Institute ved Santa Clara University.

– Forestil dig en skruppelløs politibetjent, der vil stalke potentielle kærester, eller en fremmed statsmagt, der bruger den til at grave hemmeligheder op om folk for at afpresse dem eller smide dem i fængsel, siger han.

Hoan Ton-That viser resultatet af en søgning på hans eget ansigt i Clearview AI. Foto: Amr Alfiky

Direktør med falsk navn

Clearview AI har længe levet i skjul og undgået enhver debat om den grænseoverskridende teknologi. Da New York Times begyndte at se nærmere på virksomheden i november 2019, bestod Clearviews hjemmeside af en enkelt side, der viste en ikke eksisterende forretningsadresse på Manhattan.

Virksomhedens eneste ansatte, som stod opført på LinkedIn, var en salgschef ved navn John Good, som viste sig at være Hoan Ton-That, der anvendte et falsk navn. De mennesker, der på den ene eller anden måde var tilknyttet virksomheden, vendte ikke tilbage på mine telefonbeskeder eller e-mails gennem en hel måned.

Samtidig med at virksomheden undgik mig, begyndte den også at overvåge mig, efter at jeg havde bedt en række politibetjente om at køre mit foto gennem appen. Snart fik de telefonopkald fra repræsentanter for Clearview AI, som spurgte, om de snakkede med medierne – et tegn på, at de har evnerne og i dette tilfælde også appetitten på at overvåge, hvem politiet er på udkig efter.

Kontroversiel teknologi

Teknologien til ansigtsgenkendelse har altid være kontroversiel. Det gør folk nervøse for ”Big Brother”, og teknologien har en tendens til at give forkerte resultater for visse befolkningsgrupper – som for eksempel farvede. Og nogle af de produkter til ansigtsgenkendelse, som politiet benytter – inklusiv Clearview AI – er ikke blevet undersøgt af uafhængige eksperter.

Der er uendelige muligheder for at benytte det som et våben
— Eric Goldman, High Tech Law Institute ved Santa Clara University

Clearviews app indeholder yderligere en risiko, fordi politiets afdelinger uploader sensitive billeder til serverne hos en virksomhed, hvis evne til at beskytte sine data ikke er blevet testet.

Da Clearview AI endelig begyndte at svare på spørgsmålene fra New York Times, lød forklaringen på den lange tavshed, at det var normalt for en startup i den tidlige fase at flyve under radaren. Hoan Ton-That erkender at have designet en prototype til brug med AR-briller, men han hævder, at virksomheden ikke har nogen planer om at frigive den.

Og på spørgsmålet om, hvorfor mit fotografi havde fået alarmklokkerne til at ringe hos Clearview, svarer han, at appen reagerer på ”mulig unormal søgeadfærd” for at forhindre brugerne i at foretage det, der i virksomhedens optik er ”upassende søgninger”.

En dystopisk fremtid

Clearview AI er stiftet af Hoan Ton-That og Richard Schwartz, der er en nær støtte til New Yorks tidligere republikanske borgmester Rudolph Giuliani. Virksomheden får finansiel rygstøtte fra Peter Thiel, en venture-kapitalist, der også står bag Facebook og Palantir.

Hoan Ton-That har fået succes med Clearview AI. Foto: Amr Alfiky

En anden tidlig investor er en lille virksomhed ved navn Kirenaga Partners. Dens grundlægger, David Scalzo, afviser bekymringerne om, at Clearview gør internettet søgbart med ansigtsgenkendelse, og fastslår, at det er et værdifuldt redskab til at opklare forbrydelser.

– Jeg er nået frem til den konklusion, at fordi mængden af information konstant øges, vil der aldrig være noget privatliv. Loven må afgøre, hvad der er legalt, men du kan ikke forbyde teknologi. Det kan sagtens være, at det fører til en dystopisk fremtid eller sådan noget, men du kan ikke forbyde det, siger David Scalzo.

Fejlslagne drømme

Hoan Ton-That, der er 31 år, voksede op langt væk fra Silicon Valley. I Australien blev han opflasket på fortællinger om sine royale forfædre i Vietnam, men i 2007 droppede han ud af gymnasiet og flyttede til San Francisco. Apples Iphone var netop ankommet, og hans mål var at komme hurtigt ind på markedet for apps til sociale medier. Men hans tidlige forsøg blev aldrig nogen succes.

Nedslået flyttede Hoan Ton-That i 2016 til New York. Med sin høje, slanke figur og sit lange, mørke hår overvejede han en modelkarriere, siger han, men efter et enkelt modeljob vendte han tilbage til sine overvejelser om at finde den næste store ting i techverdenen. Han begyndte at læse akademiske rapporter om kunstig intelligens, billedgenkendelse og maskinlæring.

Richard Schwartz og Hoan Ton-That mødte hinanden i 2016 ved en bogevent på Manhattan Institute – en konservativ tænketank. Schwartz, der i dag er 61 år, havde opbygget et imponerende netværk af kontakter fra sin tid på New Yorks borgmesterkontor i 1990erne og senere som redigerende på debatredaktionen på The New York Daily News.

Sammen besluttede de at gå ind på markedet for ansigtsgenkendelse. Huan Ton-That ville bygge appen, og Richard Schwartz ville bruge sine kontakter til at skabe kommerciel interesse for projektet.

Forbedrede algoritmer

Politiets i USA har gennem 20 år haft adgang til værktøjer til ansigtsgenkendelse, men de har historisk set været begrænset til at søge i de officielle persongallerier, som myndighederne ligger inde med så som kørekortfotos og forbryderalbum.

Men i de senere år er algoritmerne bag ansigtsgenkendelse væsentligt forbedret, og virksomheder som Amazon tilbyder produkter, der kan skabe programmer til ansigtsgenkendelse til en hvilken som helst billeddatabase.

Hoan Ton-That ville gå endnu længere end det. Han begyndte i 2016 med at rekruttere et par ingeniører.

Den ene hjalp med at designe et program, der automatisk kan indsamle billeder af folks ansigter på kryds og tværs af internettet. Fra jobbørser og nyhedssider til uddannelsesinstitutioner og sociale medier som Facebook, YouTube, Twitter, Instagram og Venmo. Talsmænd fra disse virksomheder oplyser, at deres politik forbyder den form for scraping, og Twitter oplyser, at man udtrykkeligt har forbudt brug af deres data til netop ansigtsgenkendelse.

En anden ingeniør blev hyret til at perfektionere en algoritme til ansigtsgenkendelse baseret på akademiske rapporter. Resultatet er ifølge Hoan Ton-That et state of the art neuralt netværk, der konverterer alle billederne til matematiske formler, eller vektorer, baseret på ansigternes geometri – for eksempel afstanden imellem en persons øjne.

Clearview AI har skabt en omfattende manual, der kategoriserer alle billeder med sammenlignelige vektorer i ”nabolag”. Når en bruger uploader et billede af et ansigt i Clearviews system, konverterer det ansigtet til en vektor og viser derefter alle de scrapede fotos, der er lagret i denne vektors nabolag – sammen med links til de sider, billederne stammer fra.

Richard Schwartz betalte udgifterne til servere og andre basale nødvendigheder, men hele operationen var skåret ind til benet, og alle arbejdede hjemmefra.

– Jeg levede af overtræk på mit kreditkort. Plus – jeg troede på Bitcoin. Så jeg havde nogle af dem, siger Hoan Ton-That.

Et formidabelt værktøj

I slutningen af 2017 havde virksomheden skabt et formidabelt værktøj til ansigtsgenkendelse, som de kaldte Smartcheckr. Men Schwartz og Ton-That var ikke sikre på, hvem de skulle sælge det til.

Måske kunne det bruges til at tjekke babysittere eller som en ekstra feature til overvågningskameraer. Hvad med et værktøj til sikkerhedsvagter i lobbyerne i store bygninger eller til hoteller, som kunne byde gæsterne velkommen ved navn?

– Vi forsøgte at komme op med alle mulige idéer, siger Ton-That.

Et af de mere besynderlige tilbud i slutningen af 2017 blev givet til Paul Nehlen – en antisemit og selvudnævnt pro-white republikaner, som stillede op til Kongressen i Wisconsin. Det gik ud på at bruge ”ukonventionelle databaser” til ”ekstrem research af oppositionen”, ifølge et dokument som Paul Nehlen har lagt online. Hoan Ton-That siger, at Clearview aldrig tilbød det i virkeligheden.

Virksomheden ændrede snart navn fra Smartcheckr til Clearview AI og begyndte at markedsføre sig over for politiet. Det var på dette tidspunkt, at de første investorer udefra skød penge i virksomheden: Peter Thiel og Kirenaga Partners.

Blandt mange andre ting er Peter Thiel berømt for i hemmelighed at have finansieret wrestleren Hulk ­Hogans sagsanlæg mod den populære hjemmeside Gaw­ker, der endte med at gå bankerot. Både Peter Thiel og Hoan Ton-That havde været udsat for negativ omtale i artikler på Gawker, men ifølge Peter Thiels talsperson, Jeremiah Hall, er han ikke involveret i virksomheden:

– I 2017 gav Peter 200.000 dollar til en talentfuld, ung iværksætter. To år senere blev pengene konverteret til aktier i Clearview AI. Det var Peters eneste bidrag, siger Jeremiah Hall.

Selv efter endnu en finansieringsrunde i 2019 er Clear­­view AI fortsat en lille virksomhed, der i alt har rejst syv millioner dollar fra investorer, oplyser Pitchbook, en hjemmeside, der sporer investeringer i startups. Clearview ønsker ikke at bekræfte beløbet.

Den første kunde

I februar 2019 begyndte politiet i den amerikanske delstat Indiana at eksperimentere med Clearview AI. De opklarede en sag efter at have benyttet appen i 20 minutter. To mænd var kommet op at slås i en park, og det endte med, at den ene skød den anden i maven. Et øjenvidne optog forbrydelsen på sin telefon, så politiet havde et billede af mandens ansigt, som de kunne køre igennem Clearviews app.

De fik omgående et match. Manden dukkede op i en video, som nogen havde delt på de sociale medier, og hans navn stod skrevet i videoens billedtekst.

– Han havde ikke kørekort og havde heller ikke været arresteret som voksen, så han var ikke i myndighedernes databaser, siger Chuck Cohen, der var politichef i Indiana State Police på daværende tidspunkt.

Manden blev anholdt og sigtet. Ifølge Chuck Cohen var han formentlig ikke blevet identificeret, hvis der ikke havde været mulighed for at søge efter hans ansigt på sociale medier. Indiana State Police blev Clearviews første betalende kunde.

Manden i spejlet

Clearview AI hyrede derefter både tidligere og nuværende republikanske embedsmænd til at kontakte lokale politikredse med et tilbud om en gratis prøveperiode og årlige licenser helt ned til 2.000 dollar. Ifølge Hoan Ton-That prikkede Richard Schwartz til sine politiske kontakter og bad dem om at gøre regeringens embedsfolk opmærksomme på det nye værktøj.

– Jeg er stolt over at have muligheden for at hjælpe Hoan med at opbygge Clearview til en organisation, hvis mission er at hjælpe politifolk med at beskytte børn og øge sikkerheden i lokalsamfund over hele landet, siger Richard Schwartz gennem sin talsperson.

Ifølge Clearview AI var virksomhedens mest effektive salgsteknik at tilbyde en 30 dages gratis prøveperiode til politibetjente, som derefter opfordrede deres indkøbsafdelinger til at tegne abonnement. De lovpriste også værktøjet til politifolk fra andre politikredse både på konferencer og online. Det fremgår af dokumenter, som er blevet frigivet af de enkelte politikredse efter anmodninger om aktindsigt.

Hoan Ton-That havde omsider fået sit virale hit.

I juli 2019 opfordrede en efterforsker i byen Clifton, New Jersey, i en e-mail sin overordnede til at købe Clearviews software, fordi det kunne ”identificere en mistænkt på få sekunder”. I løbet af den gratis prøveperiode havde Clearview således identificeret butikstyve, en tyv i en Apple-forretning og en barmhjertig samaritaner, som havde overmandet en person, der truede andre folk med en kniv.

”Billeder kan tages i hemmelighed med en telelinse og lægges ind i softwaren uden at ødelægge overvågningsoperationen”, skriver efterforskeren i sin e-mail, som New York Times har fået fra de to researchere Beryl Lipton fra mediet MuckRock og Freddy Martinez fra Open the Government.

Det var dem, der først opdagede Clearview AI, da de forrige år var i færd med at undersøge politiets brug af ansigtsgenkendelse.

Ifølge en salgspræsentation fra Clearview AI, som New York Times har set, har appen hjulpet med at identificere en lang række individer i en bred vifte af sager. Det gælder blandt andet en mand, der var anklaget for seksuel mishandling af et barn. Hans ansigt dukkede op i spejlet på et fotografi, som en anden person havde taget i sit træningscenter.

Appen har også afsløret identiteten på en person, der stod bag en serie af indbrud i postbokse i Atlanta, og en hjemløs, der blev fundet død på gaden i Alabama, samt adskillige mistænkte i flere sager om identitetssvindel i banker.

Et overlegent system

I Gainesville, Florida, hørte politiofficer Nick Ferrara om Clearview AI sidste sommer, da de annoncerede på CrimeDex – en database for efterforskere med speciale i økonomisk kriminalitet. Han fortæller, at han tidligere udelukkende havde støttet sig til FACES, som er det statslige redskab til ansigtsgenkendelse, der trækker på flere end 30 millioner forbryderbilleder og fotos fra det centrale register for motorkøretøjer.

Politimanden Nick Ferrara fra Gainesville, Florida, har gode erfaringer med at bruge Clearview AI. Foto: Charlotte Kesl

Nick Ferrara betegner Clearviews app som overlegen. Dens landsdækkende database af billeder er langt større, og i modsætning til FACES kræver Clearviews algoritme ikke, at folk kigger direkte ind i kameraet.

– Med Clearview kan du også bruge billeder, der ikke er perfekte. En person kan være iført en hat eller gå med briller, eller det kan være et billede i profil eller et foto, der kun delvist viser personens ansigt, siger Nick Ferrara.

Han uploadede først sit eget billede i systemet, som vendte tilbage med hans personlige Venmo-side. Derefter lagde han billeder ind af en række gamle, uopklarede sager, og systemet identificerede flere end 30 mistænkte. I september købte Gainesville Police Department en etårig licens til Clearview for 10.000 dollar.

Afslørende tatovering

På landsplan har både FBI og Department of Homeland Security afprøvet Clearview. Det samme har canadisk politi ifølge embedsmænd.

På trods af den stigende popularitet holdt Clearview AI sig uden for offentlighedens søgelys indtil slutningen af 2019, hvor anklagemyndigheden i Florida sigtede en kvinde for tyveri af to griller og en støvsuger fra en Ace Hardware forretning i Clermont.

Hun blev identificeret, da politiet kørte et billede fra en overvågningsvideo gennem Clearview, som ledte dem til hendes Facebook-side. En tatovering, som var synlig på både videoen og på billeder på hendes Facebookprofil, bekræftede kvindens identitet, fremgår det af retsdokumenterne.

Men ifølge Hoan Ton-That virker værktøjet ikke altid. De fleste billeder i Clearviews data­base er taget i øjen­højde. Men mange af de billeder, som politiet uploader, er fra overvågningskameraer, som er monteret i lofter eller højt oppe på mure.

– De placerer overvågningskameraerne for højt oppe. Vinklen er forkert til god ansigtsgenkendelse, siger han.

Alligevel lykkes det ifølge virksomheden at finde et match til billederne i 75 procent af tilfældene. Men det er uklart, hvor ofte appen leverer forkerte resultater, for den er endnu ikke blevet testet af en uafhængig instans som for eksempel National Institute of Standards and Technology – en statslig myndighed, der kontrollerer standarden af blandt andet algoritmer til ansigtsgenkendelse.

– Vi har ingen data, der kan sige noget om, hvor vidt dette værktøj er præcist, siger Clare Garvie, der i sin egenskab af researcher ved Georgetown Universitys Center on Privacy and Technology har studeret myndighedernes brug af ansigtsgenkendelse.

– Jo større databasen er, jo større er risikoen for forkert identifikation på grund af dobbeltgænger-effekten. Der er jo tale om en massiv database med tilfældige mennesker, som de har fundet på internettet, siger Clare Garvie.

Facebook involveret

Men både tidligere og nuværende politifolk fastslår, at appen er effektiv.

– For os bestod testen i, om den virkede eller ej, siger Chuck Cohen, den tidligere politichef i Indiana State Police.

En af grundene til, at Clearview AI har fået luft under vingerne, er, at deres service er unik. Forklaringen er, at Facebook og andre sociale medier har forbudt folk at lave scraping af brugernes billeder – men at Clearview overtræder reglerne med fuldt overlæg.

– Det er der mange mennesker, der gør. Og Facebook ved det godt, siger Hoan Ton-That.

Jay Nancarrow, der er talsperson for Facebook, oplyser, at man er i gang med at vurdere situationen med Clearview AI, og at Facebook ”vil tage de nødvendige skridt, hvis vi mener, at de bryder vores regler”.

Peter Thiel, der har investeret i Clearview AI, sidder også i Facebooks bestyrelse, men Jay Nancarrow afviser at kommentere på Peter Thiels personlige investeringer.

Nogle af de politifolk, som New York Times har talt med, siger, at de ikke vidste, at de billeder, som de uploader til appen, bliver gemt på Clearviews servere. Clearview forsøger at imødegå disse bekymringer med en FAQ, som bliver uddelt til potentielle kunder. I dokumentet står der, at de ansatte i Clearviews kundesupport ikke kigger på de billeder, som politiet uploader.

Clearview AI har også hyret Paul D. Clement, som var juridisk rådgiver under præsident George W. Bush, til at berolige de kritikere, der har rejst tvivl om lovligheden af appen.

I et dokument, som Clearview i sensommeren sendte til potentielle kunder – deriblandt Atlanta Police Department og Pinellas County Sheriffs Office i Florida – skriver Paul D. Clement, at politiet ”ikke overtræder landets forfatning eller relevante, eksisterende statslige love om biometri og privatliv, når Clearview anvendes til det formål, den er tiltænkt”.

Paul D. Clement fastslår også i dokumentet, at myndighederne ikke er forpligtet til at fortælle de anklagede, at de blev identificeret via Clearview, så længe det ikke det eneste grundlag for at udstede en arrestordre mod dem.

Paul Clement er ikke vendt tilbage med en kommentar til artiklen på trods af gentagne henvendelser, men hans indsats har tilsyneladende haft en effekt. Både Atlanta Police Department og Pinellas County Sheriffs Office begyndte kort tid efter at anvende Clearview.

Men netop fordi politiet uploader billeder af folk, de prøver at identificere, så besidder Clearview AI en støt voksende database over borgere, der har tiltrukket sig opmærksomhed fra ordensmagten. Virksomheden har også redskaberne til at manipulere de resultater, som politiet får tilbage på deres søgning.

Med Clearview kan du også bruge billeder, der ikke er perfekte
— Politiofficer Nich Ferrara

Da Clearview AI fandt ud af, at jeg havde bedt politifolk om at køre mit portræt gennem deres app, blev der rejst et advarselsflag i Clearviews systemer, så mit ansigt i en periode ikke gav noget match. Da Hoan Ton-That bliver konfronteret med det, griner han og betegner det som en ”softwarebug”.

Men for Al Gidari, der er professor i privatlivsbeskyttelse ved Stanford Law School, er der ikke så meget at grine af.

– Det er uhyggeligt, det, de laver, men der vil komme mange flere af denne type virksomheder, for der er ikke monopol på matematik. Men uden en virkelig stærk national lovgivning om beskyttelse af privatliv, er vi alle sammen alvorligt på spanden, siger Al Gidari.

Dæmningen styrter sammen

Ifølge Hoan Ton-That bruger Clearview kun billeder, der er offentligt tilgængelige. Hvis du ændrer dine indstillinger på Facebook, så søgemaskinerne ikke kan linke til din profil, vil dine Facebook-billeder ikke blive inkluderet i databasen, siger han.

Men hvis din profil allerede har haft besøg af Clearview, er det for sent. Virksomheden beholder alle de billeder, de har hentet på nettet – også selv om billederne senere bliver slettet eller taget ned.

Hoan Ton-That hævder dog, at Clearview AI er i gang med at udvikle et værktøj, der vil lade folk anmode om at få deres billeder fjernet fra databasen, hvis de også er fjernet på den oprindelige hjemmeside eller Facebook-profil.

Woodrow Hartzog, der er professor i datalogi og jura ved Northeastern University i Boston, anser Clearview som det seneste bevis på, at ansigtsgenkendelse bør forbydes i hele USA.

– Vi har stolet på branchens egne bestræbelser på at føre selvjustits og ikke omfavne så risikable teknologier. Men nu styrter dæmningen sammen, fordi der er så mange penge i spil, siger Woodrow Hartzog.

– Jeg kan ikke se en fremtid, hvor vi udnytter fordelene ved teknologien til ansigtsgenkendelse, uden at vi også får det invaliderende overvågningsmisbrug, som følger med. Den eneste måde at stoppe det på er ved at forbyde det, siger han.

Tilbage i tiden

Under et interview i Clearview AI’s hovedkvarter i et WeWork-kontorfællesskab i Chelsea-distriktet på Manhattan demonstrerer Hoan Ton-That selv sin app. Han tager en selfie og uploader billedet. Appen returnerer 23 billeder af ham. På et af dem sidder han med bar overkrop og tænder en cigaret, mens han er oversmurt med noget, der ligner blod.

Derefter tager han et billede af mig med appen. Den påståede ”software bug” er blevet fikset, og nu returnerer appen utallige billeder, som rækker et helt årti tilbage i tiden – deriblandt nogle billeder, som jeg aldrig har set før.

Da jeg tager et nyt billede, hvor jeg med hånden dækker for min næse og den nederste del af ansigtet, finder appen stadig syv korrekte resultater.

Både politifolk og Clearview AI’s investorer forventer, at appen med tiden bliver tilgængelig for offentligheden. Men Hoan Ton-That siger, at han er tilbageholdende.

– Der vil altid være en gruppe af dårlige mennesker, som vil misbruge den, siger han.

Men selv hvis Clearview AI ikke tilbyder sin app til den brede befolkning, vil en anden virksomhed formentlig gøre det, nu hvor tabuet er brudt. At søge på nogens ansigt kan dermed blive lige så nemt som at google et navn.

Dermed er der ikke langt til det punkt, hvor fremmede kan lytte med på følsomme eller intime samtaler i det offentlige rum, tage billeder af dem, der taler sammen, og kende deres personlige hemmeligheder, som de kan udnytte i anden sammenhæng.

En person, der går ned ad gaden, kan identificeres med det samme, og hans eller hendes adresse vil kun være et par klik væk. Det vil markere afslutningen på offentlig anonymitet.

På spørgsmålet om, hvilke implikationer det kan have at bringe sådan et magtinstrument til verden, virker Hoan Ton-That en smule overrasket.

– Det er jeg nødt til at tænke over. Det er vores opfattelse, at dette er den bedste brug af teknologien, siger han.

Artiklen er oprindeligt bragt i The New York Times. Oversættelse: Ole Hoff-Lund

Ansigtsgenkendelse i Danmark

Brøndby overvåger fodboldfans

Fodboldklubben Brøndby IF er de første og hidtil eneste til at anvende ansigtsgenkendelse som overvågnings­værktøj i Danmark. Systemet blev indført i juli 2019 og skal forhindre, at uønskede personer kommer ind på stadion. Foreløbig er fem tilskuere blevet nægtet adgang.

Politikere ser tiden an

Flere partier i blå blok vil give politiet adgang til ansigtsgenkendelse, men justitsminister Nick Hækkerup afventer en undersøgelse: ”Anvendelsen af teknologien rejser nogle principielle, retlige og praktiske dilemmaer, som vi skal have afklaret”.

Politiet ønsker teknologi

”Ingen må være i tvivl om, at det efter­forskningsmæssigt vil være en stor fordel”. Sådan lød det fra Københavns Politis chefpolitiinspektør, Jørgen Bergen Skov, da Berlingske Tidende i efteråret spurgte ham om teknologi til ansigtsgenkendelse.

På grund af GDPR udfordringer er kommentarmodulet midlertidigt deaktiveret.