It og samfund

Adas drøm blev til virkelighed

Foto: Ritzau Scanpix

Forført af maskinernes enorme regnekraft fodrer vi dem ukritisk med uendelige datamængder, så den kunstige intelligens kan spytte et resultat ud. Men, advarer algoritmeprofessor Thore Husfeldt, vi må ikke glemme algoritmens væsen. Nemlig at den skal være læsbar – og dermed åben for granskning og ikke mindst kritik.

Vi lever i Ada Lovelaces drøm.

Det konstaterer ITU-professor Thore Husfeldt, der har dedikeret hele sit professionelle liv til algoritmer. Som han selv siger: 

– For mange år siden forelskede jeg mig i studiet af algoritmer – æstetisk og intellektuelt tilfredsstillende løsninger til abstrakte og temmelig obskure problemstillinger, og den forelskelse er aldrig visnet.

I dag er algoritmerne i alles lommer, og vejen hertil begyndte med Ada Lovelaces ’Note G’. Hendes note, skrevet i 1843, er en kommentar til den italienske general Luigi Menabreas beskrivelse af den engelske matematiker Charles Babbages ’The Analytical ­Engine’. I ’Note G’ anfører hun et eksempel på et program til brug i maskinen. Programmet anses for at være det første eksempel på et computerprogram, især fordi det indeholder såkaldte betingelsessætninger, der muliggør, at en bestemt beregning gentages, indtil en betingelse er opfyldt. ’The Analytical Engine’ blev aldrig bygget, men den er anset for at være forløber til den moderne computer.

– Ved siden af hendes konkrete bidrag til Babbages maskine er Ada Lovelaces så interessant, fordi hun samtidig spekulerede over, hvad det mon kunne medføre. Som hun skrev: ”The Analytical Engine might act upon other things beside number”. Det er jo et helt fantastisk begrebsmæssigt gennembrud, siger Thore Husfeldt med slet skjult beundring.

Det tog dog et godt stykke tid, før matematikken kunne følge trop med Lovelaces tanker. Men da det endelig skete, og turingmaskinen så dagens lys i 1936, gik det til gengæld stærkt.      

– Vi har nu transformeret hele verden til bits og bytes, og vi fodrer gladeligt analytiske maskiner med dem, ganske som Ada Lovelace gik og filosoferede over for næsten 200 år siden, siger Thore Husfeldt.

Afsløringen

Algoritmer har været et forskningsfelt inden for datalogi siden 1950’erne. Længe var det dog kun en lille kreds af nørder som Thore Husfeldt, der så samfundsmæssige aspekter ved den algoritmiske påvirkning.

Men så i 2011 udgav den amerikanske iværksætter og aktivist Eli Pariser bogen ‘The Filter Bubble: What The Internet Is Hiding From You’. Her afslørede han, hvordan algoritmer bliver brugt til at rangere de nyheder, vi bliver præsenteret for, når vi søger på nettet. Bogen blev en bestseller, og pludselig begyndte journalisterne at ringe til folk som Thore Husfeldt. 

– Offentligheden blev opmærksom på de små stykker kode, der findes over alt omkring os. De indså, at algoritmerne påvirker virkeligheden, og det vakte bestyrtelse, siger han. 

Thore Husfeldt lægger ikke skjul på, at det frustrerer ham, at hans elskede algoritmer ganske ureflekteret fik på puklen. 

– Visse algoritmer er en lille stump meget præcis beskrivelse af en proces imellem et stykke kode og en matematisk formel. Eksempelvis hvordan man omregner fahrenheit til celsius. Algoritmer er som sådan blot universelle beskrivelser af, hvordan man gør noget. Og hvis vi tror, at det kun er algoritmer, der sorterer i informationer, før de træffer beslutninger, tager vi fejl. Det gør mennesker hele tiden, siger Thore Husfeldt.  

Et eksempel er jobansættelser. Hvis der er en ledig stilling på fru Svendsens skole, kan hun vælge imellem to måder at finde frem til de ansøgere, hun vil indkalde til samtale. Hun kan gennemgå bunken ved at læse hver eneste ansøgning, eller hun kan benytte en algoritme, der er designet til at finde de bedste kandidater ud fra nogle på forhånd givne kriterier.

– Når fru Svendsen skal udvælge kandidater, spiller en række faktorer ind i hendes valg. Det kan være, om personen ser tilforladelig ud, har et vindende væsen eller er superdygtig til at spille klaver, i stedet for alene at kigge på ansøgerens eksamenskarakterer, erfaring, eller anbefalinger, siger Thore Husfeldt og tilføjer: 

– Der bor masser af fordomme i mennesker.

Fordomme synliggøres

Men flytter man den menneskelige udvælgelsesproces over i et stykke kode, vil fordomme og stereotyper med professorens ord blive ”algoritmiseret”. 

– Ved at rationalisere processerne, gør man reglerne for beslutningen synlige. Dermed afsløres også stereotyperne. En algoritme, der gør os klogere på, hvad der ligger til grund for udvælgelsen, kan vi så anfægte eller leve med. Når processerne automatiseres, kan vi åbne kassen og kigge godt og grundigt på indholdet. Vi kan også gentage processen ved at køre den 100.000 gange på forskelle data og lave statistik på den. Det er alt andet lige sværere at gøre med fru Svendsen, siger han. 

Det er altså selve algoritmiseringen, som gør, at vi får øjnene op for fru Svendsens proces. 

– Det er synliggørelsen er hele udgangspunktet. Der har altid været en algoritme, selv da den var fru Svendsens private og usynlige. Ved at gøre hendes beslutning synlig, kan vi enten acceptere den eller udfordre den, siger Thore Husfeldt.

Algoritmiseringen er dermed mere demokratisk og ærlig metode, mener han. 

– Magten har altid skullet kunne legitimere sig. Og det er mit ønske at fastholde dette princip, siger professoren. 

Og dermed er vi inde ved det, som professoren kalder algoritmens væsen. 

– Algoritmer er processer, metoder eller opskrifter, der har tre dyder. De skal være universelle, afgrænsede og læsbare, siger Thore Husfeldt.

Især læsbarheden er afgørende, mener han. For når algoritmer er læsbare, kan vi se dem, forklare dem, forstå dem, forbedre dem og ikke mindst kritisere dem.

Thores skole

Thore Husfeldt har længe været optaget af udviklingen af værdierne bag det akademiske studium af algoritmer, og ifølge ham er der over de seneste år sket en bevægelse fra at have fokus på algoritmers korrekthed og tidsforbrug til at dreje sig om værdier som privathed og retfærdighed. 

Så kan man tale om gode og dårlige algoritmer?

– Hvis man kigger på funktionalitet, er en algoritme jo god, hvis den virker efter hensigten. Finder algoritmen den bedste ansøger, er den jo god, fordi den virker, siger han. 

Han peger dog på, at der i dag findes to algoritme-skoler. ”Thores skole”, som han selv kalder den, danner algoritmer ud fra teorier, og der føres matematisk bevis for, at algoritmen er god. Tilgangen er en logisk rationel tankegang, og en algoritme skabt i Thores skole har ikke set et eneste tal under sin tilblivelse.

Og så er der den anden skole, nemlig den maskinlærte. Den, hvor en maskine sættes til på baggrund af 500.000 eksempler at finde en sammenhæng mellem dem og løse et konkret problem.  

– Jeg må indrømme, at jeg faktisk er personligt fornærmet over, at de maskinlærte algoritmer fungerer så godt, som de gør nu. Tænk, at man kan udvikle en algoritme, der kan vinde i skak, uden at den nogensinde har set bare et enkelt parti, siger Thore Husfeldt. 

Han ærgrer sig over, at maskinlæring er blevet synonym med algoritmer.

– Maskinlærte algoritmer kan være utrolig effektive og præcise, men de er også dovne, teoriløse og finder kun korrelationer. De er ikke genstand for kritik, for vi bør ikke kun bedømme en algoritme ud fra dens udfald. Hovedårsagen til, at maskinlærte algoritmer virker, er, fordi der er skabt så meget data. Og fordi maskinerne i dag har så meget regnekraft, siger han. 

Algoritmeprofessoren medgiver dog, at en maskinlært algoritme, der er skabt til at vinde i skak, må vurderes ud fra, hvorvidt den virker på de præmisser. 

– Men når det gælder algoritmer, der påvirker mennesker?! Ja, så skal de skal leve op til min skoles doktrin om at være skabt fri fra data og kravet om at være læsbar, siger han med fynd i stemmen.

Drevet af ideologi 

De uhyggelige mængder af data, der findes i dag, har forført os og trukket os væk fra det, Thore Husfeldt mener, ligger dybt i datalogiens selvforståelse.

– Det er den ånd, der er i open source-tanken, nemlig at alle skal kunne kende reglerne. Det er idealet om fri og lige adgang til information, om retten til privatliv, ytringsfrihed og til ucensurerede debatfora, siger han.

Det var en overvældende og skræmmende virkelighed, der afslørede sig med filterboblen, men der er lys for enden af tunnelen. 

– Eli Parisers afsløringer gjorde brugen af algoritmer synlig. Nu går folk jo vildt op i, hvordan, og ikke mindst hvorfor, nyheder bliver rangeret på internettet. Nu stilles der spørgsmål og krav til den kunstige intelligens overalt, hvor vi møder den. Og det er godt, siger Thore Husfeldt. 

For han insisterer på gennemskuelighed som en ideologisk tanke. Det handler ganske enkelt om, hvordan vi bygger det gode samfund op, og at vi borgere kan få en forklaring på alle de regler, der påvirker os. Regler, der i højere og højere grad også er algoritmer. 

– Vi har vedtaget, at en borger er myndig, når antallet af dage fra personens fødsel er 18 år eller mere. Det er en simpel algoritme. Den kunne måske være mere præcis, hvis vi tog højde for personens modenhed, intelligens eller påvirkning af alkohol, men det ønsker vi ikke af demokratiske årsager, siger han. 

Netop fordi vi mennesker skal kunne gennemskue de regler, der påvirker os, har forklarlighed en værdi i sig selv. Og eftersom flere og flere beslutninger træffes på baggrund af forskellige teknologier, skal løsningen kunne forklares i matematikken, mener professoren. Derfor er idealet for en algoritme i Thore Husfeldts øjne, at den skal være enkel. 

– Selvom de bagvedliggende problemer er komplicerede, skal løsningen være klar og forståelig i algoritmens algebra. Gennemskuelighed er et værdispørgsmål, som jeg har stærke holdninger til, og som gennemstrømmer hele min gerning som akademiker, siger han.

 

Ada Lovelace og den analytiske maskine

Ada Lovelace (1815-52). Britisk matematiker, der i 1843 skrev en kommentar til Luigi Menabreas beskrivelse af opfinderen Charles Babbages ’The Analytical Engine’ fra 1842. Hun anfører et eksempel på et program til brug i maskinen. Det anses for at være det første eksempel på et computerprogram, idet det indeholder såkaldte betingelsessætninger, der muliggør, at en bestemt beregning gentages, indtil en betingelse er opfyldt.

CV Thore Husfeldt

ALDER: 52 ÅR

UDDANNELSE:

1994: Cand.scient., Institut for ­Datalogi, Aarhus Universitet.

1997: Ph.d., Institut for Datalogi, Aarhus Universitet. 

KARRIERE:

2007: Docent, Institut for ­Datalogi, Lund Universitet.

2008: Lektor, Institut for Datalogi, ITU 

2012: Professor, Institut for ­Datalogi, Lund Universitet

2019: Professor, Institut for ­Datalogi, ITU 

Algoritmens far

Muhammad ibn Musa al-Khwarizmi (ca. 780-ca. 850) er en persisk matematiker, astronom, astrolog og geograf. Som en af algebraens grundlæggere regnes han blandt de største matematikere i historien. Eponymet algoritme er direkte afledt af hans navn.

Kommentarer

Log på Mit PROSA for at se eller skrive en kommentar til artiklen