PROSA holder fortsat åbent, men kun efter aftale. Vi beder alle ansatte såvel som medlemmer om at møde op med gyldigt coronapas. 

It og samfund

EU’s lovforslag om kunstig intelligens sætter marked før mennesker

EU-Kommissionens forslag til regulering af kunstig intelligens fokuserer på at udvikle og udnytte teknologien – ikke på at beskytte menneskers rettigheder ved ibrugtagen af teknologi, hvis konsekvenser kan være svære at overskue.

Dette debatindlæg er også bragt på Altinget.dk

Mens det er positivt, at EU-kommissionen er kommet på banen med et reguleringsforslag for kunstig intelligens, er vinklingen i forslaget problematisk. Der er stort fokus på at skabe gode rammer for virksomheder, men der glides let hen over at afdække eventuelle menneskelige omkostninger.

Det lyder umiddelbart fornuftigt, når kunstig intelligens med lovforslaget skal leve op til strenge regler, før den kan markedsføres. Blandt andet er der på højrisikoområder som for eksempel brug af kunstig intelligens i kritisk infrastruktur, retshåndhævelse (fx vurdering af troværdigheden af beviser) og administration af juridiske og demokratiske processer krav om risikovurderinger, afbødningssystemer, datasæt af høj kvalitet og logning af aktivitet, så resultater kan følges og forstås. Men dermed foreskriver lovforslaget primært tekniske løsninger på komplekse samfundsmæssige udfordringer. Er det på de parametre, vi vil vurdere kunstig intelligens som brugbar eller ej?

Hvem opstiller i øvrigt rammerne for risikovurderingen? Er det virksomheder, som potentielt kan tjene penge på at markedsføre teknologien? Hvis man kan fremvise en lav teknisk fejlmargen, er risikovurderingen så bare i orden? Som lovforslaget er formuleret, har det meget brede rammer, som ikke peger på stram kontrol med virksomheder, men tværtimod giver rammer for at udvikle kunstig intelligens på meget følsomme områder, hvor brugen af teknologien kan få vidtrækkende og svært overskuelige konsekvenser.

 Hent inspiration i miljøområdet

Her ser PROSA gerne, at der bliver gået noget grundigere til værks. For eksempel kunne vi lade os inspirere af miljøområdet - et andet forholdsvis nyt indsatsområde, hvor vi har set alvorlige konsekvenser af tidligere tiders dårligt fremtidssikrede beslutninger. Her bruger man nu VVM-undersøgelser i beslutningsprocesser.

En VVM (vurderinger af Virkninger på Miljøet) skal ifølge Miljøvurderingsloven fra 2020 som udgangspunkt altid gennemføres forud for beslutninger, der kan påvirke miljøet væsentligt. En miljøvurdering giver ikke i sig selv svaret på om planen, programmet eller projektet skal gennemføres. Men den sikrer, at der gennemføres en grundig analyse af de forskellige miljøpåvirkninger, og den giver et overblik over konsekvenserne af forskellige alternativer. Miljøvurderinger bidrager til, at der kan træffes oplyste og miljømæssigt bedre beslutninger. Offentlige høringer inden den endelige beslutning træffes er et væsentligt led i processen.

I forhold til kunstig intelligens skulle vi naturligvis tale om en vurdering af virkninger på og for mennesker. Her kunne fokus være, om den påtænkte teknologi (eventuelt med mindre ændringer) kan bruges på en måde, som borgerne vil finde skadelig, eller om den kan krænke retsprincipper eller rettigheder, eller resultere i uigennemskuelige beslutningsprocesser?

Kunstig intelligens er i sin vorden. Apropos miljøet kan vi sammenligne med kemiindustrien i 60’erne. Læren fra dengang er, at vi nok ikke bare skal tillade Cheminova at dumpe sit kemiaffald ved høfde 42 på Harboøre Tange, men at vi i stedet skal starte ud med en strammere regulering, som vi så kan løsne sidenhen, når vi får de fornødne erfaringer til at træffe andre beslutninger. Her bør der ligesom ved miljøvurderinger indføres et forsigtighedsprincip, indtil vi er helt sikre på, at teknologien ikke medfører en uforudset eller utilsigtet skadevirkning.