Etikken i teknikken

I kultforfatteren Philip K. Dicks novelle «The Minority Report» kan politiet forutse kriminelle handlinger, og dermed arrestere mistenkte før ugjerningene begås. Datakraften i kunstig intelligens har på ny aktualisert den snart sytti år gamle novellen, som også er filmatisert av Steven Spielberg, med de problemstillingene den reiser om fri vilje og rettsvern.

Nå ligger det an til at EU-parlamentet vil forby en slik bruk av den nye teknologien i forordningen om kunstig intelligens, etter vedtak på torsdag i to komiteer. Saken skal behandles i parlamentets plenum i midten av juni.

Forordningen er den første omfattende lovreguleringen av KI, men blir kritisert for å ha betydelige mangler blant annet om ivaretagelse av menneskerettigheter og sikkerhetskrav, og at det er for store unntaksmuligheter. Etter EU-parlamentets behandling blir det en ny runde med medlemslandene i rådet og EU-kommisjonen, før forordningen kan vedtas, trolig neste år.

Regelverket skal gjelde både private selskaper og myndigheters bruk av KI. I de fleste tilfellene er det ikke begrensninger på bruken, men særlig til systemer som blir klassifisert som høyrisiko settes det krav. Dette gjelder blant annet innenfor helse, jobbrekruttering, tildeling av offentlige ytelser og rettsutøvelse

Et stridstema er bruk av biometriske data. Her innstiller parlamentskomiteene på at ansiktsgjenkjenning for å overvåke borgerne blir forbudt. Unntak kan gjøres om det foreligger en spesifikk trusselsituasjon. Det stilles også krav om at opphavsrettsbeskyttet materiale som brukes til å trene opp KI-systemene skal dokumenteres, slik at de som har rettighetene kan vurdere bruken og få betalt.

Det er selskaper utenfor Europa som har kommet lengst i utvikling og bruk av KI. Regulering av feltet kan bidra til at europeiske selskaper henter inn forspranget, særlig om EU lykkes med ambisjonen om at forordningen skal prege kjørereglene internasjonalt. Samtidig er det et tungt press fra tek-bransjen, der amerikanske selskaper er toneangivende også i Europa, om at reglene må være fleksible.

Forordningen overlater mye av operasjonaliseringen og viktige avgrensninger til bransjen selv. For eksempel åpnes det for unntak fra klassifiseringen som høyrisiko-system gjennom selskapers egen vurdering. Et annet kritisk punkt er hvordan kravene til høyrisiko-systemet skal følges opp i praksis. Det skal gjøres risikovurderinger og gis innsyn, men konkretiseringen ligger hos standardiseringsorganene The European Committee for Standardisation (CEN) og The European Committee for Electrotechnical Standardisation (CENELEC).

Interessant nok er dette europeiske organer som favner bredere enn EU. 34 europeiske land er for eksempel representert i CENELEC, herunder Norge (EU har 27 medlemsland). Regulering av KI er derimot noe annet enn alminnelige produktstandarder og størrelsen på muttere og skruer. «Teknikalitetene» vil ha stor betydning for folks rett til privatliv, politiske ytringer, helse, arbeidssituasjon med mer. 

Ingeniører og teknologer har viktig kunnskap i reguleringen av KI, men fraværet av kompetanse på menneskerettigheter og filosofi er alarmerende. Sivilsamfunnets organisasjoner står også utenfor. Ytringsfrihetsorganisasjonen Article 19 skriver i en skarp advarsel: «det er en reell fare for at disse organene vil ha de facto makt til å bestemme hvordan KI-loven implementeres uten virkemidler til å sikre at lovens tiltenkte mål – å beskytte folks grunnleggende rettigheter – virkelig blir oppfylt» (EU Observer 5. mai).

Et satsningsområde for tek-selskapene er helseopplysninger, som de blant annet kan bruke til å utvikle sine KI-systemer. EU-kommisjonen har foreslått et europeisk helsedataområde (EHDS), som et sentralt element i EUs helseunion. Kommisjonen mener forenklet deling av opplysninger vil gi bedre helsetjenester og forskning.

Forslaget har et pålegg om at sykehus og leger skal utlevere medisinske opplysninger til et nytt byrå, som kan gi tilgang ikke bare til universitetsforskere, men også kommersielle selskaper. Et scenario kan være at Google henter opplysninger for å trene opp KI i en helseapp, opplysninger som deretter også utnyttes av selskapets annonsemaskiner.

EU-kommisjonen har gitt Google flere bøter i milliardklassen for selskapets misbruk av sin dominerende stilling i markedet. Samtidig godkjente EU-kommisjonen Googles overtagelse av DoubleClick i 2008, og dette anses som sentralt for Googles raske ekspansjon og dominans innenfor målrettet reklame.

Det var konsulentselskapet RBB Economics som hjalp Google med å få kommisjonens godkjennelse. Nå har EU-kommisjonen gitt RBB Economics i oppdrag å evaluere kravene til selskapsovertagelser og fusjoner. Konsulentene skal ikke bare beskrive situasjonen, men også vurdere om politikken er for streng eller svak, og anbefale tiltak for å bedre kommisjonens praksis.

RBB Economics har hatt flere oppdrag for Google, og har bistått en rekke selskaper med fusjoner og oppkjøp. Konsulentselskapet har dessuten agert som en lobbyaktør for å svekke EUs krav og regler til fusjoner. Det er oppsiktsvekkende at EU-kommisjonen ikke ser det problematiske i å bruke utredere med så sterke egeninteresser.

Ikke minst i tek-sektoren har store selskaper som Apple, Microsoft og Amazon på løpende bånd overtatt mulige konkurrenter. EU-kommisjonen har nesten ikke grepet inn for å stanse fusjoner. Mellom 1990 og 2021 ble bare 30 av 8083 meldte fusjoner stanset, det vil si 3,7 promille. EU-kommisjonen godkjente 9 av 10 fusjoner uten å stille noen som helst vilkår.

Hvordan reguleringene av kunstig intelligens og markedsmakt blir til slutt, kan si mye om hvor EU setter bena i spagaten mellom grunnleggende rettigheter og storselskapers bunnlinje.

Artikkelen er opprinnelig trykt i Klassekampen 13. mai 2023. 

Stort bilde i toppen: Faksimile fra spalten "Orientering" i Klassekampen lørdag 13. mai 2023.