Faksimile fra spalten "Orientering" i Klassekampen lørdag 13. mai 2023.

Etikken i teknikken

Hvor smart er det å gi kommersielle selskapers kunstige intelligens tilgang til helseopplysninger?

I kultforfatteren Philip K. Dicks novelle «The Minority Report» kan politiet forutse kriminelle handlinger, og dermed arrestere mistenkte før ugjerningene begås. Datakraften i kunstig intelligens har på ny aktualisert den snart sytti år gamle novellen, som også er filmatisert av Steven Spielberg, med de problemstillingene den reiser om fri vilje og rettsvern.

Nå ligger det an til at EU-parlamentet vil forby en slik bruk av den nye teknologien i forordningen om kunstig intelligens, etter vedtak på torsdag i to komiteer. Saken skal behandles i parlamentets plenum i midten av juni.

Forordningen er den første omfattende lovreguleringen av KI, men blir kritisert for å ha betydelige mangler blant annet om ivaretagelse av menneskerettigheter og sikkerhetskrav, og at det er for store unntaksmuligheter. Etter EU-parlamentets behandling blir det en ny runde med medlemslandene i rådet og EU-kommisjonen, før forordningen kan vedtas, trolig neste år.

Regelverket skal gjelde både private selskaper og myndigheters bruk av KI. I de fleste tilfellene er det ikke begrensninger på bruken, men særlig til systemer som blir klassifisert som høyrisiko settes det krav. Dette gjelder blant annet innenfor helse, jobbrekruttering, tildeling av offentlige ytelser og rettsutøvelse

 

Et stridstema er bruk av biometriske data. Her innstiller parlamentskomiteene på at ansiktsgjenkjenning for å overvåke borgerne blir forbudt. Unntak kan gjøres om det foreligger en spesifikk trusselsituasjon. Det stilles også krav om at opphavsrettsbeskyttet materiale som brukes til å trene opp KI-systemene skal dokumenteres, slik at de som har rettighetene kan vurdere bruken og få betalt.

Det er selskaper utenfor Europa som har kommet lengst i utvikling og bruk av KI. Regulering av feltet kan bidra til at europeiske selskaper henter inn forspranget, særlig om EU lykkes med ambisjonen om at forordningen skal prege kjørereglene internasjonalt. Samtidig er det et tungt press fra tek-bransjen, der amerikanske selskaper er toneangivende også i Europa, om at reglene må være fleksible.

 

Forordningen overlater mye av operasjonaliseringen og viktige avgrensninger til bransjen selv. For eksempel åpnes det for unntak fra klassifiseringen som høyrisiko-system gjennom selskapers egen vurdering. Et annet kritisk punkt er hvordan kravene til høyrisiko-systemet skal følges opp i praksis. Det skal gjøres risikovurderinger og gis innsyn, men konkretiseringen ligger hos standardiseringsorganene The European Committee for Standardisation (CEN) og The European Committee for Electrotechnical Standardisation (CENELEC).

Interessant nok er dette europeiske organer som favner bredere enn EU. 34 europeiske land er for eksempel representert i CENELEC, herunder Norge (EU har 27 medlemsland). Regulering av KI er derimot noe annet enn alminnelige produktstandarder og størrelsen på muttere og skruer. «Teknikalitetene» vil ha stor betydning for folks rett til privatliv, politiske ytringer, helse, arbeidssituasjon med mer. 

 

Ingeniører og teknologer har viktig kunnskap i reguleringen av KI, men fraværet av kompetanse på menneskerettigheter og filosofi er alarmerende. Sivilsamfunnets organisasjoner står også utenfor. Ytringsfrihetsorganisasjonen Article 19 skriver i en skarp advarsel: «det er en reell fare for at disse organene vil ha de facto makt til å bestemme hvordan KI-loven implementeres uten virkemidler til å sikre at lovens tiltenkte mål – å beskytte folks grunnleggende rettigheter – virkelig blir oppfylt» (EU Observer 5. mai).

 

Et satsningsområde for tek-selskapene er helseopplysninger, som de blant annet kan bruke til å utvikle sine KI-systemer. EU-kommisjonen har foreslått et europeisk helsedataområde (EHDS), som et sentralt element i EUs helseunion. Kommisjonen mener forenklet deling av opplysninger vil gi bedre helsetjenester og forskning.

Forslaget har et pålegg om at sykehus og leger skal utlevere medisinske opplysninger til et nytt byrå, som kan gi tilgang ikke bare til universitetsforskere, men også kommersielle selskaper. Et scenario kan være at Google henter opplysninger for å trene opp KI i en helseapp, opplysninger som deretter også utnyttes av selskapets annonsemaskiner.

EU-kommisjonen har gitt Google flere bøter i milliardklassen for selskapets misbruk av sin dominerende stilling i markedet. Samtidig godkjente EU-kommisjonen Googles overtagelse av DoubleClick i 2008, og dette anses som sentralt for Googles raske ekspansjon og dominans innenfor målrettet reklame.

 

Det var konsulentselskapet RBB Economics som hjalp Google med å få kommisjonens godkjennelse. Nå har EU-kommisjonen gitt RBB Economics i oppdrag å evaluere kravene til selskapsovertagelser og fusjoner. Konsulentene skal ikke bare beskrive situasjonen, men også vurdere om politikken er for streng eller svak, og anbefale tiltak for å bedre kommisjonens praksis.

RBB Economics har hatt flere oppdrag for Google, og har bistått en rekke selskaper med fusjoner og oppkjøp. Konsulentselskapet har dessuten agert som en lobbyaktør for å svekke EUs krav og regler til fusjoner. Det er oppsiktsvekkende at EU-kommisjonen ikke ser det problematiske i å bruke utredere med så sterke egeninteresser.

Ikke minst i tek-sektoren har store selskaper som Apple, Microsoft og Amazon på løpende bånd overtatt mulige konkurrenter. EU-kommisjonen har nesten ikke grepet inn for å stanse fusjoner. Mellom 1990 og 2021 ble bare 30 av 8083 meldte fusjoner stanset, det vil si 3,7 promille. EU-kommisjonen godkjente 9 av 10 fusjoner uten å stille noen som helst vilkår.

Hvordan reguleringene av kunstig intelligens og markedsmakt blir til slutt, kan si mye om hvor EU setter bena i spagaten mellom grunnleggende rettigheter og storselskapers bunnlinje.

Artikkelen er opprinnelig trykt i Klassekampen 13. mai 2023. 

Stort bilde i toppen: Faksimile fra spalten "Orientering" i Klassekampen lørdag 13. mai 2023.

reLATERT

Se alle arrangementer

EU vil ha full kontroll over den digitale lommeboka di

09. nov. 2023

Bak lukkede dører har EU gjennomført såkalte trilogforhandlinger om et nytt verktøy som kan invadere nettleseren din. Den digitale lommeboka skal være gyldig i hele EU/EØS.

Masseovervåking setter demokratiet i fare

09. nov. 2023

Chat Control 2.0 kan bli det alvorligste inngrepet mot retten til privatliv og ytringsfrihet i Europa i nyere tid.

Euro skaper uro

09. nov. 2023

Dyrtida slår kraftig inn i europeiske husstander. Dette merkes også i Norge. I tillegg til høye priser på energi og mat kommer hyppige renteøkninger. Mye av prisveksten er importert. Ville det hjelpe å bytte ut krona med euroen?

Uvisst om utvidelse av unionen

08. nov. 2023

Sverige og Finland brukte fem år på prosessen med å bli EU-medlem, og ingen har gjort det raskere. Tyrkia har vært kandidatland i snart 25 år. Hva er utsiktene for et snarlig EU-medlemskap for Ukraina?

Vett 2 2023 Dyrtid for demokratiet

07. nov. 2023

Kan EU utvide unionen både i dybden og bredden?

Europeisering uten union

30. okt. 2023

Utvidelse av EU med nye medlemsland åpner en følsom debatt om EUs institusjoner, finansiering og politikk.

Drosjeutvalget balanserer på den gule veistripa

06. juli 2023

Ved å styre strengt etter den gule stripa håper Drosjeutvalget at de ikke blir overkjørt av ESA.

Sertifisert skuebrød

26. juni 2023

Ti år etter at klesfabrikkene i Rana Plaza raste sammen, skal vi ikke glemme at det som er fleksibelt for noen, kan være skjebnesvangert for andre.

Næringsministeren vil stille Norge bak EU i den nye handelskrigen

22. juni 2023

USA og Kina har gitt gigantiske subsidiepakker til sine egne mer eller mindre grønne industriprosjekter. EU vil gjøre det samme. Hvor klokt er det av næringsministeren å stille Norge «hundre prosent» bak EU og det indre markedet?

Ny runde med nedskjæringspolitikk i EU

31. mai 2023

EU vil stramme inn budsjettreglene. Det vil bety dramatiske kutt i velferden, også i velstående Tyskland.

Sjåfører i blindsonen

02. mai 2023

Transporten er på ville veier når de som vil drive seriøst, taper i konkurransen, og kontrollmyndighetene ikke henger med i svingene.

Ute og sykler

17. april 2023

EUs Green Deal skal kutte klimautslipp, men er også en strategi for økonomisk vekst. Kommisjonen har mye å bevise.