Faksimile fra spalten "Orientering" i Klassekampen lørdag 13. mai 2023.

Etikken i teknikken

Hvor smart er det å gi kommersielle selskapers kunstige intelligens tilgang til helseopplysninger?

I kultforfatteren Philip K. Dicks novelle «The Minority Report» kan politiet forutse kriminelle handlinger, og dermed arrestere mistenkte før ugjerningene begås. Datakraften i kunstig intelligens har på ny aktualisert den snart sytti år gamle novellen, som også er filmatisert av Steven Spielberg, med de problemstillingene den reiser om fri vilje og rettsvern.

Nå ligger det an til at EU-parlamentet vil forby en slik bruk av den nye teknologien i forordningen om kunstig intelligens, etter vedtak på torsdag i to komiteer. Saken skal behandles i parlamentets plenum i midten av juni.

Forordningen er den første omfattende lovreguleringen av KI, men blir kritisert for å ha betydelige mangler blant annet om ivaretagelse av menneskerettigheter og sikkerhetskrav, og at det er for store unntaksmuligheter. Etter EU-parlamentets behandling blir det en ny runde med medlemslandene i rådet og EU-kommisjonen, før forordningen kan vedtas, trolig neste år.

Regelverket skal gjelde både private selskaper og myndigheters bruk av KI. I de fleste tilfellene er det ikke begrensninger på bruken, men særlig til systemer som blir klassifisert som høyrisiko settes det krav. Dette gjelder blant annet innenfor helse, jobbrekruttering, tildeling av offentlige ytelser og rettsutøvelse

 

Et stridstema er bruk av biometriske data. Her innstiller parlamentskomiteene på at ansiktsgjenkjenning for å overvåke borgerne blir forbudt. Unntak kan gjøres om det foreligger en spesifikk trusselsituasjon. Det stilles også krav om at opphavsrettsbeskyttet materiale som brukes til å trene opp KI-systemene skal dokumenteres, slik at de som har rettighetene kan vurdere bruken og få betalt.

Det er selskaper utenfor Europa som har kommet lengst i utvikling og bruk av KI. Regulering av feltet kan bidra til at europeiske selskaper henter inn forspranget, særlig om EU lykkes med ambisjonen om at forordningen skal prege kjørereglene internasjonalt. Samtidig er det et tungt press fra tek-bransjen, der amerikanske selskaper er toneangivende også i Europa, om at reglene må være fleksible.

 

Forordningen overlater mye av operasjonaliseringen og viktige avgrensninger til bransjen selv. For eksempel åpnes det for unntak fra klassifiseringen som høyrisiko-system gjennom selskapers egen vurdering. Et annet kritisk punkt er hvordan kravene til høyrisiko-systemet skal følges opp i praksis. Det skal gjøres risikovurderinger og gis innsyn, men konkretiseringen ligger hos standardiseringsorganene The European Committee for Standardisation (CEN) og The European Committee for Electrotechnical Standardisation (CENELEC).

Interessant nok er dette europeiske organer som favner bredere enn EU. 34 europeiske land er for eksempel representert i CENELEC, herunder Norge (EU har 27 medlemsland). Regulering av KI er derimot noe annet enn alminnelige produktstandarder og størrelsen på muttere og skruer. «Teknikalitetene» vil ha stor betydning for folks rett til privatliv, politiske ytringer, helse, arbeidssituasjon med mer. 

 

Ingeniører og teknologer har viktig kunnskap i reguleringen av KI, men fraværet av kompetanse på menneskerettigheter og filosofi er alarmerende. Sivilsamfunnets organisasjoner står også utenfor. Ytringsfrihetsorganisasjonen Article 19 skriver i en skarp advarsel: «det er en reell fare for at disse organene vil ha de facto makt til å bestemme hvordan KI-loven implementeres uten virkemidler til å sikre at lovens tiltenkte mål – å beskytte folks grunnleggende rettigheter – virkelig blir oppfylt» (EU Observer 5. mai).

 

Et satsningsområde for tek-selskapene er helseopplysninger, som de blant annet kan bruke til å utvikle sine KI-systemer. EU-kommisjonen har foreslått et europeisk helsedataområde (EHDS), som et sentralt element i EUs helseunion. Kommisjonen mener forenklet deling av opplysninger vil gi bedre helsetjenester og forskning.

Forslaget har et pålegg om at sykehus og leger skal utlevere medisinske opplysninger til et nytt byrå, som kan gi tilgang ikke bare til universitetsforskere, men også kommersielle selskaper. Et scenario kan være at Google henter opplysninger for å trene opp KI i en helseapp, opplysninger som deretter også utnyttes av selskapets annonsemaskiner.

EU-kommisjonen har gitt Google flere bøter i milliardklassen for selskapets misbruk av sin dominerende stilling i markedet. Samtidig godkjente EU-kommisjonen Googles overtagelse av DoubleClick i 2008, og dette anses som sentralt for Googles raske ekspansjon og dominans innenfor målrettet reklame.

 

Det var konsulentselskapet RBB Economics som hjalp Google med å få kommisjonens godkjennelse. Nå har EU-kommisjonen gitt RBB Economics i oppdrag å evaluere kravene til selskapsovertagelser og fusjoner. Konsulentene skal ikke bare beskrive situasjonen, men også vurdere om politikken er for streng eller svak, og anbefale tiltak for å bedre kommisjonens praksis.

RBB Economics har hatt flere oppdrag for Google, og har bistått en rekke selskaper med fusjoner og oppkjøp. Konsulentselskapet har dessuten agert som en lobbyaktør for å svekke EUs krav og regler til fusjoner. Det er oppsiktsvekkende at EU-kommisjonen ikke ser det problematiske i å bruke utredere med så sterke egeninteresser.

Ikke minst i tek-sektoren har store selskaper som Apple, Microsoft og Amazon på løpende bånd overtatt mulige konkurrenter. EU-kommisjonen har nesten ikke grepet inn for å stanse fusjoner. Mellom 1990 og 2021 ble bare 30 av 8083 meldte fusjoner stanset, det vil si 3,7 promille. EU-kommisjonen godkjente 9 av 10 fusjoner uten å stille noen som helst vilkår.

Hvordan reguleringene av kunstig intelligens og markedsmakt blir til slutt, kan si mye om hvor EU setter bena i spagaten mellom grunnleggende rettigheter og storselskapers bunnlinje.

Artikkelen er opprinnelig trykt i Klassekampen 13. mai 2023. 

Stort bilde i toppen: Faksimile fra spalten "Orientering" i Klassekampen lørdag 13. mai 2023.

reLATERT

Se alle arrangementer

Byrået for demokrati

21. mai 2024

Tanken om å styrke folkestyret i Europa gjennom enda et byråkratisk organ har mange motsetninger.

Farvel, Paris

07. mai 2024

EUs nye kuttpolitikk stanser klimatiltak og baner vei for Marine Le Pen.

EUs usolidariske asyl- og migrasjonspakt

03. mai 2024

I en tid med menneskerettighetsbrudd, krig og klimakrise. Er dette virkelig tidspunktet hvor EU skal gjøre det enda vanskeligere å søke asyl?

EØS-storm i spørretimen

17. april 2024

EUs fjerde energipakke, konsekvenser av veto i EØS og unntak fra EUs anbudstvang på jernbanen var noen av mange EØS-tema i Stortingets spørretime.

Kan EU erstatte Nato?

03. april 2024

En europeisk forsvarsgaranti er lite annet enn en ønskedrøm på ja-sida.

Grønn pakt i fare

14. mars 2024

Det er ikke klimamålene, men metodene bak dem som gjør at EUs grønne skifte kjører seg fast.

EU-politikere vil ha tilgang til folkets sparepenger

28. feb. 2024

Pengebingen tømmes fort i EU. Sentrale franske og tyske politikere vil derfor ha lettere tilgang til pensjonsmidler og sparepenger som tilhører vanlige europeere.

Union og utopia

28. feb. 2024

Hva kunne vært mulig med et ganske annet politisk flertall i EU?

Del 7 Beredskap i en urolig tid

12. feb. 2024

Denne delen omhandler fire områder innen beredskap: mat, transport, helse og energi.

Del 6 Digitale trusler mot demokratiet

12. feb. 2024

EU ønsker å lage reguleringer som er i forkant av den hurtige digitale utviklingen, hvilket er fornuftig.

Uvisst om ESA godtar sentrallås for drosjene

08. jan. 2024

Samferdselsministeren vil innføre sentrallås for taxinæringa. Han har også klokelig funnet ut at det er på tide å tallfeste hva midlertidig busskabotasje skal bety.

Informasjonskampanje om EU og EØS

21. des. 2023

Fylkeslaget i Møre og Romsdal starter informasjonskampanje.