EU vurderer å vedta lover som begrenser hvordan firmaer kan bruke av maskinlæringsalgoritmer, på folkemunne kalt kunstig intelligens. Det kan være dårlige nyheter for firmaer som Facebook og Google. Begge selskapene bruker allerede denne teknologien, blant annet for å selge annonser.

I et nytt utkast for EUs digitale strategi og en medfølgende grundig rapport om kunstig intelligens, varsles det om fremtidige begrensninger på hvordan firmaer som Facebook, Google og Tesla kan bruke denne teknologien.

Facebooks Mark Zuckerberg og Googles Sundar Pichai har allerede reist til Brussel for å snakke med lovgiverne, skriver New York Times. De vil gi råd og innspill til hvordan EU bør, og kanskje helst ikke bør, regulere kunstig intelligens og den digitale økonomien. Selv om han er åpen for nye lover, har Google-sjef Pichai bedt EU om å trå varsomt.

Samtidig har Tesla og SpaceX-sjef Elon Musk tatt til Twitter for å be om lovregulering, uten forbehold.

Selv om firmaene hans også bruker kunstig intelligens, vil han ha et tilsyn for de som driver med teknologien. Både nasjonalt og overnasjonalt.

Sammenlignet kunstig intelligens med å påkalle demoner

Musk har lenge vært kritisk til fullt frislipp av kunstig intelligens. Han har kalt teknologien en eksistensiell trussel mot menneskeheten, ifølge CNBC, og tvitret at sterke nasjonalstater som konkurrerer om å utvikle den mektigste kunstige intelligensen, vil føre til tredje verdenskrig.

Han tror ikke at de som utvikler teknologien forstår den godt nok, eller kan forutse hvordan den vil oppføre seg i møte med den virkelige verden. Allerede i 2014 sammenlignet han det å jobbe med maskinlæring med å påkalle demoner.

– I alle historiene er det en fyr med et pentagram og en flaske hellig vann, som er helt sikker på at han klarer å kontrollere demonen. Men det går ikke sånn, sa Musk under et intervju på Massachusetts Institute of Technology.

Han er ikke blitt mindre skeptisk de siste seks årene, selv om selskapet hans nå jobber iherdig med maskinlæring. Hvis Tesla får det som de vil, kommer du ikke til å kjøre bilen din selv om ti år. Ved hjelp av kunstig intelligens skal bilen kjøre seg selv.

– Kunstig intelligens er uten tvil noe som har potensial til å være farlig for befolkningen. Derfor bør det ha et offentlig tilsyn, på samme måte som luftfart eller legemidler har et offentlig tilsyn med ansvar for å forsikre at det er trygt, sa Musk i et intervju i slutten av 2019.

Frykter at vi mister kontroll over samfunnet vårt

Musk er ikke den eneste som er redd for at kunstig intelligens kan føre til store problemer. Mens Musk snakker om atomkrig og eksistensielle trusler mot menneskeheten, snakker de mer moderate stemmene om tap av innsyn i og kontroll over systemene i samfunnet vårt.

Noen frykter også at autoritære stater kan bruke teknologien få enda mer kontroll, for eksempel ved å lage genetiske databaser og overvåke innbyggerne sine, noe trendforskeren Amy Webb advarte mot da hun besøkte en forskningskonferanse i Trondheim i 2019.

• Les også: Trendforsker Amy Webb om kunstig intelligens:- Privatlivet vårt er slutt, og det bør skremme oss

– Av og til blir teknologikjennere grepet av samvittighet og skriker ut varsler til oss andre, sier Harald Throne-Holst ved OsloMet til forskning.no. Han forsker på ansvarlig teknologiutvikling og kjenner igjen retorikken til Musk.

Throne-Holst jobber for tiden med et større europeisk prosjekt om ansvarlig utvikling av nanoteknologi, en annen teknologi som både blir omtalt med både blind optimisme og skrekkinngytende dommedagsprofetier.

– På samme måte som kunstig intelligens blir nano ofte dratt frem som en ekstremt kraftig teknologi vi ikke har vett til å bruke, forteller forskeren.

– Viktig å forsøke å regulere

Throne-Holst tror det likevel det er mulig for lovgivere å regulere firmaene som arbeider med kunstig intelligens, selv om han peker på at det er bredt og dårlig definert felt.

– Det er viktig å forsøke. Vi må som samfunn eksperimentere med ulike måter å gjøre dette på. Vi må jobbe sammen for å finne en løsning, selv om vi ikke har svaret med en gang, sier Throne-Holst.

Han viser til EUs innstramming på personvern på internett, den såkalte GDPR-lovgivningen, som trådte i kraft i 2018. Den stilte strengere krav til alle som ville oppbevare personopplysninger, uansett hvorfor. Før denne innstrammingen var det fritt frem for bedrifter å samle inn alt fra epostadresser, navn og oppholdssted på dem som besøkte nettstedene eller brukte tjenestene deres.

– Selv om den skulle regulere en mer moden teknologi var det også snakk om et felt som var helt vill vest. Men det har vært veldig vellykket, flere andre land ønsker nå å kopiere dette grepet, sier Throne-Holst.

Vi må bli enige om hva vi vil bruke teknologien til

Han mener at noen av anvendelsene av kunstig intelligens allerede er skumle. Throne-Holst trekker frem at maskinlæringsalgoritmer blir brukt i amerikanske rettssaler for å vurdere hvilke siktede som bør sendes i fengsel, og hvem som bør få en mildere straff. Nettavisen Technology Review har tidligere skrevet om problemene med denne bruken av kunstig intelligens.

Samfunnet må finne en måte å sette grenser for teknologien, enten det er ved hjelp av lovverket eller på andre måter, mener forskeren. Det vil kreve at vi stiller oss selv nye spørsmål.

– Vi må slutte å spørre hva teknologiene kan brukes til, og begynne å spørre hva den bør brukes til, mener forskeren.

Les også:

Kunstig intelligens blir mannssjåvinistiske rasister. Hva kan vi gjøre for å stoppe det?