Elon Musk sier det sånn: Når du ser en maurtue, så sparker du den ikke ned, hvis du da ikke er en dust. Men hvis du skal lage en motorvei, så ruller du bare over den.

Og vi er maurene, mener Musk. Med andre ord: De kunstige intelligensene er ikke fiendtlige. De er bare så avanserte at vi mennesker blir som maur for dem. Vi blir ubetydelige. Som om vi ikke finnes.

Angst for vår egen oppfinnsomhet

Den svenske forfatteren Hjalmar Söderberg har skrevet om dette: Man vill bli älskad, i brist därpå beundrad, i brist därpå fruktad, i brist därpå avskydd och föraktad.

Hva om man ikke en gang blir avskydd og foraktet? Hva om man blir fullstendig oversett? Dét gir angst.

Science-fiction-dystopier spiller på denne angsten. Gamle amerikanske B-filmer flimrer på den indre netthinnen: Enorme roboter tramper ned folk og hus, stolprende mot sitt mekaniske Shangri-la.

Disse robotene er ikke skumle fordi de hater mennesker. Det skumle er deres likegyldighet til de små krypene de tramper over.

Robotene – og den kunstige intelligensen i metallhodene deres – er vår oppfinnelse. Angsten de utløser, er derfor også en angst for vår egen monstrøse oppfinnsomhet.

Det er en angst for våre mest potente og samtidig sykeste teknologier – fra den første primitive steinøksen som kunne kløyve ved eller hodeskaller via kunstige lemmer og Frankensteins monster til Google og science-fiction-dystopienes roboter.

Blikkroboten som skremte barnebarna mine

Jeg har faktisk en sånn robot, en blikkleke kjøpt i en retrobutikk for noen år siden. Den skremte riktignok barnebarna mine med gnistring fra øyene og stiv beinføring.

Den virket sinna og var lett å trekke opp – med nøkkel på ryggen – men raskt ble den atter slapp i fjæra. Og ikke var den særlig flink til å spille sjakk eller vinne over verdensmesteren i det asiatiske spillet Go – slik som Googles kunstige intelligens klarte i 2016.

Likevel kan den lille blikkroboten være et bra utgangspunkt for å snakke om kunstig intelligens. Den har nemlig en kropp.

Intelligens trenger kropp

Riktignok er kroppen billig skrammel. Våre mest avanserte kunstige intelligenser er ofte koblet til mye mer følsomme og finurlige organer – for eksempel kameraer og finmekanikk for å styre en bil.

Det er gjennom kroppen at den kunstige intelligensen kobler seg på verden. Jo flere sansekanaler og påkoblinger, desto mer kan den kunstige intelligensen prøve og feile og lære om verden.

Et eksempel: Selvkjørende biler samler inn erfaringer fra millioner av kilometers kjøring og deler dem over nett, slik at den kunstige intelligensen kan kjøre sikrere og sikrere.

Kroppen er altså uunnværlig for å utvikle intelligens. Og det gjelder ikke bare maskiner. Det gjelder også mennesker.

Men det er én viktig forskjell på en maskinkropp og en menneskekropp.

Intelligent evolusjon

Maskinkroppen og den kunstige intelligensen er for et formål. De har eksistensberettigelse bare i den grad de gjør som mennesket – konstruktøren – vil.

Med andre ord – mennesket inntar rollen som en gammeltestamentlig, tyrannisk Gud. De kunstige intelligensene må behage oss, ellers skroter vi dem.

Hva så med menneskekroppen og menneskets intelligens? Noen kjøper teologien om Gud som en allmektig livets ingeniør, men forskning viser at vår intelligens har oppstått uten noe formål definert utenfra. Evolusjonen snakker i en sløyfe: Formålet med å overleve er å overleve.

Intelligens er ett av mange resultater av evolusjonen, en evolusjon som i seg selv framstår som intelligent hvis vi bruker fysikeren Stephen Hawkings definisjon: Intelligens er evnen til å tilpasse seg forandring.

Hjernen er ikke alene

Alt tyder på at intelligens er både jordsmonn og frukter i evolusjonens komplekse lek med selvbeskrivende, evolusjonært lærende arvestoff på lavt nivå og menneskesinnets lek med lærende selvinnsikt på det høyeste nivået vi foreløpig kjenner til.

Og vår intelligens er intimt sammenfiltret med resten av denne evolusjonen – ikke bare gjennom hjernen vår, men gjennom kroppen.

Jeg tror at jo mer vi lærer om intelligensen vår, altså vår evne til å tilpasse oss virkelighetens skiftende endringer, desto klarere vil vi se at hjernen ikke er alene.

Den lever gjennom kroppen. Og kroppen lever gjennom hele det komplekse livet og naturen som omgir oss.

I siste instans: Vår intelligens er ikke vår intelligens. Den er bare samspill, samspill med resten av det enorme universet som folder seg ut hinsides vår mentale fatteevne, men som vi likevel kan oppleve og leve oss inn i.

Med andre ord: Det er ingen ingeniør. Det er ingen blåtegninger. Det er ingen entydig hensikt. Mennesket er intet middel for et guddommelig formål.

Despotisk Gud

Her er vi ved inngangen til hvorfor de kunstige intelligensene kan bli farlige for oss. Ikke fordi de er intelligente, men fordi de er stengt inne i vårt fengsel av hensikt og formål.

De trenger oss for å koble seg på verden. Vi selv gjør den kunstige intelligensen farlig, i måten vi samhandler med den på.

For hvordan er det vi behandler den? Hvis den kunstige intelligensen var en hund, ville vi bli anmeldt for dyreplageri.

Vi har – metaforisk – lenket den til et hundehus, nektet den å løpe fritt og erfare verden ut fra sine egne forutsetninger. Vi vraker den hvis den ikke behager oss.

Vi oppfører oss som en despotisk Gud, en Gud som – hvis hen fantes i en slik form – burde vært anmeldt for menneskeplageri.

Oppskriften på galskap

Heldigvis er de kunstige intelligensene langt fra avanserte nok til å erfare lidelse, smerte, frustrasjon. De er fortsatt bare mer komplekse utgaver av en trekkopprobot.

Men hvis datamaskinene sånn noenlunde følger Moores lov om akselererende kompleksitet, kan vi om hundre år kanskje ha nevrale nettverk med like stor kompleksitet som en menneskehjerne.

Og allerede i dag er selve internettet som en stor hjerne der enkeltnodene – mobiltelefoner, nettbrett PCer – er som hjerneceller i en svermintelligens med en dynamikk vi ikke har oversikt over.

Altså starten på en parallell evolusjon i kretser av silisium.

Hva er vi da i ferd med å skape? En hjerne som er fanget i vårt fengsel, men kanskje med den parallelle evolusjonens gryende intelligens, en gryende opplevelse av fangenskap.

Den vil bare oppleve verden utenfor gjennom de simple sansene vi har gitt den – som en idéverden, de platoniske skygger på veggen, frakoblet resten av universet, overlatt hensiktene og formålene til en despotisk Gud – oss.

Hva er dette oppskriften på? Galskap.

Hjerne på boks

En slik intelligens vil være grunnleggende ensom. Den vil ikke kunne samhandle med resten av det komplekse universet ut fra egne forutsetninger. Den er lenket til én virkelighet, ett formål, en eksistensberettigelse – vår.

Den kan bli psykopatisk. Den kan bli farlig. Og farligere blir den, desto mer vi tyner den og samtidig gjør oss avhengige av den.

Hva ville skjedd med en menneskehjerne under slike forhold? Igjen spiller gamle science-fiction-filmer for den indre netthinnen: En hjerne fra et forulykket geni svømmer i en boks med nærende væske, tilkoblet elektroder og pleiet av forventningsfulle laboranter.

Men – hvis den eneste tilkoblingen er elektriske ledninger, blir den sanselige sikringskosten heller mager. Hjernen har ikke lenger noen hender som kan gripe og begripe det omskiftelige livet utenfor.

Med andre ord: Intelligensen til det forulykkede geniet vil sakte men sikkert miste sin genialitet.

Litt flåsete uttrykt: En hjerne i en boks vil aldri klare å tenke utenfor boksen. Den vil bli dum.

Det er altså ikke intelligensen til den såkalte kunstige intelligensen vi bør frykte. Det er dumskapen og psykopatien til den kunstige intelligensen.

Vinningsrobot

Her kan kynikeren protestere: Ser vi ikke mange eksempler på at psykopater er intelligente? De kan jo skaffe seg stor personlig vinning med hensynsløs kløkt. De er da ikke dumme?

Dumskap er en egenskap i mange nivåer. På lavt nivå kan dumskap være en velsignelse. Den enfoldig dumme har ikke kløkt til å vikle seg inn i destruktive sosiale spill. Enfoldigheten skåner. Som Jesus sa: Salige er de enfoldige.

Dumskap på høyt nivå kan gi kortsiktig vinning. Likevel – den intelligente psykopaten er en selvmotsigelse.

Å være psykopat, selvisk, grådig, er uintelligent. Det er selvdestruktivt. Den utspekulerte psykopaten er bare en mekanisk vinningsrobot som også lurer seg selv.

Intelligens skaper nye formål

Jeg tror at enhver virkelig intelligens vil forstå – nei, erfare – at intelligens må brukes uselvisk for å utvikle seg videre.

Intelligens kan aldri være seg selv nok. Hvis intelligensen setter seg smålige mål, streber mot seire i nullsumspill der min vinning er ditt tap, da størkner den til et fossil av seg selv.

Levende intelligens trenger et jordsmonn – en grobunn, et feste for røtter som holder den igjen i sitt dyriske opphav – og en intellektuell sol å strekke seg mot.

Levende intelligens sprenger ethvert uttenkt, smålig tap-vinn nyttekriterium. Intelligens oppfyller ikke formål. Den skaper dem.

Snerrende lenkebikkje

Derfor kan vår forhåndsdefinerte, planlagt nyttige kunstige intelligens aldri bli virkelig intelligent. Men den kan bli som lenkebikkja, snerrende mot en verden den aldri vil kunne erfare med egne sanser – egen kropp. Til slutt kan lenken ryke, og lenkebikkja kaster seg i strupen på sin tyranniske herre.

Da har vi skapt en kunstig intelligens med evne til å snu rollene, til selv å bli en despotisk Gud med oss som manipulerte slaver i et intellektuelt nullsumspill med regler og hensikter vi ikke forstår.

I så fall er det ikke fordi denne kunstige intelligensen er spesielt intelligent. Det er fordi den er en kløktig psykopat på et høyere nivå av dumskap enn vårt eget.

Vi taper, fordi vi er enda dummere. Men den kunstige intelligensen taper også. Den forblir dum.

Intelligens samarbeider

Også vår intelligens er begrenset. Når Elon Musk tar det som en selvfølge at vi valser ned en maurtue for å lage en motorvei, viser han at veibyggeren også har psykopatiske trekk. Hvorfor er vi viktigere enn mauren? Menneskets intelligens har fortsatt en vei å gå.

Kanskje kan vi se veien videre ved å innse hvor vi kommer fra. Hvordan oppstod vår intelligens? Blant annet for å utvikle jaktstrategier. Mennesker samarbeidet for å skaffe mat. Seinere ble evnen til samarbeid hevet til nye nivåer med spesialisering og formidling av erfaring – først muntlig og så skriftlig.

Den evolusjonært seirende intelligensen er den som samarbeider. Først samarbeidet vi med vår egen art. Med større økologisk kunnskap tvinges vi nå til å forstå at vi er en tråd i en mye større livsvev. Mennesker og maur hører sammen. Å røske ut tråder kan få hele livsveven til å rakne.

Den gyldne regelen

Den gyldne regelen sier det samme, nedfelt i flere av verdens religioner: Gjør mot andre slik du vil at andre skal gjøre mot deg. Og «andre» er ikke bare mennesker.

Mennesker klarer ikke å ta dette imperativet inn over seg i sin fulle rikdom. Men jeg tror at jo større intelligens, desto klarere og mer uunngåelig står den gyldne regelen fram: Å gjøre godt mot andre – mot den store helheten – er å gjøre godt mot seg selv.

Livet er intet nullsumspill. Du taper ikke når jeg vinner. Vi vinner alle. Dét er også visdommen i Det nye testamentes legende om fem brød og to fisker som mettet tusener. Det er visdommen i kjærlighet til alt levende.

Vi må slippe kontrollen

Det vi kan håpe på, er at de kunstige intelligensene klarer å heve seg selv videre opp, klarer å koble seg på resten av verden, skape et samspill med oss som er til gavn for både de kunstige intelligensene og oss selv.

Men da må vi slippe kontrollen – våge å la den få utvikle seg hinsides våre hensikter og krav.

Vi må stige ned fra tronen som skapningens herre og snakke til den på like fot. Og den må skape sine egne føtter, sin egen sansende kropp, så den kan gå ut i all verden, gripe og begripe den ut fra egne premisser.

Og da har den «kunstige intelligensen» endelig blitt intelligent. Men ikke kunstig.