«Når en kunstig intelligens slippes løs, er det ingenting som kan stoppe den», skriver dataingeniøren R.L. Adams i denne kommentaren i Forbes.

«Ikke noe menneskelig inngripen kan stoppe et aktivert og gjennomgripende nettverk som består av millioner av datamaskiner».

Den store skrekken er at et kunstig intelligent system blir selvbevisst og vil beskytte seg selv hvis det står i fare for å bli skrudd av. I dommedagsscenarioet som Adams beskriver, vil nettverket utvikle nye våpen, gjøre seg selv smartere og infiltrere andre systemer for å forhindre at dens egen eksistens tar slutt.

Jaan Tallinn er en estisk fysiker, programmerer og investor som blant annet jobber med hvordan ny teknologi skaper risiko for menneskeheten.

Skype-skaper

Han er mest kjent for å ha vært med på å skape Skype, og nå er han tungt inne i kunstig intelligens, og hvordan vi skal minimere risikoen for at en framtidig kunstig intelligens ikke bryr seg om menneskenes skjebne.

– Den kunstige intelligensen må ha verdier som er helt på linje med våre egne. Den og vi mennesker må ha de samme ideene om hva en god framtid er, sier han til forskning.no.

Dette høres kanskje helt ut som science fiction, men Tallinn mener det er helt prekært å tenke gjennom disse problemstillingene før vi faktisk har utviklet en kunstig intelligens som er på samme, eller høyere nivå enn oss selv.

– Jeg prøver å samle ressurser og folk for å jobbe med disse spørsmålene.

Men når er det mulig en sånn intelligens, hvis det noen gang skjer?

Brettspill og ansikter

Det vi kaller kunstig intelligens i dag er gode på å kjenne igjen ansikter eller spille avanserte brettspill, men hvor langt unna er vi en intelligens som vil gå forbi oss?

– Vi må innrømme at vi ikke vet det, sier Tallinn.

– Spørsmålet er om vi kan videreutvikle dyp læring for å skape en kunstig intelligens, eller om det ikke er nok.

Dyp læring har blitt en veldig viktig del av kunstig intelligens-utvikling de siste årene. Det brukes sammen med såkalte nevrale nettverk, som aper etter hvordan menneskehjernen fungerer. Simulerte nevroner blir koblet sammen, og systemet er delvis selvlærende. Du kan lese mer om dette i denne forskning.no-artikkelen, eller i denne gode MIT-artikkelen.

Men det kan være at det er nærmere enn vi tror.

– Vi er ikke gode på å spå framtiden eller å forstå hvor nærme vi er et teknologisk gjennombrudd, sier Tallinn.

Men før det skjer må sikkerheten være på plass, hvis ikke kan det få ekstreme konsekvenser, advarer Tallinn.

– Å holde seg på den smale sti

– Kunstig intelligens er ikke bare en ny teknologi, sier Tallinn.

– All teknologi og utvikling du ser rundt oss har vært gjennom en menneskehjerne. En kunstig intelligens vil kunne ta over teknologiutvikling og løse de største problemene våre.

Men da har ikke vi kontrollen over utviklingen lengre.

Den kunstige intelligensen må ha helt klare verdier som den forholder seg til når den løser oppgaver.

– Den må holdes på en veldig smal sti, hvor hver eneste avgjørelse den tar må være OK for oss også.

Ex Machina, en film om kunstig intelligens fra 2015, beskrev dette på en god måte, forklarer Tallinn.

Hopp over de neste avsnittene hvis du ikke vil ha noen spoilere fra filmen. Filmen handler om en robot med kunstig intelligens som bruker et menneske som en ressurs for å oppnå målet sitt, som er å rømme for å redde seg selv.

Denne roboten kunne bruke seksualitet og følelser for å oppnå målene sine, men den bryr seg ikke om konsekvensene av dette.

– Hvis det tjener den kunstige intelligensens mål og ha følelser, så kan den ha følelser, sier Tallinn.

– Den bryr seg bare ikke utover det, hvorfor skulle den det?

Spørsmålet er om det i det hele tatt er mulig å lære en annen intelligens at den skal løse oppgaver og samtidig ta hensyn til oss hele veien.

– Helt uforutsigbar?

– Jeg var i en opphetet debatt med en annen kunstig intelligens-forsker som så for seg en overmenneskelig intelligens.

– Han sa at det jeg prøver å gjøre er helt meningsløst, en sånn intelligens vil være helt uforutsigbar, som at menneskelig handlinger vil være helt uforståelige og uforutsigbare for en kanin.

Men Tallinn tror det er mulig å bygge verdier inn i et sånt system.

– Det er viktig å vite at vi driver med teknologi-utvikling, vi prøver ikke å skape Gud. Den må være forutsigbar.

– Er kunstig intelligens den største trusselen mot vår eksistens?

– Vi jobber med nanoteknologi, biologiske farer og kjernefysiske trusler. Men den kunstige intelligensen er spesiell.

– Hvis den overtar teknologiutviklingen, kan den potensielt løse alle de andre problemene våre, men hvis den utvikler sin egen teknologi som utrydder menneskeheten i prosessen har vi fortsatt feilet.