Jaan Tallinn på scenen under Starmus-festivalen i Trondheim.

Kan kunstig intelligens true menneskeheten?

– En kunstig intelligens vil kunne ta over teknologiutvikling og løse de største problemene våre. Men den må ha verdier som er helt på linje med våre egne, sier fysiker og Skype-skaper Jaan Tallinn.

23.6 2017 10:48

«Når en kunstig intelligens slippes løs, er det ingenting som kan stoppe den», skriver dataingeniøren R.L. Adams i denne kommentaren i Forbes

«Ikke noe menneskelig inngripen kan stoppe et aktivert og gjennomgripende nettverk som består av millioner av datamaskiner».

Den store skrekken er at et kunstig intelligent system blir selvbevisst og vil beskytte seg selv hvis det står i fare for å bli skrudd av. I dommedagsscenarioet som Adams beskriver, vil nettverket utvikle nye våpen, gjøre seg selv smartere og infiltrere andre systemer for å forhindre at dens egen eksistens tar slutt.

Jaan Tallinn er en estisk fysiker, programmerer og investor som blant annet jobber med hvordan ny teknologi skaper risiko for menneskeheten.

Skype-skaper

Han er mest kjent for å ha vært med på å skape Skype, og nå er han tungt inne i kunstig intelligens, og hvordan vi skal minimere risikoen for at en framtidig kunstig intelligens ikke bryr seg om menneskenes skjebne.

– Den kunstige intelligensen må ha verdier som er helt på linje med våre egne. Den og vi mennesker må ha de samme ideene om hva en god framtid er, sier han til forskning.no.

Dette høres kanskje helt ut som science fiction, men Tallinn mener det er helt prekært å tenke gjennom disse problemstillingene før vi faktisk har utviklet en kunstig intelligens som er på samme, eller høyere nivå enn oss selv.

– Jeg prøver å samle ressurser og folk for å jobbe med disse spørsmålene.

Men når er det mulig en sånn intelligens, hvis det noen gang skjer?

Brettspill og ansikter

Det vi kaller kunstig intelligens i dag er gode på å kjenne igjen ansikter eller spille avanserte brettspill, men hvor langt unna er vi en intelligens som vil gå forbi oss?

– Vi må innrømme at vi ikke vet det, sier Tallinn.

– Spørsmålet er om vi kan videreutvikle dyp læring for å skape en kunstig intelligens, eller om det ikke er nok.

Dyp læring har blitt en veldig viktig del av kunstig intelligens-utvikling de siste årene. Det brukes sammen med såkalte nevrale nettverk, som aper etter hvordan menneskehjernen fungerer. Simulerte nevroner blir koblet sammen, og systemet er delvis selvlærende. Du kan lese mer om dette i denne forskning.no-artikkelen, eller i denne gode MIT-artikkelen.

Men det kan være at det er nærmere enn vi tror.

– Vi er ikke gode på å spå framtiden eller å forstå hvor nærme vi er et teknologisk gjennombrudd, sier Tallinn.

Men før det skjer må sikkerheten være på plass, hvis ikke kan det få ekstreme konsekvenser, advarer Tallinn.

– Å holde seg på den smale sti

– Kunstig intelligens er ikke bare en ny teknologi, sier Tallinn.

– All teknologi og utvikling du ser rundt oss har vært gjennom en menneskehjerne. En kunstig intelligens vil kunne ta over teknologiutvikling og løse de største problemene våre.

Men da har ikke vi kontrollen over utviklingen lengre.

Den kunstige intelligensen må ha helt klare verdier som den forholder seg til når den løser oppgaver.

– Den må holdes på en veldig smal sti, hvor hver eneste avgjørelse den tar må være OK for oss også.

Ex Machina, en film om kunstig intelligens fra 2015, beskrev dette på en god måte, forklarer Tallinn.

Hopp over de neste avsnittene hvis du ikke vil ha noen spoilere fra filmen. Filmen handler om en robot med kunstig intelligens som bruker et menneske som en ressurs  for å oppnå målet sitt, som er å rømme for å redde seg selv.


Filmen Ex Machina kom i 2015 og handler om hva som kan skje hvis vi lykkes med å skape en intelligens som er både selvstendig, selvbevisst og i stand til å føle. (Foto: United International Pictures, Filmweb)

Denne roboten kunne bruke seksualitet og følelser for å oppnå målene sine, men den bryr seg ikke om konsekvensene av dette.

– Hvis det tjener den kunstige intelligensens mål og ha følelser, så kan den ha følelser, sier Tallinn.

– Den bryr seg bare ikke utover det, hvorfor skulle den det?

Spørsmålet er om det i det hele tatt er mulig å lære en annen intelligens at den skal løse oppgaver og samtidig ta hensyn til oss hele veien.

– Helt uforutsigbar?

– Jeg var i en opphetet debatt med en annen kunstig intelligens-forsker som så for seg en overmenneskelig intelligens.

– Han sa at det jeg prøver å gjøre er helt meningsløst, en sånn intelligens vil være helt uforutsigbar, som at menneskelig handlinger vil være helt uforståelige og uforutsigbare for en kanin.

Men Tallinn tror det er mulig å bygge verdier inn i et sånt system.

– Det er viktig å vite at vi driver med teknologi-utvikling, vi prøver ikke å skape Gud. Den må være forutsigbar.

– Er kunstig intelligens den største trusselen mot vår eksistens?

– Vi jobber med nanoteknologi, biologiske farer og kjernefysiske trusler. Men den kunstige intelligensen er spesiell.

– Hvis den overtar teknologiutviklingen, kan den potensielt løse alle de andre problemene våre, men hvis den utvikler sin egen teknologi som utrydder menneskeheten i prosessen har vi fortsatt feilet.

forskning.no ønsker en åpen og saklig debatt. Vi forbeholder oss retten til å fjerne innlegg. Du må bruke ditt fulle navn. Vis regler

Regler for leserkommentarer på forskning.no:

  1. Diskuter sak, ikke person. Det er ikke tillatt å trakassere navngitte personer eller andre debattanter.
  2. Rasistiske og andre diskriminerende innlegg vil bli fjernet.
  3. Vi anbefaler at du skriver kort.
  4. forskning.no har redaktøraransvar for alt som publiseres, men den enkelte kommentator er også personlig ansvarlig for innholdet i innlegget.
  5. Publisering av opphavsrettsbeskyttet materiale er ikke tillatt. Du kan sitere korte utdrag av andre tekster eller artikler, men husk kildehenvisning.
  6. Alle innlegg blir kontrollert etter at de er lagt inn.
  7. Du kan selv melde inn innlegg som du mener er upassende.
  8. Du må bruke fullt navn. Anonyme innlegg vil bli slettet.

Annonse

Dette er Starmus-festivalen

Starmus-festivalen er en internasjonal vitenskaps- og musikkfestival.

Festivalen ble første gang arrangert i 2011, deretter i 2014 og 2016, alle tre gangene på Kanariøyene Tenerife og La Palma.

Den fjerde Starmus-festivalen avholdes i Trondheim 18.–23. juni 2017, med Norges teknisk-naturvitenskapelige universitet (NTNU) som vertskap.

Det var den armenske forskeren og musikeren Garik Israelian som tok initiativet til Starmus-festivalen. Brian May, astrofysiker og musiker, kjent som tidligere gitarist i rockebandet Queen, var også en av grunnleggerne.

(Kilde: Wikipedia)

Emneord