Troværdig podcast: En af skaberne af kunstig intelligens frygter, at den vil tage kontrollen

PODCAST: Den britiske professor Geoffrey Hinton, som er anerkendt som en af de førende skikkelser inden for kunstig intelligens (AI), udtrykker i en ny podcast bekymring for, hvad han kalder "den sorte boks" inden for kunstig intelligens. Han frygter, at AI's neurale netværker kan ende med at overtage kontrollen.

At det lige netop er Geoffrey Hinton, der i dag advarer mod, at selv verdens dygtigste og mest vidende computerforskere endnu slet ikke forstår, hvordan den kunstige intelligens sort boks fungerer, er ikke så lidt af et paradoks.

For ikke alene står den i dag 75-årige Geoffrey Hinton, kendt som ’Gudfaderen til kunstig intelligens’ bag de største og vigtigste af de opdagelser, der har ført til, at kunstig intelligens i dag har potentiale til at revolutionere ikke kun den medicinske verden, men også livet på hele kloden på godt og ondt.

For godt 50 år siden satte Geoffrey Hinton sig for at ville forstå, hvordan den menneskelige hjernes såkaldte sorte boks fungerer.

"Jeg kunne ikke forstå, at ingen vidste, hvordan neuronerne fungerede med hinanden, når vi føler og tænker, og jeg besluttede, at det ville jeg finde ud af,” forklarer Hinton, der som led i sit opklaringsarbejde lavede en kunstig hjerne, hvilket igen førte ham frem til skabelsen af grundlaget for nogle af de vigtigste elementer for den kunstige intelligens.

Men hverken frembringelsen af den kunstige hjerne eller skabelsen af den senere AI har givet Hinton de redskaber til at forstå den menneskelige hjernes sorte boks, som han drømte om. I stedet står han nu i dag og en menneskealder senere med ikke kun én, men hele to forskellige sorte bokses neurale netværker, som hverken han eller nogen andre ved, hvordan fungerer. Heller ikke AI-platformene kan besvare spørgsmålet. Og den kunstige sorte boks, hans personlige livsværk, som skulle have afsløret hjernens hemmeligheder, anser han i stedet som farlig for menneskeheden.

Det fortæller Geoffrey Hinton i den britiske avis, The Guardians, umådeligt interessante og meget vigtige podcastserie ´The Black Box´ til avisens videnskabelige medarbejder Michael Safi. Han har arbejdet et halvt år på serien, hvori han blandt andet ønsker at finde ud af, hvorvidt Geoffrey Hintons bekymringer over vores manglende indsigter i de kunstige sorte bokse vitterlig kan betyde, at AI måske er i stand til at tage magten fra os og vælte os ind i en helt ny verden.

At forestille sig, at ens computer kan inspirere til helt nye tanker eller afsløre perspektiver, vi normalt ikke ser, kan virke fascinerende. Forestillingen om, at den samme computer kan manipulere os ved at tænke selvstændigt eller udvikle ukontrollable kræfter, mens vi blot søger information hjemme i sofaen, kan dog virke som overdrevet skræmmepropaganda.

Men det er reelle bekymringer ifølge AI-pioneren Geoffrey Hinton, der sidste år sagde sit job op i protest hos Google, som ejer den store globale platform for kunstig intelligens, Gemini. Selv har han gennem de seneste år ikke kun været med til at udvikle Gemini, men også den meget anvendte platform, ChatGPT.

I dag har Hinton fortrudt sin deltagelse i udviklingen af den kunstige intelligens og bruger sin tid på at advare mod den og opfordre til, at man tager den manglende viden om, hvordan AI’s kunstige neurale netværker kommunikerer med hinanden meget alvorligt.

”Der er risiko for, at den kunstige intelligens tager magten fra os,” advarer Hinton, hvis kritiske refleksioner i programmet uforbeholdent bakkes op af en række internationale kolleger og anerkendte eksperter i kunstig intelligens.

Geoffrey Hinton har tydeligvis været besat af den menneskelige hjernes neurale netværker, siden han var helt ung, og den dygtige og meget vidende interviewer, Michael Safis samtale med Hinton er både velstruktureret og elementært spændende fra ende til anden.  Så har man ikke tidligere haft mulighed for at forstå den kunstige intelligens væsen, så er ´Black Box´ en oplagt chance.

Vi hører, hvordan Geoffrey Hintons tilbage i 1972 blev passioneret optaget af det neurale netværk, hvordan ingen troede på ham, hvordan ingen ville give ham jobs, og hvordan hans videnskabelige kolleger fandt hans oprindelige arbejder med at skabe en kunstig hjerne med kunstige neurale netværk og evner til at lære helt skøre, urealistiske og spild af tid. Lige indtil han i Californien knap 10 år senere mødte ligesindede forskere, og hans forskning og eksperimenter herefter begyndte at tage form.

I de følgende godt 25 år arbejdede Hinton med at udvikle de kunstige neurale netværk, effektive algoritmer og teknologiske metoder til dyb læring. I 2012 begyndte de helt afgørende resultater af hans mangeårige arbejde at vise sig, og den økonomisk støtte i form af de verdensomspændende mediegiganters  milliardinvesteringer derfor at strømme ind. Og Hinton fik nu sine sidste store teknologiske gennembrud, som betyder, at AI lige nu stormer frem i hele verden og er i færd med at revolutionere ikke kun sundhedsvæsnerne, men også  blandt andet undervisningssektoren, den finansielle sektor, universitetsverden, fremstillingsindustrierne, detailhandlen og transportindustrien.

Men sammen med successernes sødme kom i stigende grad også bekymringer og etiske og moralske anfægtelser for Hinton. For han, der tidligere primært så den kunstige intelligens forbundet med fremskridt for eksempelvis de globale sundhedsvæsner i form af blandt andet større kvalitet i diagnostik, styrket forebyggelse og mere personlige behandlingsplaner, begyndte i stedet at se problemer.

Og i takt med, at for eksempel Google og Microsoft startede med at investere og konkurrere  og derfor blive mindre forsigtige, steg hans bekymringer for risici for patienter i kraft af AI’ s mulige mangel på databeskyttelse, fejl i behandlinger, risiko for bias i algoritmer og flydende ansvar for patientskader – og altså også for, om muligt, endnu større risici for det globale samfund som sådan.  

´The Black Box, The Connectionists´ er god, og podcastens forskellige ekspertinterviews viser med stor troværdighed, at AI er et komplekst problem. På den ene side vil AI givetvis medvirke til nye positive effektiviseringer og landvindinger, men podcasten tegner også et klart billede af store potentielle bivirkninger.

Nogle skadevirkninger vil være kendte; mens andre, ifølge programmet, vil udvikle sig hen ad vejen og først dukke op senere. Men uanset dette argumenterer podcasten og Geoffrey Hinton overbevisende for, at AI’s potentielle risici bør adresseres og tages hånd om. Dette bør ske så tidligt som muligt for at sikre, at AI anvendes ansvarligt. Den bør ikke blot blindt og ubegrænset tages i brug de steder, hvor den ud fra rent overfladiske betragtninger vil kunne gøre nytte. Især ikke uden at overveje de store skadevirkninger, som Geoffrey Hinton frygter så stærkt. Han sammenligner i dag sig selv og sit arbejde med videnskabsmanden Jay Robert Oppenheimer og dennes opfindelse af atombomben.

´The Black Box, The Connectionists´ er den første episode af The Guardians serie om AI og kan høres her