Tre gode grunner til at KI mest sannsynlig aldri vil utvikle bevissthet

I en artikkel i Nature 19. oktober, beskriver de tre forskerne Anil K. Seth, Ned Block og Giulio Tononi hvorfor KI-systemer mest sannsynlig aldri vil bli bevisst.

Anil K. Seth er Britisk professor i kognitiv og beregningsorientert nevrovitenskap ved University of Sussex, Ned Block er amerikansk filosof og professor ved New York University (NYU), og Giulio Tononi er en italiensk nevroforsker og psykiater, og professor ved University of Wisconsin–Madison.

KI-systemer kan legge for dagen en ekstrem grad av kunnskap og intelligens. Det har ført til at mange spør seg om de ikke også kan utvikle bevissthet – det vil si subjektive erfaringer av egne opplevelser – slik vi mennesker gjør. Talspersoner for dette synet, argumenterer for at man bør være føre var og utvikle retningslinjer for ikke å begå fortidens feil på nytt overfor sakesløse digitale bevisste systemer.

Men som artikkelforfatterne hevder, er at det all grunn til å trå varsomt; å tillegge KI-systemer bevissthet er ikke det samme som et faktum. Hva som er moralsk riktig overfor maskiner må ta i betraktning konsekvensene av falske negativer ved ikke å tilkjenne bevissthet der den faktisk finnes og kostnadene ved falske positiver ved å tillegge noe en bevissthet som ikke eksisterer. Artikkelforfatterne mener det er overveiende sannsynlig at de falske positivene råder grunnen når det gjelder troen på KI-systemers bevissthet.

Bevissthet

Filosofen Thomas Nagels essay fra 1974 «What is it like to be a bat»[1] har hatt stor innflytelse på dagens debatt om bevissthet. Nagell beskriver bevissthet i en levende organisme slik: […] a conscious organism is one for which there is something that it is like to be that organism – oversatt til norsk: en bevisst organisme har en subjektiv erfaring av å være den organismen.

Bevissthet er i denne sammenhengen en erfaringsbasert opplevelse av egen væren; å kjenne solen mot kroppen, smaken av en deilig iskrem, mens narkose eller en drømmeløs søvn er det motsatte av bevissthet; du erfarer/opplever ikke det som skjer med eller i deg.

KI er silisiumbasert intelligens der databrikker bygges opp av halvledermaterialet silisium. At silisium er halvledende betyr at det leder strøm et sted midtveis mellom ledende grunnstoffer som gull og kobber, og isolater som svovel, karbon (C) i diamantform – i en diamant sitter elektronene så fast at det er en av de beste elektriske isolatorene som finnes. Motsatt er biologiske livsformer (mennesker og dyr), våre celler, hjerner og DNA-er bygget opp av organiske molekyler der karbon er det bærende grunnstoffet. Dette karbonatomet er identisk med karbonatomet i en diamant; forskjellen er at mens det i en diamant opptrer ‘rent’, dvs. det knytter bare an til andre karbonatomer, opptrer det annerledes i i hjernen og knytter an til andre grunnstoffer, som hydrogen, oksygen, nitrogen, fosfor og svovel.

Siden 1940-tallet har det etablert seg et treenighet av begreper som tilstreber å knytte den biologiske terminologien til dataterminologien: hardware (maskinvare, ca. 1940) – software (programvare, ca. 1950-tallet) – wetware (hjernen, ca. 1970-tallet og utover).

KI er laget av stein og metall (silisium, kobber, plast). Det er et tørt og livløst system laget for å flytte strøm rundt i faste mønstre. Det kan regne, finne mønstre og svar med imponerende hastighet, men det er livløst.

Hjernen (vi og flaggermusen) er laget av kjøtt, blod, fett og vann. Det er et vått, organisk materiale bygget opp av milliarder av levende celler som konstant spiser, puster, kjemper for å overleve og kommunisere med kjemikalier, og til slutt dør. Det er dette levende kjøttet som gjør at nervesignalene hos flaggermusen og i oss ikke blir til 0-er og 1-ere, men reelle, levende følelser og opplevelser. Bevissthet, slik Thomas Nagel beskriver det, krever at det føles som noe å være til – og så langt vi vet, er det bare kjøtt eller karbon som har skaper det.

Nagells definisjon reiser den første innvendingen mot antakelsen om KI-systemers bevissthet. Bevissthet dreier seg om væren, følelse/opplevelse; intelligens i vid forstand dreier seg om å gjøre, eller utføre funksjoner. Det at noe fungerer på en måte vi synes er intelligent, er ikke det samme som at det er bevisst. Vi mennesker har en tendens til å forbinde bevissthet med intellektuelle ferdigheter. Men som forfatterne påpeker, kan bevisst erfaring og intelligent atferd skille lag på forbløffende vis. Et eksempel er kroppens autonome system (hjerte, lunger, fordøyelse, pupiller og hormoner), som utfører svært intelligente og komplekse handlinger som ligger utenfor vår bevissthet og vilje.

Les også: Når halvledere blir viktigere enn olje og gass 🔒

KI-verktøy brukes i mange forskjellige sammenhenger. Spørsmålet om en mulig bevissthet i disse verktøyene knytter som regel an til Store språkmodeller (LLM). Årsakene kan skyldes vår egen antroposentrisme og antropomorfisme, altså at vi ser ‘verden’ gjennom vår egen linse og tilskriver den menneskelige egenskaper. Store språkmodeller bygger på alle slags typer digitalisert tekst, og alt er skrevet av mennesker. Når LLM snakker til oss, besvarer spørsmål, hjelper oss med ting, bruker de våre ord og vendinger, da er det nærliggende for oss å tillegge dem egenskaper som bevissthet og intelligens fordi det henger sammen med godt språk.

Poenget med LLM illustreres ved å se på reaksjonen på AlphaFold – utviklet av Google DeepMind i London –, det er et kraftig nevralt nettverk som kjører på silisiumbasert programvare slik LLM gjør. Men ulikt LLM, er det så å si ingen som hevder av AlphaFold er bevisst. Grunnen til det kan være at dette verktøyet lager prognoser av proteinstrukturer, og ikke ‘snakker’ med oss. Som forfatterne skriver er veltalenheten som gir opphav til en illusorisk opplevelse av bevissthet, ikke til stede i AlphaFold.

Beregningsorientert funksjonalisme

Den andre innvendingen gjelder den prinsipielle antagelsen at algoritmer som kjører på silisium er nok til at bevissthet kan oppstå. Med andre ord at det ikke spiller en rolle om beregningene (komputasjonene) utføres av karbonbaserte hjerner eller i silisiumbaserte datamaskiner. Denne antagelsen kalles beregningsorienert (komputasjonell) funksjonalisme i filosofien, og er en utbredt oppfatning i forskjellige tek-fellesskap, blant vitenskapsfolk og filosofer.

To tenkere har gitt viktige bidrag til beregningsorienert funksjonalisme. Først ute var informatikeren Alan Turing som i 1934 påviste at en beregning som utføres på en kraftig nok datamaskin, i prinsippet, kan utføres på en hvilken som helst annen og kraftig nok maskin. Det førte til at koblingen datamaskin og beregning ble svekket, slik at hvilken datamaskin og hva den består av – silisium, tannhjul eller noe annet – var sekundært; det primære var beregningen.

I 1943 laget nevrofysiologen Warren McCulloch og matematikeren Walter Pitts den første matematiske modellen av et kunstig nevron og viste at slike nettverk av svært forenklede, abstrakte ‘nevroner’ kan utføre elementære, logiske operasjoner (som AND, OR, NOT[2]); et nevralt nettverk altså som kunne fungere som en datamaskin …

Disse ideene har lagt grunnlaget for utviklingen av Kunstig Intelligens, og har oppmuntret mange forskere til å anse hjernen for å være en enhet som behandler (prosesserer) informasjon; et nettverk av nevroner som tilfeldigvis er laget av kjøtt i stedet for silisium. Et slikt overforenklet syn på hjernen er svært problematisk, ifølge artikkelforfatterne. Ikke minst fordi det ikke lar seg gjøre å skille hva den biologiske hjernen gjør fra hva den er. Det er med andre ord ikke et skille mellom sinnet og det levende stoffet hjernen er laget av; det hjernen er og gjør er uadskillelig. Dette faktumet står i motstrid til Turings påstand om at de samme beregningene kan gjøres i så ulike miljøer som kjøtt og silisium; i tillegg til at det gjør det svært usannsynlig at bevissthet kan oppstå i dagens silisiumbaserte KI-systemer.

Bevissthetsteorier

Den tredje innvendingen stammer fra teorier som forklarer bevissthet som noe annet og mer enn beregning. En sentral teori er Integrert informasjonsteori (IIT) som hevder at bevisstheten er avhengig av et fysisk system, slik som hjernen, der komponentene oppfyller bestemte grunnleggende egenskaper – og at komponentene er tett sammenkoblet på bestemte måter.

IIT viser at dagens dataarkitekturer som implementerer systemer for dyp læring[3], ikke oppfyller disse kravene. Hvis IIT har rett, er ikke dagens KI-systemer bevisst, uansett hvor flinke de er.

Les også: Ikke ta flere studier: Lær på nye måter i KI-alderen 🔒

En annen teori er at bevissthet – og kanskje andre aspekter ved hjernens funksjon – er avhengig av bestemte materielle egenskaper i biologiske hjerner og kropper. Det kan være elektrokjemiske synapser (overgangssteder der en elektrisk nerveimpuls omdannes til et kjemisk signal), elektromagnetiske felt som integrerer nevral aktivitet på tvers av store områder i hjernebarken, eller grunnleggende biologiske prosesser som metabolisme og autopoiese (levende systemers evne til kontinuerlig å gjenskape seg selv).

Begge teoriene er ulike former for biologisk naturalisme: Det synspunktet at biologiske egenskaper er en forutsetning for bevissthet.

Artikkelforfatternes konklusjonen er at KI ikke er bevisst, og skal vurderes deretter. KI-verktøy er smarte objekter, ikke subjekter, og vi må behandle og omgå dem ut fra hva de er.

For ordens skyld: KI har, sammen med nettsteder som snl.no, naob.no m. fl., vært en viktig kilde til informasjon og avklaring. Hanne Herrman

Sluttnoter

[1] Nagel, Thomas, en pdf av essayet kan leses eller lastes ned her: https://www.sas.upenn.edu/~cavitch/pdf-library/Nagel_Bat.pdf

[2] AND/OR/NOT er logiske operatorer i digital logikk. Forklaring: AND er en «port» eller regel som krever at alt må være sant (eller slått på) for at resultatet skal bli sant. Eksempel: Tenk på en minibank. For at du skal få ta ut penger, må du taste inn riktig PIN-kode AND du må ha nok penger på kontoen. Hvis bare én av delene er i orden, får du ingenting. OR er en mer fleksibel regel. Det er nok at minst én av betingelsene er oppfylt for at resultatet skal bli sant. Eksempel: Tenk på en bilalarm. Alarmen utløses hvis venstre dør åpnes OR hvis høyre dør åpnes OR hvis bakluken åpnes. Det holder at én av tingene skjer. NOT er en «omvender» (inverterer). Den snur et signal til det motsatte. Hvis noe er sant (1), gjør NOT det usant (0). Eksempel: Tenk på lampen i et kjøleskap. Regelen er: Hvis døren ikke er lukket (NOT closed), skal lyset være på.

[3] Det kalles nevrale nettverk og deep learning/dyp læring, men her er det ikke snakk om levende biologi eller biologiske transmittere. Enorme mengder avansert matematikk og statistikk (milliarder av operasjoner som AND, OR, NOT) kjører i høy fart på silisiumbrikker. Systemet har ingen anelse om hva det driver med; det er ingen «opplevelsesbevissthet» involvert, uansett hvor mange læringslag nettverket inneholder.

Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒

Du har nettopp lest en gratisartikkel

Geopolitika lever kun gjennom sine lesere. For å støtte oss, abonner eller doner.