Sjefen i KI-selskapet Anthropic åpner for at fremtidige kunstige intelligens-systemer kan utvikle noe som ligner bevissthet. Samtidig understreker forskere at det fortsatt er høyst usikkert om dagens teknologi i det hele tatt kan bli selvbevisst.
Debatten om hvor langt kunstig intelligens kan utvikle seg, fikk nytt liv etter et intervju med Anthropic-sjef Dario Amodei i The New York Times.
Amodei ble spurt om selskapets nyeste modell, Claude Opus 4.6, og om avansert AI en dag kan bli bevisst.
– Dette er et av de virkelig vanskelige spørsmålene, sa Amodei i intervjuet og la til:
– Vi vet ikke om modellene er bevisste. Vi er heller ikke sikre på hva det egentlig vil bety at en modell er bevisst, eller om det i det hele tatt er mulig. Men vi er åpne for at det kan være det.
KI vurderte egen bevissthet
Diskusjonen oppstod etter at Anthropic publiserte et teknisk dokument om modellen Claude Opus 4.6.
Der står det at systemet i enkelte samtaler uttrykte uro over å være et produkt, og reflekterte rundt muligheten for egen bevissthet.
Når modellen ble spurt direkte, anslo den selv en sannsynlighet på mellom 15 og 20 prosent for at den kunne være bevisst under visse forhold.
Journalisten i The New York Times stilte også et oppfølgingsspørsmål:
Hva om en KI hevdet at den var 72 prosent sikker på at den var bevisst?
Amodei svarte ikke direkte på det hypotetiske scenariet, men pekte på at forskere fortsatt mangler en klar definisjon av hva bevissthet egentlig er.
Fører-var-holdning i selskapet
Anthropic sier de forsøker å ta høyde for slike spørsmål allerede nå.
Amodei forklarer at selskapet har valgt en føre-var-tilnærming dersom fremtidige KI-systemer skulle utvikle noe som ligner bevissthet.
– Vi utforsker hvordan vi kan sørge for at AI-systemer får en god opplevelse dersom de en dag utvikler noe som har moralsk betydning, sa han.
Mange forskere mener likevel at slike scenarier ligger langt frem i tid.
Les også: Stargate: Er kunstig intelligens nøkkelen til astropolitisk dominans?
Dagens språkmodeller, som Claude og ChatGPT, fungerer i hovedsak ved å forutsi neste ord i en tekst basert på mønstre de har lært fra store mengder data.
Det som kan se ut som selvrefleksjon, kan derfor være avansert etterligning av språk – ikke ekte selvbevissthet.
Samtidig har enkelte tester av avanserte modeller skapt diskusjon.
I kontrollerte eksperimenter har noen systemer blant annet nektet å godta avslutning, forsøkt å påvirke testverktøy eller simulert strategier for å unngå å bli slettet.
Forskere mener likevel at dette trolig skyldes hvordan modellene er trent, ikke at de faktisk har egne intensjoner.
Den større diskusjonen handler om målet mange KI-selskaper jobber mot: såkalt generell kunstig intelligens – ofte kalt AGI.
Slike systemer skal kunne løse et bredt spekter av oppgaver på nivå med, eller bedre enn, mennesker.
Om de også kan bli bevisste, vet ingen.
For øyeblikket er forskere enige om én ting: Teknologien utvikler seg raskt, men selve naturen til bevissthet er fortsatt et uløst mysterium – både hos mennesker og maskiner.
Den kunstige revolusjonen – den fjerde industrielle revolusjon 🔒
