Harvard-historikeren Jill Lepore mener kunstig intelligens og datadrevet politikk er i ferd med å svekke den liberale nasjonalstaten.
Kortversjonen
- Jill Lepore advarer om at kunstig intelligens, datainnsamling og private teknologiselskaper er i ferd med å svekke den liberale nasjonalstaten.
- Hun sier offentligheten privatiseres og offentlig samtale blir drevet av plattformselskapers kommersielle mål, ikke demokratisk deliberasjon.
- Hun advarer at KI kan skrive og målrette kampanjebudskap, og at valg kan utvikle seg til «KI mot KI».
I et intervju med The Verge peker hun på hvordan offentligheten privatiseres, menneskelig dømmekraft erstattes av måling, og demokratiet presses av systemer som gjør borgere til datapunkter.
Harvard-professor og New Yorker-skribent Jill Lepore advarer mot det hun kaller «den kunstige staten».
I et intervju med The Verge-podkasten Decoder snakker Lepore om sin nye bok The Rise and Fall of the Artificial State, som kommer ut i august. Boken handler om hvordan måling, datainnsamling, kunstig intelligens og private teknologiselskaper endrer forholdet mellom borgere, politikk og stat.
Lepore beskriver den kunstige staten som en etterfølger til den liberale nasjonalstaten. I hennes analyse er stadig flere av statens funksjoner overtatt av private, multinasjonale selskaper.
Det tydeligste eksemplet er den digitale offentligheten, der borgere får informasjon, diskuterer politikk og utøver demokratiske rettigheter.
Hun mener problemet ikke bare er teknologi, men makt.
Når den offentlige samtalen eies av plattformselskaper, blir målet ikke lenger fri meningsutveksling eller demokratisk deliberasjon, men kommersialisering av oppmerksomhet og sinne.
Fra samtale til datamining
Lepore trekker linjen tilbake til moderne meningsmålinger på 1930-tallet. Politikk som tidligere krevde fysisk tilstedeværelse, samtaler og lokalt organisasjonsarbeid, ble gradvis erstattet av målinger, datainnsamling og analyse.
Hun mener dermed at noe av det hun kaller «det sivile limet» i demokratiet forsvant.
Les også: Stanford-forsker lanserer ny politisk modell mellom teknologi og økologi
– Å erstatte samtalen under gatelykten med å bare hente ut data, er en langt mer kunstig politikk enn den vi hadde før, sier Lepore.
Med kunstig intelligens blir utviklingen mer dramatisk. Velgere kan spørre KI hvordan de bør stemme, mens kampanjebudskapene de mottar, også kan være skrevet og målrettet av KI. Lepore beskriver dette som en mulig utvikling der valgene i praksis blir «KI mot KI».
Kritisk til Silicon Valley
Lepore er særlig kritisk til teknologikulturen i Silicon Valley. Hun mener flere av de mest innflytelsesrike teknologilederne mangler humanistisk dannelse og historisk ydmykhet.
I intervjuet sier hun at kulturen dyrker fremtiden på en måte som gjør at tidligere erfaringer, litteratur, kunst og politisk visdom settes til side.
Samtidig peker hun på at motstanden mot kunstig intelligens kan bli viktig. Hun viser blant annet til studenter som buer mot KI-ledere under avslutningsseremonier, og mener håpet ligger i at mennesker fortsatt samles fysisk, diskuterer og krever innflytelse.
For Lepore er demokrati ikke bare avstemninger eller digitale «innspill». Det krever samtale, regler, institusjoner, prosedyrer og mennesker i rom sammen.
– Det er ikke deliberativt demokrati. Folk må faktisk være i et rom sammen, sier hun.
Lepores advarsel er derfor ikke bare rettet mot kunstig intelligens som teknologi. Den handler om hva som skjer når staten, offentligheten og demokratiet gradvis omformes etter logikken til plattformer, markeder og automatiserte systemer.
