I sikkerhetens navn øker bruken av digitale løsninger og overvåkningskameraer i det offentlige rom, uten at deres nytte og legitimitet blir analysert. Dette reiser spørsmål om offentlige friheter og forholdet til masseovervåkning.
Å forstå den retningen den franske lovgiveren har tatt de siste årene når det gjelder bruk av nye teknologier for sikkerhetsformål er ingen enkel oppgave. Å våge å stille spørsmål betyr øyeblikkelig å bli mistenkt for enten å ha noe å skjule, være teknofob eller, enda verre, konspirasjonsteoretiker. Vårt demokrati er tross alt der for å «beskytte» oss mot digital kontroll og overvåking utført av russiske og kinesiske «stråmenn». Hvis det ikke finnes en verre blind enn den som ikke vil se, så gir en rask gjennomgang av dette juridisk-tekniske miljøet stoff til ettertanke
QR-kode: Fra kontroll av varer til kontroll av mennesker
Teknologien, som ble opprettet i 1994 for den japanske bilindustrien, ble lenge oversett og til og med hånet i Europa før den nådde sin popularitetstopp med «helsepasset» under Covid-19. Selv om det ikke lenger er overraskende å se den erstatte trykte menyer i Frankrike, er denne teknologien nå utbredt i Japan, Sør-Korea og Kina, hvor den blant annet brukes som betalingsmiddel. Den kinesiske erfaringen bør spesielt vekke vår mistenksomhet, siden QR-koder også brukes som masseovervåkningsverktøy der: Fra 2017 installerte myndighetene dem på hus i områder med høy andel uigurer for å skanne dem flere ganger i uken og dermed kontrollere hvem som befant seg i hjemmene sine.
Selv om Frankrike tydeligvis ikke er der ennå, kan det som skulle være et «eksepsjonelt og midlertidig» (1) tiltak med «helsepasset» kanskje til slutt bare ha vært et forvarsel, som vises med QR-koden i «OL-passet» som er nødvendig for å bevege seg i «restriksjonssoner» i Paris under de olympiske lekene. Innenriksdepartementet benyttet anledningen til å utvide listen over data som kan samles inn (2), uten noensinne å stille spørsmål ved den reelle nødvendigheten av å opprette en database som overvåker flere hundre tusen mennesker.
Les også: Global maritim spionasje eskalerer
Disse olympiske lekene er nettopp et felt for eksperimentering. «OL-loven» (3) forbyr riktignok ansiktsgjenkjenning og biometrisk identifisering, men tillater bruk av algoritmisk videoovervåkning for å «garantere sikkerheten ved sports-, fritids- eller kulturelle arrangementer som, på grunn av deres størrelse eller omstendigheter, er særlig utsatte for terrorhandlinger eller alvorlige trusler mot folks sikkerhet».
Disse enhetene vil derfor kunne oppdage «forhåndsbestemte hendelser» i sanntid: Folkemengder, forlatt bagasje, brannutbrudd, inntrenginger, osv. For dette må man ikke bare filme kontinuerlig, men også mate algoritmer med de innsamlede bildene. Som ofte med eksperimentelle lover (denne varer til 2025), er det lite tvil om at bestemmelsene vil bli vedvarende. Sportsministeren, Amélie Oudéa-Castéra, har knapt skjult det: «Hvis dette beviser seg og er omgitt av garantier […], forventer franskmennene at vi handler for deres sikkerhet og bruker nye midler, inkludert digitale, for å fremme denne sikkerheten.» (4) Pandoras eske er åpnet: Etter utvidelsen av denne teknologien til transportssikkerhet – en mulighet som allerede diskuteres (5) – er det vanskelig å ikke forestille seg ansiktsgjenkjenning om noen år.
Droner: Et eksempel på offentlige myndigheters utholdenhet
«Droner» utstyrt med kameraer har blitt brukt i årevis uten noen juridisk ramme, spesielt under Covid-19-krisen eller under enkle demonstrasjoner. Den øverste administrative domstolen i Frankrike hadde for eksempel beordret staten til «umiddelbart å stanse overvåking med droner, med respekt for sikkerhetsreglene i Paris under gjenåpningsperioden»(6), eller til politiprefekten i hovedstaden «å umiddelbart stanse dronemåling av menneskelige samlinger på offentlig vei» (7). Konstitusjonsrådet har også lenge motstått ved å for eksempel forkaste loven kjent som «global sikkerhet» (8), da den anså at lovgiveren ikke hadde «sikret en balansert avveining mellom mål av konstitusjonell verdi for forebygging av brudd på offentlig orden og etterforskning av lovbrudd, og retten til respekt for privatlivet» (9).
Les også: Fra KI-kameraer til droner: Kina presenterer fremtidens overvåkningssystemer
En lovregulering ble logisk nok til slutt innført (10), som tillater bruken av droner av politiet til administrative politiformål etter tillatelse fra fylkesmannen (for eksempel for å sikre offentlig samlinger på offentlig vei ved risiko for alvorlige forstyrrelser av offentlig orden), til rettsformål (for eksempel for behovene til en etterforskning som omhandler en savnet person), eller for å forhindre grenseoverskridende trafikk fra tollere. Også her har den konstitusjonelle domstolens årvåkenhet gjort det mulig å stoppe mer utvidede forsøk, som en bestemmelse som tillot bruk av droner uten forhåndsgodkjenning fra fylkesmannen i nødstilfeller og i fire timer, eller en annen som tillot, som et eksperiment i fem år, bruk av droner av kommunalt politi (11).
Visst, gjennom sin rettspraksis, mener administrative og konstitusjonelle dommere at tilstrekkelige juridisk-tekniske garantier har blitt gitt i lovteksten for å sikre rettighetene og frihetene til de filmede personene (12) – og spesielt deres rett til privatliv. Men man observerer likevel en tendens fra myndighetenes side til å gradvis erodere store deler av friheten ved å innføre tekniske enheter. For å gjengi ordene til Gilbert Simondon, «den viktigste årsaken til fremmedgjøring i den moderne verden ligger i denne misforståelsen av maskinen, som ikke er en fremmedgjøring forårsaket av maskinen, men av manglende kjennskap til dens natur og essens» (13).
Hvor langt er vi på vei?
Bruken av algoritmer av familieytelseskontorene (CAF) (red. anm. en del av det franske velferdssystemet som håndterer utbetaling av ulike familierelaterte ytelser. Disse ytelsene inkluderer barnetrygd, støtte til bolig og lavinntektsfamilier, samt andre sosiale fordeler) for å identifisere «de mest sannsynlige til å svindle» (14); akkumuleringen av sikkerhetslover de siste ti årene i et stadig raskere tempo, som tillater innsamling av personopplysninger og overvåking av kommunikasjon i stor skala; eller, mer nylig, blokkeringen av det sosiale mediet TikTok i Ny-Caledonia – en praksis tidligere sett i Russland, Tyrkia eller Iran, som har vakt bekymring (15) i Frankrike til tross for regjeringens tilbøyeligheter, men som til slutt ble godkjent av den øverste administrative domstolen under påskudd av «unntakstilstandsteorien» (16).
Vi lever i en tid der kontroll og overvåking gjennom teknologi blir normalisert, en ekte fremdrift mot tekniske løsninger, uten at den faktiske effektiviteten av disse tiltakene eller deres filosofiske og politiske innvirkninger på vår oppfatning av frihet noensinne blir utfordret. Videre stiller digitaliseringen av alt – fra «plattformiseringen» av staten (17) til «QR-koding» av samfunnet (18), samt utvidelsen av kunstig intelligens (KI) – spørsmål ved teknologiens plass i våre liv. «Det er ikke bare bruken, det er selve teknikken som allerede er dominerende (over naturen og menneskene), en metodisk, vitenskapelig, beregnet og beregnende dominans. […] Teknikken er fra begynnelsen et sosio-historisk prosjekt»(19). Dette prosjektet, som ikke kan være nøytralt i sine bruksmåter, design eller essens, er det vår borgerplikt å stille spørsmål ved.
Bibliografi
- S. Godeluck, « Covid : le Conseil scientifique valide la création d’un pass sanitaire “exceptionnel et temporaire” », Les Échos, 4 mai 2021.
- Arrêté du 3 mai 2024 modifiant l’arrêté du 2 mai 2011 relatif aux traitements automatisés de données à caractère personnel dénommés « fichiers des résidents des zones de sécurité » créés à l’occasion d’un événement majeur.
- Loi n° 2023-380 du 19 mai 2023 relative aux jeux Olympiques et Paralympiques de 2024 et portant diverses autres dispositions.
- Entretien accordé à France 3 le 24 septembre 2023.
- Proposition de loi, adoptée par le Sénat après engagement de la procédure accélérée, relative au renforcement de la sûreté dans les transports, n° 2223.
6.CE, 18 mai 2020, n° 440442.
- CE, 22 décembre 2020, n° 446155.
- Loi n° 2021-646 du 25 mai 2021 pour une sécurité globale préservant les libertés.
- CC, décision n° 2021-817 DC du 20 mai 2021.
- Loi n° 2022-52 du 24 janvier 2022 relative à la responsabilité pénale et à la sécurité intérieure ; décret n°2023-283 du 19 avril 2023 relatif à la mise en œuvre de traitements d’images au moyen de dispositifs de captation installés sur des aéronefs pour des missions de police administrative.
- CC, décision n° 2021-834 DC du 20 janvier 2022.
- Voir, par exemple, CE, 24 mai 2023, n° 473547.
- G. Simondon, Du mode d’existence des objets techniques, Paris, Éditions Aubier-Montaigne, 1958.
- M. Saliou, « Transparence, discriminations : les questions soulevées par l’algorithme de la CAF », Next.ink, 28 novembre 2023.
- D. Leloup et Fl. Reynaud, « Emmanuel Macron suggère de bloquer les réseaux sociaux pendant les émeutes, une pratique très controversée », Le Monde, 5 juillet 2023.
- CE, 23 mai 2024, n° 494320.
- G. Jeannot, « Vie et mort de l’État plateforme », RFAP, 2020, n° 173, p. 165-179.
- Y. Zhang, « L’hégémonie du QR code en Chine », Actes du XXIIIeCongrès de la SFSIC, 2022, p 800-810.
- H. Marcuse, « Industrialisation et capitalisme », in O. Stammer (dir.), Max Weber et la sociologie d’aujourd’hui : actes du Congrès de Heidelberg (1962).
Dette innlegget ble først publisert i Revue Conflits. Det har blitt oversatt fra fransk.
