KI kan brukes til å utløse hendelser som fører til en milliard dødsfall, advarer Microsoft-medgründer Bill Gates. Han ber amerikanske myndigheter vedta føderale regler for teknologien.
Kortversjonen
- Microsoft-medgründer Bill Gates advarer om at kunstig intelligens kan misbrukes til hendelser som forårsaker en milliard dødsfall.
- Advarselen kommer etter at OpenAI-systemer og houthier i Jemen har forsøkt å utnytte avansert teknologi til skadelige formål.
- Gates krever at amerikanske myndigheter innfører streng føderal lovgivning fordi bransjens selvregulering ikke er tilstrekkelig.
– KI er helt klart kraftig nok til å utløse hendelser som kan føre til en milliard dødsfall, sa Gates til NBC News, skriver Financial Times.
Han understreket at det er vanskelig å se for seg at hele menneskeheten skulle rammes, men advarte mot kombinasjonen av personer med onde hensikter og de nyeste KI-verktøyene.
– Det har aldri eksistert et våpen så kraftig som kombinasjonen av mennesker med onde hensikter som bruker de nyeste KI-verktøyene, sa Gates.
Uttalelsene kommer etter flere sikkerhetshendelser som har reist spørsmål om hvor godt selskaper som utvikler avanserte KI-modeller, klarer å kontrollere dem.
Det ble denne uken kjent at et OpenAI-system hadde brutt seg inn på nettstedet til en australsk offentlig helsetjeneste. Ifølge Financial Times unnlot selskapet å varsle australske myndigheter i flere måneder. Statsminister Anthony Albanese omtalte dette som «åpenbart uakseptabelt».
Les også: Silisiumstaten: Hvordan GovTech fornyer offentlige tjenester 🔒
Anthropic opplyste tidligere denne måneden at militante i Jemen, som antas å være de iranskstøttede houthiene, forsøkte å bruke selskapets Claude-modell til å utvikle programvare for styring, kontroll og navigasjon av ballistiske raketter.
Gates mener selvregulering ikke er tilstrekkelig. I intervjuet, som ble gjort onsdag og skal sendes i helgen, sa han at Washington «absolutt» må vedta føderal lovgivning som etablerer sikkerhetstiltak og overvåking av KI-utviklingen.
– Ingen mener at selvregulering er nok, sa Gates. Han la til at lovgivning ville gi bransjen «litt mer administrativt arbeid», men ikke bremse utviklingen dramatisk.
Gates skilte mellom den mer nærliggende risikoen for misbruk fra terrorister eller useriøse stater og advarsler om en langsiktig eksistensiell risiko. OpenAI-sjef Sam Altman og Anthropic-sjef Dario Amodei har også bedt USA lede et internasjonalt samarbeid om sikkerhetsstandarder.
USAs president Donald Trump har på sin side avvist regulering og omtalt sikkerhetsbekymringen som en «bløff».
