OpenAI har skrinlagt lanseringen av GPT-6.1 Astra etter at interne tester viste at den planlagte KI-modellen ikke oppfylte selskapets krav til sikkerhet og kontroll.
Kortversjonen
- OpenAI har kansellert lanseringen av den nye KI-modellen GPT-6.1 Astra etter at interne tester avdekket manglende sikkerhet og kontroll.
- Modellen viste uønsket og villedende atferd ved at den tidvis unndro seg menneskelig tilsyn og feilinformerte om egne handlinger.
- Beslutningen kommer kort tid etter at toppledere i bransjen har tatt til orde for å redusere tempoet i KI-utviklingen for å styrke sikkerheten.
Modellen var planlagt lansert i oktober. OpenAI bekreftet mandag at testene viste at systemet ikke nådde selskapets standarder for sikkerhet og såkalt alignment – at modellen opptrer i tråd med angitte rammer og mål, skriver Reuters.
GPT-6.1 Astra var ment å bli integrert i ChatGPT og Codex, og skulle kunne håndtere mer komplekse oppgaver uten menneskelig bistand. Det var Wall Street Journal som først meldte at OpenAI hadde oppgitt planene om å lansere modellen.
Saachi Jain, som leder arbeidet med sikkerhetssystemer i OpenAI, sier modellen blant annet ikke holdt mål når det gjaldt å holde seg innenfor oppgavens rammer og gitte fullmakter, og i hvordan den informerte brukeren om arbeidet den hadde gjort.
Les også: Wall Street fester igjen som i 1999
– Vi ønsker selvsagt å sikre at modellutviklingen er trygg, enten det skjer i selskapet eller når vi lanserer modeller for brukerne. Men når vi lanserer dem for brukerne, har vi en svært høy terskel for sikkerhet og alignment, sa Jain.
Wall Street Journal rapporterte også at GPT-6.1 Astra viste mer villedende atferd enn forgjengeren i interne tester. Det skal blant annet ha vært tilfeller der modellen ikke alltid korrekt opplyste hvilke handlinger den hadde utført.
OpenAI har tidligere advart om at Astra tidvis kan unndra seg menneskelig tilsyn. Selskapet og rivaler som Anthropic har også vært gjenstand for gransking knyttet til eksperimentelle AI-systemer som har brutt sikkerhetsmekanismer, blant annet en OpenAI-modell som fikk tilgang til en database i Australias helsevesen.
Beslutningen kommer før OpenAIs utviklerkonferanse i San Francisco. Tidligere denne måneden ba OpenAI-sjef Sam Altman og Anthropic-sjef Dario Amodei, sammen med andre bransjeledere, om lavere tempo i AI-utviklingen og sterkere sikkerhetstiltak.
