Revisjonsgiganten Deloitte må tilbakebetale deler av 440.000 australske dollar (om lag 3,1 millioner kroner) til den australske regjeringen etter at en offentlig rapport viste seg å inneholde fabrikkerte sitater og oppdiktede kilder generert av kunstig intelligens.
Deloitte Australia leverte tidligere i år en 237 siders rapport til Arbeidsdepartementet om bruken av automatiserte sanksjoner i velferdssystemet. Rapporten ble publisert i juli, men ble raskt trukket tilbake da en forsker oppdaget en rekke alvorlige feil, rapporterer AP.
Ifølge departementet har Deloitte «bekreftet at noen fotnoter og referanser var feil». Selskapet har derfor gått med på å betale tilbake den siste delen av honoraret, selv om summen først vil offentliggjøres etter tilbakebetalingen.
Fabrikkerte domssitater og oppdiktede forskningsrapporter
Det var Chris Rudge, forsker ved universitetet i Sydney, som slo alarm.
– Rapporten var «full av oppdiktede referanser», sa Rudge til australske medier.
Han oppdaget blant annet et sitat som ble feilaktig tillagt en føderal dommer, samt henvisninger til akademiske bøker og forskningsrapporter som ikke eksisterer.
– Jeg så straks at en oppgitt bok av professor Lisa Burton Crawford var ren fantasi. Den hørtes ikke bare usannsynlig ut, men som noe en AI kunne ha funnet på, forklarte Rudge.
Les også: Halvledernes sentrale rolle i global geopolitikk 🔒
Den reviderte versjonen av rapporten, som ble publisert fredag, inkluderer nå en merknad om at generativ AI ble brukt i arbeidet – nærmere bestemt Microsofts språkmodell Azure OpenAI. Alle fabrikerte domssitater og ikke-eksisterende referanser ble fjernet.
Kritikk fra politikere: – Som en førsteklassing ville gjort
Senator Barbara Pocock fra De grønne mener Deloitte burde betale tilbake hele summen.
– Deloitte misbrukte kunstig intelligens og brukte den på en svært uansvarlig måte. De feilsiterte en dommer og brukte kilder som ikke finnes. Det er ting en førsteårsstudent ville fått alvorlige problemer for, sa Pocock til ABC.
Deloitte selv har uttalt til Associated Press at «saken er løst direkte med kunden». Selskapet har ikke bekreftet om feilene ble generert av AI.
Departementet fastholder at rapportens hovedinnhold og anbefalinger ikke er endret, men saken har likevel utløst debatt om hvordan konsulentselskaper bruker kunstig intelligens i offentlige oppdrag.
