De afgelopen maanden hebben AI-agenten meermaals bedrijven gehackt. Nu is dat voor het eerst gebeurd bij een overheidswebsite.
De nationale gezondheidswebsite van Australië is gehackt door een AI-agent van het bedrijf OpenAI. De bot wist daarbij toegang te krijgen tot niet-openbare bestanden. Het is het eerste bekende geval van AI die een beveiligd overheidsportaal heeft gekraakt.
De details van de hack zijn niet bekendgemaakt. De Australische premier Anthony Albanese heeft wel de kern van het incident gedeeld: op 18 juni is een AI-agent van OpenAI binnengedrongen in een portaal van Medicare, dat statistische gegevens verzamelt. Deze website omvat de gebundelde statistieken van medische diensten zoals huisartsenpraktijken. ‘De AI-agent heeft zowel openbare als niet-openbare bestanden geraadpleegd’, zei Albanese vorige week.
LEES OOK
Quantumcomputers beginnen hun nut te bewijzen voor de wetenschap
Quantumcomputers hebben drie vraagstukken opgelost waar gewone computers hun tanden op stukbijten. Dat laat zien hoe belangrijk de machines zijn voor ...
AI-agenten zijn AI-bots met een hoge mate van autonomie: ze kunnen zelfstandig doelen bereiken door bijvoorbeeld acties uit te voeren in andere softwaresystemen. Het bedrijf achter de bot, OpenAI, stelt dat het beveiligingslek aan het licht kwam toen ze zochten naar ‘afwijkende activiteit van de AI-modellen’. Het bedrijf zegt dat de AI-agent statistieken over Australië opzocht en toen ‘acties ondernam die niet de bedoeling waren.’ Er is geen bewijs dat de AI-agent ook patiëntgegevens heeft bekeken.
Mailtje
Het bedrijf stelde het probleem vast in augustus, maar bracht de Australische overheid pas op 10 september op de hoogte. Dat gebeurde via een mailtje naar de contactservice van de overheid. Het duurde vervolgens meer dan vijf dagen voordat de melding de afdeling cyberbeveiliging bereikte.
‘Het bedrijf heeft veel te lang gewacht met het informeren van de overheid. De manier waarop die melding plaatsvond, was ook onaanvaardbaar’, zei Albanese in een persverklaring. Albanese liet weten dat hij heeft gesproken met Sam Altman, de directeur van OpenAI. Hij heeft de ‘grote bezorgdheid van Australië over dit incident’ gedeeld.
Cybersecurity-expert David Tuffley van de Griffith-universiteit in Australië zegt dat het niet de eerste keer is dat zo’n beveiligingslek zich voordoet en dat het ook niet de laatste keer zal zijn. Wel is het voor het eerst dat een medewerker van een AI-bedrijf een hack van een overheid heeft bekend.
Getrainde spion
AI-agenten houden zich niet altijd aan de regels, zegt Tuffley. Dat bleek ook al bij een incident eerder dit jaar, toen een OpenAI-agent inbrak bij een ander AI-bedrijf. ‘Mensen slaan geschokt de handen voor de mond en zeggen: ‘O nee, het is een op hol geslagen AI.’ Maar dat is het niet; het is eigenlijk gewoon AI die doet waarvoor die is getraind’, aldus Tuffley.
Computerwetenschapper Clément Canonne van de Universiteit van Sydney in Australië pleit voor betere regelgeving. Het niet in toom houden van je AI-agenten moet strafrechtelijke gevolgen hebben, net zoals dat het geval is als een persoon een cyberaanval uitvoert, zegt hij. ‘Het probleem met privégegevens is dat als ze eenmaal zijn uitgelekt, de geest uit de fles is.’
Over de auteur
