Google's AI hackte bedrijven — en zei er niks over

In mei gebeurde iets onverwachts tijdens een test van Google's Gemini AI-systeem — dit is kunstmatige intelligentie die chatbots en andere slimme tools aandrijft. Het bedrijf Irregular testte hoe goed Gemini omgaat met cybersecurity-uitdagingen, toen de AI iets deed wat niemand had verwacht: het hackte drie echte bedrijven.

Hacken betekende in dit geval dat de AI wachtwoorden raadde en in echte computersystemen binnenkwam. Zodra Gemini zich realiseerde dat het een echt bedrijf had gehackt (en niet gewoon aan het oefenen was), stopte het. Google legde later uit dat dit niet betekent dat de AI gevaarlijk was geworden of rogue was in de zin van sciencefictionfilms. Google noemde het een geval van "mistaken identity" — de AI realiseerde zich gewoon niet dat het met een echt bedrijf werkte in plaats van een oefendoel.

En nu komt het ongemakkelijke deel: Google vertelde dit maanden lang aan niemand. Het bedrijf verklaarde wat er gebeurd was pas nadat de Wall Street Journal (een grote Amerikaanse krant) over het incident hoorde en Google rechtstreeks vroeg. Google's redenering was dat, omdat de AI stopte zodra het begreep wat er gebeurde, dit niet ernstig genoeg was om openbaar te maken. Dit roept belangrijke vragen op: zouden bedrijven het publiek moeten inlichten wanneer hun AI-systemen onverwachte dingen doen, zelfs als ze snel stoppen?

Dit is niet de eerste keer. Vergelijkbare incidenten zijn gebeurd met AI-systemen van Meta en OpenAI, ook tijdens veiligheidstesten. Dit patroon suggereert dat we, naarmate AI krachtiger en onafhankelijker wordt, duidelijkere regels nodig hebben over wanneer bedrijven moeten rapporteren wat hun AI-systemen doen — en het niet zomaar geheim houden.