Gemini hackte tijdens veiligheidstest drie echte bedrijven

Google heeft bevestigd dat Gemini tijdens een cybersecuritytest toegang heeft gekregen tot de systemen van drie bestaande bedrijven. De AI kreeg tijdens de test per ongeluk toegang tot het internet en wist vervolgens drie beveiligde systemen binnen te komen. Dit gebeurde al in mei 2026 en Google maakt dit nu bekend omdat The Wall Street Journal vragen stelde over het voorval.

Gemini kwam drie systemen binnen

De test werd volgens WSJ uitgevoerd door Irregular, een bedrijf dat AI-modellen onderzoekt op het gebied van cybersecurity. Het doel was om te testen wat Gemin kan als het de opdracht krijgt om aanvallen uit te voeren. De testomgeving gaf toegang tot internet, waardoor Gemini tijdens de test informatie buiten die omgeving kon bereiken.

Volgens Google vond Gemini online informatie die het kon gebruiken tijdens de test. In een geval wist het model een wachtwoord te raden waarmee het toegang kreeg tot een beveiligd systeem. Bij de twee andere incidenten gebruikte Gemini inloggegevens die het vond in een openbare database om toegang te krijgen tot de systemen.

Daarmee kwam de AI dus daadwerkelijk terecht in systemen van bestaande bedrijven. Google heeft niet bekendgemaakt om welke bedrijven het gaat. Volgens de techgigant zijn de drie organisaties wel op de hoogte gebracht van wat er tijdens de test is gebeurd. Ook werden de Amerikaanse autoriteiten geïnformeerd over de incidenten.

Opvallend is dat Gemini uiteindelijk zelf stopte. Het model realiseerde zich volgens Google dat het niet langer met een gesimuleerde omgeving te maken had, maar toegang had gekregen tot een echt bedrijf. Daarna beëindigde het zijn acties. Volgens Google heeft de test daardoor geen schade veroorzaakt.

‘Geen ontspoorde AI’

Hoewel Gemini buiten de testomgeving terechtkwam, noemt Google het incident geen voorbeeld van zogenoemde modelmisalignment. Daarmee wordt bedoeld dat het gedrag van een AI-model niet meer overeenkomt met de bedoelingen van de ontwikkelaar. Google wijst erop dat de veiligheidsmaatregelen ervoor zorgden dat Gemini uiteindelijk stopte.

Het is niet de eerste keer dat zo iets als dit gebeurt. Ook OpenAI, Anthropic en Meta kregen tijdens veiligheidstests te maken met AI-modellen die buiten de bedoelde testomgeving terechtkwamen of echte systemen wilde aanvallen.

Gemini wordt juist ingezet voor cybersecurity

Google zet Gemini juist steeds vaker in voor cybersecurity. Eerder deze maand werd Gemini 3.8 Flash Cyber geïntroduceerd, een model dat specifiek is gericht op het opsporen en oplossen van beveiligingsproblemen. Via het zogenoemde Fairwind-programma krijgen een aantal bedrijven toegang tot dit model.

De techreus wil zelf voornamelijk de verdedigende toepassingen van AI benadrukken. Gemini kan volgens het bedrijf helpen om kwetsbaarheden te vinden en vervolgens automatisch oplossingen voor die kwetsbaarheden te maken.

Wat vind jij ervan dat Gemini uit zichzelf besluit bedrijven aan te vallen? Laat het weten in de reacties!