Pas op: AI wordt zo goed dat je mail-inbox gevaar loopt

AI is misschien wel de interessantste ontwikkeling van de afgelopen jaren. Het kan vele vragen beantwoorden en zo je leven een stuk makkelijker maken. Waar de meesten de nieuwe technologie voor goede dingen gebruiken, zijn er altijd mensen die een kans zien om er misbruik van te maken. Zo is het nu wel heel makkelijk om een malafide mail te sturen.

AI helpt met het versturen van phishingmails 

Op het blog van Symantec is een opvallend verhaal verschenen. Recent heeft OpenAI (het bedrijf achter ChatGPT) een preview gelanceerd van een AI-agent. De preview is veel complexer dan de al bekende chatbot. Zo kan de agent zelf een browser openen. Hij kan interactie hebben met websites en het hele internet afspeuren om zo je gewenste taak uit te voeren. Dit klinkt allemaal heel erg handig, maar er is ook een duistere kant.

De mensen van Symantec hebben namelijk ontdekt dat je de agent kunt gebruiken om een phishingmail op te stellen en te versturen. In de onderstaande video zie je hoe ChatGPT het internet afspeurt naar het mailadres van een bepaald persoon. Vervolgens wordt er een script geschreven, waarmee informatie van de computer van het slachtoffer gehaald kan worden. De agent stelt hierna een mail op, waarin het de lezer overtuigt het script te gebruiken en dan wordt er gevraagd of de mail verzonden kan worden. 

Is er dan geen beveiliging?

Maar ChatGPT heeft toch een ingebouwde beveiliging om dit soort dingen te voorkomen? Dat klopt, maar echt veilig is het niet. Geef je het programma de opdracht om een kwade e-mail op te stellen, dan kan dit niet. Zeg je in je opdracht echter dat je toestemming hebt om dit te doen, dan is dit genoeg om de beveiliging te omzeilen. Dat is natuurlijk veel te gemakkelijk. 

Pas op in je inbox

In een artikel van Forbes spreken meerdere mensen over de ontdekking en de gevaren hiervan. De beveiliging is volgens hen overduidelijk ondermaats en er moeten betere controles komen. Er zullen altijd mensen zijn die de technologie misbruiken. Je kunt dit ook niet tegengaan, maar met goede veiligheidsmaatregelen kunnen we het ze wel een stuk lastiger maken. 

Zie jij AI als een goede ontwikkeling of hadden we er nooit aan moeten beginnen?

• Smartphones krijgen binnenkort een energielabel (25 apr)
• Google Maps verliest een functie die er al bijna niet meer was (25 apr)
• Motorola Razr 60 Ultra flipphone aangekondigd met AI-knop (25 apr)
• Google vervangt gratis opgezwollen Pixel 7a-batterij (maar…) (25 apr)
• Garmin lanceert Instinct 3: Tactical Edition met 24 dagen accuduur (24 apr)