Sommige mensen willen geen Android- of andere Google-producten gebruiken. Ze vrezen voor hun privacy. Een ex-software engineer Vishnu Mohandas heeft besloten om eens in Google Foto’s te duiken: wat als zijn foto’s worden gebruikt om AI te trainen? Hoe ver gaat dat? Hij legt het uit aan de hand van een online tool.
Google Foto’s
Mohandas wil zelf een tool maken die de privacy in een hoog vaandel heeft. Het heet Ente en het is open source en end-to-end versleuteld. Dat is Google Foto’s niet. Hij besloot om mensen meer inzicht te geven in wat AI-modellen van Google leren over jouw foto’s. Je kunt een foto uploaden via de website theyseeyourphotos.com en dan gaat het naar een Google Cloud-computerprogramma dat een paragraaf van drie alinea’s typt over wat het op de foto ziet.
Lees verder na de advertentie.
Een foto van Mohandas zelf met zijn gezin voor een temple in Indonesie werd door Google meteen opgepikt, zelfs tot het type horloge dat Mohandas vrouw om had. Sterker nog, het wist te vertellen dat de tijd op het horloge gelijk is aan de tijd in de afbeeldingsdata. En toen werd het echt eng: de AI zou opmerken dat het betreffende horloge volop worden geassocieerd met Islamitische extremisten. Toen de AI met de tekst op de proppen kwam, was het niet zo duister, maar achter de schermen wel. Er worden allerlei assumpties gedaan. Er wordt zelfs besloten dat het koppel kleding aan heeft dat geschikt is voor toeristische uitstapjes, hun ouders waarschijnlijk Zuid-Aziatisch zijn en dat hun gezichten er tevreden uitzien.
Generatieve AI-modellen trainen
Google zegt tegen WIRED in een reactie dat het op de ondersteuningspagina’s moet kijken, waar te zien is dat beeld in Google Foto’s alleen wordt gebruikt om generatieve AI-modellen te trainen en mensen te helpen met hun fotobibliotheken. Het benadrukt dat het geen content verkoopt uit Google Foto’s aan derden. Wel kun je als gebruiker de analyse-opties in Foto’s uitschakelen, maar alsnog kan Google bij je foto’s: de data is simpelweg niet end-to-end versleuteld.
Lees verder na de advertentie.
Mohandas zegt het ongetwijfeld ook om mensen meer naar zijn platform te krijgen, maar hij zegt dat hij bang is dat het visuele archief van mensen straks zodanig wordt gemijnd dat er geen controle meer over is. ““Google is een bedrijf waarvan ik denk dat het er over 20 jaar nog zal zijn,” zegt hij. Foto’s die vandaag van zijn dochter zijn genomen, laten zien wie ze is en wat haar blij of verdrietig maakt. “Deze informatie kan over tientallen jaren worden gebruikt om haar te manipuleren door iedereen die toegang heeft tot deze gegevens – adverteerders, datingwebsites, werkgevers en bedrijfstakken die nu nog niet bestaan, maar wel zullen profiteren van psychologische profielen.”
We hebben het zelf ook even geprobeerd, met een foto van de schrijver van dit stuk met zichtbare tattoo (daar schijnt de AI ook nog wel eens iets over te zeggen):
Best creepy, toch?
Gebruik jij Google Foto’s en denk je hier wel eens over na? Deel het in de reacties.
Reacties
Inloggen of registreren
om een reactie achter te laten