Meta gaat zijn AI trainen op toetsaanslagen van werknemers
Is dit een belangrijke stap voor het verbeteren van AI-agents, een grote inbreuk op de privacy van Meta-werknemers of een combinatie van beide?
Meta AI moet leren van werknemers
Een nieuw verslag van Reuters geeft aan dat Meta nieuwe trackingsoftware zal installeren op de computers van zijn werknemers in de VS. De software moet data verzamelen aan de hand van toetsaanslagen, klikgedrag en muisbewegingen van de werknemers. Die data wordt dan vervolgens gebruikt om Meta’s AI-modellen mee te trainen (via TechCrunch).
Het doel is om ‘AI-agents’ te ontwikkelen die zelf taken voor je kunnen uitvoeren. Het gaat om een software genaamd Model Capability Initiative (MCI). Deze software zal actief zijn bij het gebruik van werkgerelateerde apps en websites. MCI zal zelfs af en toe screenshots maken van wat er in beeld te zien is.
Een Meta-vertegenwoordiger zei tegen TechCrunch: “Als we agenten bouwen om mensen te helpen met het uitvoeren van alledaagse taken op computers, hebben onze modellen echte voorbeelden nodig van hoe mensen ze echt gebruiken — dingen zoals muisbewegingen, het klikken op knoppen, en het navigeren van dropdown-menu’s.”
Privacyzorgen
Natuurlijk is het logisch dat AI data nodig heeft om mee getraind te worden. Dit soort ontwikkelingen brengen echter wel privacyzorgen met zich mee.
Volgens Meta gebruikt het bedrijf de MCI-data niet voor beoordelingen van de prestaties van werknemers. Ook zou “gevoelige informatie” beschermd worden. We weten natuurlijk niet hoe dit in de praktijk zal werken.
In het verslag van Reuters komt ook een hoogleraar rechten van de universiteit Yale, Ifeoma Ajunwa, aan het woord. Zij benadrukt terecht dat dit soort software in het verleden wel vaak gebruikt is om werknemers in de gaten te houden. Ook als het gaat om activiteiten die niet aan werk gerelateerd zijn.
De werknemers worden op deze manier constant in de gaten gehouden. In veel Europese landen zou dit ook niet mogen, maar het lijkt erop dat Meta er in de VS wel mee weg kan komen.
