Nieuws

Werknemers AI-bedrijven willen vrijuit kunnen spreken

Anthropic
© iStock / Vertigo3d
Dertien (oud-)werknemers van AI-bedrijven hebben een open brief geschreven. Daarin vragen ze meer transparantie en bescherming als ze aan de alarmbel zouden willen trekken.

De groep vraagt om een vrije rol als klokkenluider, als het algemene belang daarmee gediend is. Daarvoor hebben ze meer bescherming nodig, klinkt het. Bij de dertien ondertekenaars zijn onder meer oud-werknemers van OpenAI Jacob Hinton, William Saunders en Daniel Kokotajlo. Die laatste zei op X dat hij besloot ontslag te nemen nadat hij het vertrouwen in zijn werkgever kwijtraakte. “Ik verliet OpenAI in april nadat ik er geen vertrouwen meer in had dat het op een verantwoordelijke manier zou werken aan ‘artificial general intelligence’. Dat zijn AI-systemen die op termijn even slim of slimmer worden dan mensen.

De brief is het gevolg van groeiende argwaan tegenover OpenAI en zijn manier van werken. Zo werd onlangs ook het ‘superalignment safety team’ ontslagen dat moest waken over de omgang met AI. En prominente figuren als mede-opdrichter Ilya Sutskever en Jan Leike verlieten het schip, nadat ze gelijkaardige kritiek hadden geuit: OpenAI zou het commerciële laten primeren op veiligheid. De ondertekenaars van de brief vatten hun bezorgdheden samen in vier principes:

  • Het stoppen van persoonlijke wraakacties tegen werknemers die hun zorgen uiten over veiligheid. 
  • Een anoniem systeem voor klokkenluiders ondersteunen, in het publieke belang. 
  • Een gezonde cultuur onderhouden waarin openlijke kritiek mogelijk is. 
  • Onder specifieke omstandigheden moet er niet vastgehouden worden aan non-disclosure agreements, wanneer het publieke belang voorgaat op dat van het bedrijf.

Zorgen over omgang met AI

In de brief uiten de AI-experts ook hun zorgen over het gebrek aan toezicht van overheden. Ook het financiële aspect bij AI-bedrijven wordt onvoldoende gereguleerd, klinkt het. Maar de zorgen zijn ook inhoudelijk: de auteurs zijn bang voor de ongebreidelde doorontwikkeling van krachtige AI-systemen. Het kan volgens hen leiden tot massale desinformatie en ongelijkheid. Ze vrezen zelfs dat mensen de controle zouden verliezen over de technologie. Autonome systemen zouden zelfs het einde van de mensheid kunnen inluiden, klinkt het pessimistisch. “We weten nog lang niet genoeg over hoe deze systemen werken en of ze altijd de belangen van de mensheid zullen blijven dienen. Ze kunnen nu eenmaal slimmer worden en op een bepaald punt mogelijk intelligenter zijn dan wij”, zei Kokotajlo nog op X.

OpenAI: “We doen het nodige”

In een reactie aan Engadget zei een woordvoerder van OpenAI het volgende: “We zijn trots op ons parcours en we hebben bewezen dat we capabele en veilige AI-systemen kunnen ontwikkelen. We geloven dan ook in onze wetenschappelijke benadering voor het aanpakken van de risico’s. Ook wij vinden dat een grondig debat cruciaal is, gezien het belang van deze technologie. We zullen dan ook blijven overleggen met overheden, burgerlijke instellingen en andere community’s wereldwijd. We hebben momenteel al kanalen waar werknemers hun bezorgdheden kunnen uiten, waaronder een anonieme hotline waar problemen rond integriteit gemeld kunnen worden. Daarnaast is er ook het Safety and Security Committee. Daarin zetelen zowel bestuursleden als veiligheidsverantwoordelijken van ons bedrijf.”

Uitgelicht artikel Siri Apple AI Apple heeft AI-deal met OpenAI, nog steeds gesprekken met Google

Gerelateerde artikelen

Volg ons

69% korting + 3 maanden gratis

69% korting + 3 maanden gratis

Bezoek NordVPN

Business