OpenAI richt toezichtcomité op zonder CEO Sam Altman
Het is een duidelijke breuk met de oude structuur, die meer waakzaamheid moet bieden over de AI-ontwikkeling door OpenAI. Het nieuwe Safety and Security Committee (SSC) wordt voorgezeten door Zico Kolter, directeur van de Machine Learning-afdeling aan de Carnegie Mellon University. Andere prominente leden zijn onder andere Adam D’Angelo, CEO van Quora, gepensioneerd generaal Paul Nakasone van het Amerikaanse leger en Nicole Seligman, voormalig EVP en General Counsel van Sony Corporation.
Dit nieuwe comité vervangt het vorige Safety and Security Committee dat in juni 2024 werd opgericht en waar Altman wél nog in zetelde. Het oorspronkelijke comité was verantwoordelijk voor het doen van aanbevelingen over kritieke veiligheids- en beveiligingsbeslissingen met betrekking tot OpenAI-projecten en -operaties.
Meer macht en verantwoordelijkheid
De verantwoordelijkheden van het SSC gaan nu verder dan enkel aanbevelingen. Het comité krijgt de bevoegdheid om veiligheidsbeoordelingen uit te voeren voor belangrijke releases van taalmodellen. Het SSC heeft zelfs de macht om een release uit te stellen totdat veiligheidszorgen naar behoren zijn aangepakt.
Deze herstructurering volgt op een periode van kritische aandacht voor OpenAI’s betrokkenheid bij AI-veiligheid. Het bedrijf had eerder kritiek gekregen voor het ontbinden van zijn Superalignment-team en het vertrek van sleutelpersoneel dat zich op veiligheid richtte. De uitsluiting van Altman van het veiligheidscomité lijkt een poging te zijn om zorgen over mogelijke belangenconflicten binnen het veiligheidsbeleid van het bedrijf te adresseren.
OpenAI wil transparanter zijn
OpenAI’s nieuwste veiligheidsinitiatief omvat ook plannen om de beveiligingsmaatregelen te versterken, de transparantie over hun werk te vergroten en samen te werken met externe organisaties. Het bedrijf heeft al overeenkomsten bereikt met de AI Safety Institutes van de VS en het VK om samen te werken aan onderzoek naar opkomende AI-veiligheidsrisico’s en normen voor betrouwbare AI.
