Microsoft huurt rekenkracht bij Oracle om Bing te doen draaien
Microsoft is binnenkort niet alleen aanbieder van cloudinfrastructuur, maar ook afnemer. Microsoft zal namelijk een deel van de modellen achter Bing Chat naar de cloudinfrastructuur van Oracle verhuizen. Dat maakten de twee bedrijven gisteren bekend.
Microsofts AI-zoekmachine wordt aangedreven door een aantal zelflerende modellen. Een aantal van die modellen zal binnenkort van de Azure AI-infrastructuur naar de Oracle Cloud Infrastructure (OCI) verkassen. Divya Kumar, hoofd van het marketingteam bij Microsofts Bing-divisie, zegt dat de zoekresultaten daardoor sneller moeten worden.
Dat Microsoft, als aanbieder van Azure, zelf niet genoeg rekenkracht kan voorzien, valt opmerkelijk te noemen. Dat Oracle genoeg rekenkracht op overschot heeft om aan Microsoft door te verhuren eveneens. Oracle zegt dat de superclusters die Bing zal gebruiken hun rekenkracht kunnen opschalen met 32.768 Nvidia A100-GPU’s of 16.384 Nvidia H100-GPU’s. De overeenkomst geldt bovendien voor meerdere jaren. Hoeveel rekenkracht er precies nodig is om de AI-diensten te blijven ondersteunen, wil geen van de twee partners zeggen.
Om een AI-model zoals Bing draaiende te houden, is heel wat rekenkracht vereist. Niet alleen omdat zo’n model voortdurend bijleert, maar ook omdat het voortdurend aan ‘inferentie’ moet doen. Voor het computersysteem achter het AI-model komt dat neer op het maken van enorm veel en complexe berekeningen.
De samenwerking leunt bovendien op een eerdere overeenkomst, waaruit Oracle Interconnect for Microsoft Azure uit voortkwam. Die dienst maakt het mogelijk om databases bij Oracle aan processen in Azure te koppelen. Microsoft zal de Azure Kubernetes Service aanwenden om dat allemaal in goede banen te leiden.
Wil dat zeggen dat de Bing en de AI-diensten van Microsoft populairder worden? Dat zou goed kunnen, al blijft Google vele malen groter op zoekvlak. Het zou goed kunnen dat Microsoft zich stilaan schrap zet voor de brede lancering van Copilot voor Windows. Daarmee komt zo’n op Bing gebaseerde AI-toepassing naar het Windows-besturingssysteem, wat op zijn beurt nieuwe gebruikers met zich meebrengt. Die extra rekenkracht moet ervoor zorgen dat geen enkele Windows-gebruiker te lang op antwoord van de copiloot moet wachten, tenzij er sprake is van misbruik.
