Google lanceert twee opensource AI-modellen die zelfs op een laptop draaien
Google heeft net twee nieuwe AI-modellen op de wereld losgelaten. Gemma 2B en Gemma 7B zijn twee opensource AI-modellen die gebouwd werden op dezelfde technologie als Gemini. Ze modellen zijn iets kleiner en dus ook minder krachtig, maar kunnen dankzij het opensourcekarakter door iedereen gebruikt en aangepast worden.
De modellen zijn niet uitgebreid als andere, bestaande modellen, maar dat betekent niet dat ze geen nut hebben. Gemma vereist namelijk niet zo veel werkkracht, waardoor forse laptops en desktopcomputers de modellen perfect kunnen draaien. De modellen zijn beschikbaar via Kaggle, Hugging Face, Nvidia’s NeMo en natuurlijk ook via Googles eigen Vertex AI.
Kleiner dan Gemini
De modellen zijn kleiner dan Gemini, maar kunnen beter aangepast worden aan de noden van ontwikkelaars. Voor Gemini hangen zij namelijk vast aan de API die Google biedt. Functies die niet voorzien zijn in zo’n API, kan je niet gebruiken. Dat ligt anders voor de open Gemma-modellen, waar ontwikkelaars aan kunnen vragen wat ze zelf willen. Volgens Google presteren de modellen bijzonder goed, zeker als je rekening houdt met hun grootte.
In benchmarks die het bedrijf deelt, valt te zien dat Gemma 7B steevast beter presteert dan Llama-2 7B, een model van vergelijkbare grootte. Meer nog: Gemma 7B verslaat ook het veel grotere Llama-2 13B over zo goed als de hele lijn.
Verantwoordelijke AI
Google laat de AI-model niet zomaar los op de wereld, maar houdt zijn AI-principes steeds hoog in het vaandel. De trainingsdata werd gefilterd op persoonlijke gegevens en andere gevoelige informatie. Daarnaast zorgt Google ervoor dat de op voorhand getrainde modellen op een verantwoordelijke manier te werk gaan.
Google helpt ontwikkelaars ook om Gemma verantwoordelijk te houden. Het bedrijf lanceert daarvoor een ‘Responsible Generative AI Toolkit’. Die toolkit maakt het voor ontwikkelaars mogelijk om snel en eenvoudig veiligheidsmechanismes toe te voegen aan het model. Dat kan met een minimale hoeveelheid werk: normaal gezien heb je tientallen of honderden voorbeelden nodig van het gedrag of de uitspraken die je wilt vermijden. De toolkit klaart die klus veel sneller, waardoor het makkelijker is om het AI-systeem bepaalde waarden en normen te doen volgen.
Bedrijven en organisaties mogen tools die met Gemma werken commercialiseren en distribueren, zo lang dat op een verantwoordelijke manier gebeurt.
