DinooToo laat medewerkers zonder securityzorgen gebruik maken van data in GenAI-toepassingen
Aanvankelijk lieten veel bedrijven het toenemende gebruik van tools zoals ChatGPT enigszins op z’n beloop, wat risico’s inhield voor sensitieve data in de organisatie. Gebruikers delen niet alleen belangrijke bedrijfsinformatie in een open omgeving, de kans is ook groot dat de leveranciers van het GenAI-platform die gegevens bijhouden om hun model te trainen. Wie dit wel besefte, kon het gebruik van bepaalde data in een Large Language Model (LLM) natuurlijk ook gewoon verbieden, maar zonder die informatie blijft de waarde van een LLM voor de organisatie eerder beperkt.
Voor medewerkers is het dus essentieel dat ze confidentiële data op een model kunnen loslaten. Daarom lanceerde Orange in 2023 DinooToo voor intern gebruik. Intussen is de oplossing ook voor klanten beschikbaar. Wat DinooToo uniek maakt, is het feit dat de tool gebruikers in een beveiligde en gecontroleerde omgeving laat profiteren van de belangrijke LLM’s op de markt – van ChatGPT tot Google Gemini, en van Mistral tot Anthropic.
Aangrzien alles binnen de eigen tenant gehost wordt, biedt DinooToo zowel technische als contractuele garanties. Zo kan data de veilige omgeving van de tenant niet verlaten en worden gegevens dus niet gebruikt voor training van een ander model.
Een betrouwbare AI-assistent
Concreet bestaat DinooToo uit drie componenten of services waarvoor mensen met GenAI aan de slag gaan. De tool voorziet een chatbot die vergelijkbaar is met ChatGPT en handig is voor het verwerken van documenten of het genereren van output. De gebruiker mag zelf kiezen tussen de verschillende modellen die beschikbaar zijn. DinooToo krijgt ook regelmatig updates, waardoor nieuwe modellen meestal al een week tot een maand na hun release beschikbaar zijn in DinooToo.
Een tweede service genereert afbeeldingen en is gebaseerd op DALL-E 3 van OpenAI. En tot slot is er een optie die documenten doorzoekt om vragen van gebruikers te beantwoorden.
Het doel van DinooToo is iedere gebruiker te voorzien van een model dat aan de vereisten van hun rol voldoet. Zo creëert de tool ook AI-assistenten. Een HR-medewerker, bijvoorbeeld, kan aan zo’n assistent een vraag stellen, waarna het model de HR-policy in allerlei beschikbare documenten analyseert, een antwoord genereert, en ook uitlegt waar dat antwoord precies te vinden valt.
Tijdsbesparing, maar ook hogere kwaliteit
DinooToo is inmiddels heel populair. Per maand groeit het aantal gebruikers met ongeveer 10% – op dit moment gebruiken zo’n 60.000 mensen de tool. Maar het aantal verzoeken neemt met een maandelijkse stijging van 30% nog sneller toe. Niet alleen omdat het aantal gebruikers stijgt, maar ook omdat bestaande gebruikers DinooToo steeds vaker raadplegen. Dat doen ze voor een brede waaier aan taken, zoals het analyseren van documenten, hulp bij softwareontwikkeling, het zoeken naar bugs in code, vertalingen van de ene programmeertaal naar de andere, etc.
Gebruikers melden dat ze met de oplossing gemiddeld zo’n twee uur per week uitsparen. Behalve tijdsbesparing biedt de tool ook andere voordelen, zoals een forse kwaliteitsverbetering van de output die medewerkers genereren. Zo kunnen ze bijvoorbeeld teksten laten herformuleren door DinooToo en de structuur en kwaliteit ervan verbeteren. Of ze kunnen de oplossing inzetten voor brainstorming en als sparringpartner om ideeën uit te wisselen.
Tips voor een slimmer gebruik van GenAI
Gebruikers vinden in DinooToo ook een bibliotheek met generieke handelingen, zoals aanvragen of templates voor prompts. Daarnaast biedt de tool trainingssessies aan. Hieronder delen we vier tips die we ook aan onze eigen medewerkers en klanten geven wanneer ze met DinooToo werken:
- Controleer altijd de inhoud van de antwoorden die modellen genereren. Een LLM gebruikt informatie om nieuwe informatie te produceren. Maar als er weinig info beschikbaar is, dan loop je het risico dat het model gaat hallucineren. “Ik weet het niet” staat niet in het woordenboek van een LLM. Vertrouw dus niet blindelings, zonder inbreng van je eigen expertise, op de inhoud van een antwoord.
- Besteed voldoende aandacht aan het risico op bias. Er kunnen altijd vooroordelen sluipen in de informatie waarop je een model traint. Een bekend voorbeeld is het verhaal van een Aziatische vrouw die een LLM vraagt om haar profielfoto op LinkedIn te verbeteren en moet vaststellen dat het model er een blanke vrouw van heeft gemaakt.
- Vraag een model om broninformatie mee te geven. Zo kan je gemakkelijk nagaan waar de inhoud van een antwoord vandaan komt.
- Steek genoeg energie in het opstellen van prompts. Hoe meer aandacht je besteedt aan het stellen van een vraag, des te hoger de kwaliteit van het antwoord zal zijn. Geef zoveel mogelijk informatie over wat je precies nodig hebt en wat je van het resultaat verwacht.
Auteur: Bart Van Kildonck, AI-expert bij Orange Cyberdefense
Dit artikel is geschreven door een van onze partners en valt buiten de verantwoordelijkheid van de redactie.
