Een hert in je woonkamer? Gemini voor smarthome ziet dingen die er niet zijn en dat is niet het enige probleem
Het is bekend dat Google zo ongeveer overal Gemini in wil steken, dus ook in smarthometoestellen. Recent is dan ook de transitie ingezet van Google Assistant naar Gemini. Leuk natuurlijk, want met Gemini zou een veel slimmere en intuïtievere besturing mogelijk zijn. Toch lijkt de AI-assistent zo zijn eigen kinderziektes te hebben.
Sinds de uitrol van van Gemini for Home begonnen is, hebben verschillende gebruikers al problemen gemeld. De integratie met Nest Cam bijvoorbeeld resulteerde voor een bepaalde gebruiker in een melding dat er een hert in de woonkamer stond, maar uiteindelijk bleek het gewoon om de hond van het gezin te gaan. Elders zag Gemini dan weer mensen die er helemaal niet waren.
Los van dergelijke hallucinaties en verkeerde interpretaties, die we ook bij AI-chatbots zien, zijn er ook wat functionele onvolmaaktheden die opduiken. Zo lijkt Gemini toch niet altijd goed te weten wat een gebruiker precies bedoelt, kunnen bepaalde opdrachten niet uitgevoerd worden en werken bepaalde routines plots niet meer.
Kinderziektes of groter probleem?
Kinderziektes zijn natuurlijk te verwachten, maar de toekomst zal moeten uitwijzen hoe hardnekkig ze zijn. Bij Google zullen ze alleszins goed hun best doen om de detectiemodellen te verbeteren. Dat is ook nodig, want zeker bij smarthometoestellen kunnen dergelijke kinderziektes zich al snel vertalen naar een groter probleem. Slimme apparaten worden immers gepromoot om onze huizen veilig te houden, maar als ze er niet in slagen zaken correct te interpreteren of aan te sturen, is het moeilijk om ze te vertrouwen en zeker als het om veiligheid gaat, is dat vertrouwen natuurlijk essentieel.
Het zal dus belangrijk zijn voor Google om de problemen die nu opduiken snel aan te pakken en het vertrouwen van gebruikers niet te laten wegsmelten. Een smarthomesysteem dat gebruikers niet vertrouwen, mist immers zijn nut en kan qua negatieve perceptie lang aan een merk blijven kleven. Exact daarom echter is de kans echter groot dat Google er een prioriteit van zal maken om de betrouwbaarheid van Gemini for Home op te krikken.
