Chrome voortaan beter gewapend tegen AI-misbruik via promptinjectie
Browsers beginnen meer en meer te evolueren naar agentische browsers die met behulp van AI autonoom dingen in naam van de gebruiker kunnen doen. Denk daarbij aan mails beheren, afspraken boeken en meer. Hoewel die extra functionaliteit handig kan zijn, komen er ook extra risico’s bij kijken.
Een van de grootste gevaren is misbruik via zogenaamde promptinjectie. Bij zo’n aanval verstoppen cybercriminelen malafide opdrachten in mails, webpagina’s, advertenties en meer, die dan opgepikt worden door de AI-agent en ook uitgevoerd kunnen worden. Op die manier wordt je AI-hulpje dus tegen jou gebruikt en kunnen privégegevens doorgestuurd worden, ongewenste betalingen verricht worden en meer.
Beveiliging uit meerdere lagen
In de nieuwe beveiligingsarchitectuur werkt Google met meerdere lagen van verdediging. Zo introduceert het bedrijf om te beginnen iets dat het de User Alignment Critic noemt. Dat is een aparte AI-module die alle voorgestelde acties van de browseragent vóór uitvoering controleert. Daarbij wordt enkel naar metadata gekeken, niet naar de inhoud van een webpagina. Zo kan de Critic herkennen of een bepaalde actie wel echt past bij wat jij als gebruiker zou willen. Als er iets verdacht passeert, zal de Critic de opdracht tegenhouden.
Voorts beperkt Chrome voortaan tot welke websites of domeinen een agent toegang heeft. Alleen domeinen die relevant zijn voor de opdracht zijn beschikbaar, wat het risico op misbruik beperkt. Het is zo immers niet meer mogelijk om het AI-systeem om de tuin te leiden en naar een malafide website te sturen.
Ook belangrijk: gebruikers moeten expliciet toestemming geven wanneer de browseragent gevoelige of risicovolle acties wil uitvoeren. Denk daarbij aan inloggen bij je bank, betalingen uitvoeren of medische dossiers raadplegen. Bovendien houdt Chrome logs bij. Op die manier kan je altijd nagaan wat een agent precies gedaan heeft, wat handig is voor transparantie en controle.
Tot slot is er ook nog een element van real-time detectie. Pagina’s worden actief gescand op verdachte inhoud, zoals bepaalde oplichtingspatronen. Dit zorgt er vooral voor dat er ook een verdedigingslinie bestaat tegen de nieuwste technieken die gehanteerd worden door cybercriminelen.
Continu waakzaam
Met deze nieuwe opzet laat Google duidelijk zien dat de veiligheid van hun AI-browser een prioriteit is, wat op zich natuurlijk niet meer dan logisch is. Toch mogen we niet zomaar op onze beide oren slapen. Cybercriminelen staan zelf immers ook niet stil en vinden constant nieuwe manieren om bestaande verdedigingslinies te omzeilen. Het is een kat-en-muisspel waarbij ook de gebruiker zelf continu waakzaam moet blijven.
Zoals gezegd is Google nu begonnen met het uitrollen van deze nieuwe beveiligingsarchitectuur. Je brower up-to-date houden is dan ook de boodschap. Op die manier krijg je de best mogelijke bescherming tegen AI-misbruik, al moet je zelf dus ook nog altijd op je hoede blijven.
