De DeepSeek-app is een privacyramp in wording
De razendsnelle opkomst van de Chinese AI-chatbot DeepSeek heeft een keerzijde. Volgens onderzoek van beveiligingsbedrijf NowSecure verzendt de app gevoelige gegevens zonder encryptie naar servers in China. Daarnaast zou de app onveilige encryptiemethoden gebruiken, wat grote privacyrisico’s met zich meebrengt.
Populair, maar onveilig
DeepSeek, tot een paar weken geleden een relatief onbekend bedrijf, baarde heel wat opzien met de lancering van hun AI-chatbot. Het systeem komt op vlak van redeneervermogen in de buurt van de modellen van OpenAI. Opvallend was vooral dat DeepSeek beweerde dat de ontwikkeling van het R1-model slechts 6 miljoen dollar kostte. In AI-termen is dat een appel en een ei: gelijkaardige systemen kosten al gauw een miljard dollar om te ontwikkelen. SemiAnalysis berekende dat de ware kostprijs daar niet veel van verschilde. In totaal zou het 1,6 miljard dollar gekost hebben om het AI-systeem te ontwikkelen.
De app werd binnen enkele dagen de populairste gratis iPhone-app en is momenteel zelfs populairder dan de ChatGPT-app van OpenAI. Nu blijkt echter dat de app elementaire beveiligingsmaatregelen negeert. NowSecure ontdekte dat DeepSeek gevoelige data onversleuteld verzendt, waardoor kwaadwillenden deze kunnen onderscheppen of manipuleren. Van de 1,6 miljard dollar lijkt dus niet veel naar de beveiliging van het AI-systeem te zijn gegaan. Vast staat dat de app daardoor niet overeenstemt met de beveiligingsrichtlijnen die Apple hanteert voor iOS-apps. Het bedrijf raadt bijvoorbeeld aan om gegevens te versturen met het beveiligd App Transport Security-protocol (ATS). Dat werd echter proactief uitgeschakeld in de iOS-app van DeepSeek.
Dataverzameling en koppeling met ByteDance
Daarnaast wordt een deel van de gebruikersgegevens doorgestuurd naar servers die worden beheerd door ByteDance, het moederbedrijf van TikTok. Hoewel sommige data versleuteld wordt verstuurd, kan ByteDance deze na ontsleuteling combineren met andere verzamelde informatie, wat gebruikers potentieel identificeerbaar maakt. Bij ByteDance zitten ze bovendien op een schat van informatie, waardoor misbruik niet ondenkbaar wordt.
NowSecure ontdekte ook dat de app gebruikmaakt van 3DES, een encryptiemethode die al sinds 2016 als onveilig wordt beschouwd. Een extra risico is dat de coderingssleutel identiek is voor alle iOS-gebruikers en hardcoded in de app staat. Met andere woorden: hackers moeten de versleuteling niet eens proberen kraken, maar kunnen gewoon op zoek naar het wachtwoord. Het is onduidelijk of hier slechte wil achter zit, al is het wel een erg onnozele beginnersfout om de sleutels zo in de app te zetten.
Nog onveiliger op Android
Gezien deze ernstige tekortkomingen adviseert NowSecure gebruikers en bedrijven om de DeepSeek-app direct te verwijderen. De belangrijkste risico’s zijn:
- Onversleutelde verzending van gevoelige gegevens
- Gebruik van verouderde en kwetsbare encryptietechnieken
- Data-opslag en -analyse in China
- Mogelijke koppeling van gebruikersgegevens met ByteDance
DeepSeek heeft nog niet gereageerd op de bevindingen. Ook Apple heeft geen verklaring gegeven over waarom de app, ondanks deze beveiligingsrisico’s, nog steeds beschikbaar is in de App Store. Bedrijven die het model, dat opensource beschikbaar is, lokaal draaien, kunnen dat blijven doen. Zij dienen er wel rekening mee te houden dat de ingebouwde censuur ook dan van toepassing blijft.
Opvallend is dat de Android-versie van de app volgens NowSecure nog onveiliger is dan de iOS-versie. Op welke manieren de veiligheid daar tekort schiet, laten ze echter in het midden. Het onderzoek van NowSecure spitst zich namelijk vooral op de iOS-app toe.
