In de snelgroeiende wereld van kunstmatige intelligentie (AI) zijn startups zoals DeepSeek steeds prominenter aan het worden. DeepSeek, een Chinese AI-startup, heeft met zijn geavanceerde AI-modellen, zoals het DeepSeek-R1 model, flink wat aandacht getrokken. Het model wordt geprezen om zijn prestaties, die rivaliseren met de grootste AI-systemen, zoals OpenAI’s GPT. Maar met de snelle groei van dergelijke bedrijven komen ook beveiligingsproblemen, zoals blijkt uit een recente kwetsbaarheid die door Wiz Research werd ontdekt.
Wat Gebeurde Er?
Wiz Research ontdekte dat DeepSeek een publiek toegankelijke ClickHouse-database had, die totaal niet goed beveiligd was. Deze database bevatte miljoenen logregels met gevoelige informatie, zoals chatgeschiedenis, API-sleutels en interne systeemdata. ClickHouse is een open-source systeem dat vaak wordt gebruikt om grote hoeveelheden gegevens te verwerken, en de blootstelling van zulke gegevens zonder enige beveiliging was een ernstige ontdekking.
Hoe werd de Kwetsbaarheid Ontdekt?
Wiz Research begon met het scannen van de publieke domeinen van DeepSeek en vond uiteindelijk ongeveer 30 subdomeinen. De meeste waren onschuldig, zoals chatinterfacepagina’s en API-documentatie, maar er waren ook twee ongewone poorten (8123 en 9000) die toegang gaven tot een ClickHouse-database. Zonder enige beveiliging konden onderzoekers de database benaderen en ontdekten ze gevoelige gegevens die normaal gesproken niet openbaar zouden mogen zijn.
Wat Was het Gevaar?
Het grootste risico van deze blootstelling was niet alleen het inzien van gegevens, maar ook de mogelijkheid voor aanvallers om volledige controle over de database te krijgen. Dit zou hen in staat stellen om wachtwoorden in platte tekst te verkrijgen, toegang te krijgen tot interne systemen of zelfs vertrouwelijke documenten te downloaden.
De database bevatte onder andere logbestanden met informatie zoals chatgeschiedenis, API-sleutels en andere gevoelige gegevens, die zonder enige beveiliging voor iedereen toegankelijk waren. Dit benadrukt hoe belangrijk het is om zorgvuldig om te gaan met het delen van gevoelige gegevens via internet.
De Advies van Network Chuck: AI Lokaal Draaien voor Betere Beveiliging
Een andere belangrijke les komt van Network Chuck, een populaire tech-expert op YouTube. In een van zijn video's waarschuwt hij voor de risico’s van het vertrouwen van gevoelige informatie aan AI-modellen die via het internet draaien. Vanuit een beveiligingsoogpunt is het volgens hem beter om AI-systemen lokaal te draaien, in plaats van ze via cloudplatforms te gebruiken. Dit heeft verschillende voordelen:
- Betere Controle over Gegevens: Door AI lokaal te draaien, houdt een organisatie de volledige controle over de gegevens die ermee worden verwerkt. Gevoelige informatie blijft binnen het netwerk en komt niet in handen van derden.
- Veiligheid: Lokale systemen zijn vaak beter te beschermen tegen aanvallen van buitenaf, aangezien ze niet toegankelijk zijn via internet. Dit kan de kans op datalekken aanzienlijk verkleinen.
- Geen Vertrouwen op Derden: Je hoeft geen gevoelige gegevens toe te vertrouwen aan externe cloudleveranciers die mogelijk niet dezelfde beveiligingsmaatregelen nemen als jijzelf. Dit verkleint het risico op bijvoorbeeld onbedoelde blootstellingen of datalekken.
Maar Er Zijn Ook Nadelen...
Hoewel het draaien van AI lokaal veel voordelen biedt, zijn er ook enkele belangrijke nadelen:
- Snelheid en Prestaties: Het draaien van krachtige AI-modellen lokaal kan veel rekenkracht vereisen. Dit kan leiden tot vertragingen in de prestaties, vooral als de hardware niet voldoende krachtig is.
- Kosten: Het onderhouden van een lokaal systeem kan kostbaar zijn. Dit geldt vooral als je een krachtige server nodig hebt voor het draaien van AI-modellen, wat veel energie en resources kan verbruiken.
- Beperkingen in Schaalbaarheid: Cloudoplossingen bieden vaak de mogelijkheid om snel op te schalen, iets wat moeilijker is als je alles lokaal beheert. Bij veel dataverkeer of een plotselinge toename van de vraag kan je lokale infrastructuur in de knel komen.
Wat Kunnen Bedrijven Doen om Dit te Voorkomen?
- Beveiliging vanaf het begin – Zorg ervoor dat beveiliging altijd vanaf het begin wordt ingebouwd in je systemen. Dit geldt zowel voor de AI-modellen zelf als voor de onderliggende infrastructuur.
- Regelmatige controles – Voer regelmatig beveiligingsaudits en controles uit om te zorgen dat geen gevoelige informatie onbedoeld wordt blootgesteld.
- Samenwerking tussen teams – Zorg ervoor dat beveiligingsteams nauw samenwerken met de ontwikkelaars van de AI-systemen om te waarborgen dat alles goed wordt beschermd.
Conclusie
De ontdekking van deze kwetsbaarheid in DeepSeek herinnert ons eraan hoe belangrijk het is om beveiliging niet te verwaarlozen, vooral bij het omgaan met gevoelige informatie. AI-modellen moeten net zo goed beveiligd worden als de infrastructuren van traditionele technologiebedrijven. Het advies van Network Chuck om AI lokaal te draaien biedt een waardevolle strategie om de beveiliging van klantgegevens te waarborgen, hoewel dit wel met uitdagingen zoals kosten en prestaties gepaard gaat. Uiteindelijk moeten bedrijven de juiste balans vinden tussen toegankelijkheid, prestaties en beveiliging om de risico’s te minimaliseren.
Lees ook onderstaand artikel over het gebruik van DeepSeek
Bronnen:
- Het oorspronkelijke onderzoek door Wiz Research: Wiz Blog
- Uitleg van Network Chuck over het lokaal draaien van AI (Engelstalig): YouTube - Network Chuck
