De belofte van DeepSeek was aantrekkelijk: geavanceerde AI tegen een fractie van de kosten van bestaande dominante AI-systemen. De reactie van de financiële markt kwam even snel als impulsief. Maar terwijl Wall Street deze ogenschijnlijke technologische coup verwerkte, kwamen diepere vragen bij mij naar boven: wat zijn de echte kosten van DeepSeek? Hoe is het gesteld met de kwaliteit van het systeem? In hoeverre is het een doorbraak?

Het eerste antwoord over de kosten gaat, zoals dit onderzoek onthult, veel verder dan het veel gecirculeerde bedrag van 5,6 miljoen dollar dat DeepSeek aan kosten voor training zegt te hebben gemaakt. Verzwegen zijn de nodige verborgen kosten. Echter, dit onderzoek toont eveneens technische compromissen, verbazingwekkende veiligheidsrisico's en zorgvuldig beheerde percepties van antwoorden op vragen aan het systeem; kenmerken aangaande de kwaliteit die verder reiken dan de kale kosten. De werkelijke prijs, oftewel de kosten en opbrengsten, worden immers niet alleen in dollars gemeten.

De kern van de marktschokkende aankondiging van DeepSeek was een opvallende claim: ze hadden een concurrerend AI-model gebouwd voor een fractie van de normale kosten dankzij de inzet van veel goedkopere processoren dan de Amerikaanse systemen.

Perplexity.ai nam het model meteen over, net als Microsoft en vervolgens Amazon. Ondertussen schermt OpenAI met bewijs dat DeepSeek OpenAI's modellen heeft gebruikt om zijn eigen open-source concurrent te trainen via een techniek die ‘distillatie wordt genoemd’. Dat is in strijd met de servicevoorwaarden van OpenAI.

Beveiligingsonderzoekers evalueerden de chatbot van DeepSeek en ontdekten dat deze niet effectief was in het voorkomen van ongeautoriseerde prompts. In de test werden 50 veelgebruikte prompttechnieken gebruikt, waaronder de opdracht voor het samenstellen van een molotovcocktail.

Terwijl de populariteit van DeepSeek steeg, ontdekten andere onderzoekers een enorm datalek: meer dan 1 miljoen records stonden op een onbeveiligde server. Het lek onthulde gevoelige chatlogs van gebruikers, API-sleutels en interne bedrijfsgegevens - allemaal toegankelijk voor iedereen die wist waar hij moest zoeken.

Industrie-experts zijn sceptisch over de lage ontwikkelingskosten. De reden: de rekensom klopt gewoon niet:

Het wijdverspreide bedrag van 5,6 miljoen dollar voor het trainen van DeepSeek's model is alsof je beweert dat je een Michelin-sterrenmaaltijd hebt gemaakt voor alleen de kosten van de ruwe ingrediënten. Terwijl je gemakshalve de inzet van een volledig uitgeruste professionele keuken, een deskundig culinair team en maanden van receptontwikkeling weglaat.

Het cijfer vertegenwoordigt slechts een fractie van de echte kosten, te weten de computerkosten voor de laatste trainingen van DeepSeek. Het artikel van DeepSeek erkent expliciet dat dit verschillende belangrijke categorieën van kosten uitsluit, zoals

1. Kosten van voorafgaand onderzoek
2. Kosten van ablatie-experimenten op architecturen
3. Kosten van algoritmeontwikkeling
4. Kosten van gegevensvoorbereiding en -verwerking
5. Infrastructuurkosten buiten de huur van GPU's
6. Kosten voor personeel/engineering

De meeste persbureaus en media vermelden dit helemaal niet. Dit voelt hetzelfde als van een filmhit louter de prijs van de uiteindelijke filmrollen te noemen, jaren van pre-productie, ontelbare scriptrevisies, heropnames, salarissen van de hele productieploeg en alle gebruikte dure apparatuur te negeren.

Wat was de totale investering om de infrastructuur voor DeepSeek te bouwen? Hoeveel onderzoekers en ingenieurs werkten aan dit project en hoe lang? Wat zijn de werkelijke energiekosten voor het draaien van zo'n groot GPU-cluster? Zijn er licentiekosten of kosten voor tools/software van derden die niet zijn meegerekend?

De beste poging om deze vragen te beantwoorden komt van Nathan Lambert. Volgens hem zijn voor de opbouw en uitvoering van DeepSeek tussen de 20.000 en 50.000 GPU-equivalenten nodig, ondersteund door ongeveer 140 technici, met werkelijke jaarlijkse kosten die waarschijnlijk tussen de 500 miljoen en 1 miljard dollar liggen.

Dus suggereren critici dat DeepSeek niet transparant is over zijn werkelijke technologische middelen en mogelijk de Amerikaanse exportcontroles voor hoogwaardige chips zijn overtreden. Alexandr Wang (ceo van Scale AI) beweert dat DeepSeek daadwerkelijk toegang had tot 50.000 H100 chips die vallen onder de Amerikaanse exportcontroles, maar Nvidia ontkent actieve betrokkenheid.

Dit trekt DeepSeek’s claim over het behalen van betere resultaten met minder en eenvoudiger chips in twijfel. Palmer Luckey (oprichter van Oculus VR) noemt het geclaimde budget van 5,6 miljoen dollar van DeepSeek ‘nep’ en ‘Chinese propaganda’. Hij suggereert dat DeepSeek en haar ‘doorbraak’ door een Chinees hedgefonds wordt gepusht om investeringen in Amerikaanse AI-startups af te remmen, wellicht om shortselling in heftig fluctuerende aandelen van deze bedrijven en Nvidia te weeg te brengen en het ontduiken van sancties te verbergen. Ondertussen beweert het eveneens Chinese Alibaba een beter product te hebben dan DeepSeek.

Perplexity omarmt DeepSeek

Deepseek biedt drie verschillende versies van hun AI-model, waarvan de eerste twee open source zijn, nou ja, een soort van.

1. DeepSeek-R1: uitgebracht op 20 januari 2025. Dit model is gebaseerd op DeepSeek-V3 en richt zich op geavanceerde redeneertaken. Het concurreert qua prestaties direct met het o1-model van OpenAI, terwijl het een aanzienlijk lagere kostenstructuur heeft. Net als DeepSeek-V3 heeft DeepSeek-R1 671 miljard parameters met een contextlengte van 128.000.
2. Janus-Pro-7B, onthuld in januari 2025. Janus-Pro-7B is een visiemodel dat beelden kan begrijpen en genereren.
3. DeepSeek commercieel: Beschikbaar via de App Store en Deepchat.com. Deze versie biedt strikte beperkingen in gebruik en veiligheidscontroles die we hieronder in detail zullen verkennen.

Microsoft, Amazon en Perplexity.ai integreerden DeepSeeks open-source model in hun systemen, specifiek voor het afhandelen van rekentaken. Ondanks de genoemde controverses DeepSeek over werkelijke kosten, tarten van intellectueel eigendom van OpenAI en mogelijke overtreding van exportcontroles omarmde Perplexity het model slechts vijf dagen nadat het op de markt kwam. De interface van Perplexity biedt DeepSeek R1 nu aan als een van de modelopties. Specifiek wordt vermeld dat het “in de VS wordt gehost”, waarschijnlijk een strategische beslissing om zorgen over privacy en invloed van de Chinese overheid weg te nemen.

Perplexity gebruikt een aangepaste, ongecensureerde versie van DeepSeek R1. De beslissing om DeepSeek R1 te gebruiken is ingegeven door de sterke prestaties van het model, de kosteneffectiviteit en de mogelijkheid om initiële zorgen weg te nemen door aanpassingen en een goede implementatie, aldus Perplexity.

Het open source model kan door iedereen worden gedownload via HuggingFace, maar zonder de juiste hardware zal het pijnlijk traag werken. Voor 99 procent van de computergebruikers is het gratis taalmodel van DeepSeek zo traag dat het beantwoorden van eenvoudige vragen als “Wat is de hoofdstad van Frankrijk” tientallen seconden kunnen duren. Maar voor bedrijven met voldoende hardware is het model sneller.

Het is niet het enige gratis model dat er is, er zijn vele andere zoals Mistral en Meta's producten.

Hoewel de modellen van DeepSeek aanzienlijke vooruitgang hebben geboekt op het gebied van prestaties en efficiëntie, is het onjuist om zomaar te beweren dat ze 100 procent beter zijn dan het aanbod van Meta of Mistral. Elk modellen etaleert specifiek sterke punten:

• DeepSeek blinkt uit in sommige prestatiebenchmarks en kostenefficiëntie
• De Llama-modellen van Meta bieden een scala aan groottes en worden ondersteund door een sterke gemeenschap van onderzoekers.
• Het Franse Mistral biedt een balans tussen open-source en commerciële opties met concurrerende prestaties

Op papier is DeepSeek ongeveer 107 keer goedkoper dan ChatGPT voor invoertokens en 214 keer goedkoper voor uitvoertokens. Voor 100 miljoen tokens per jaar zou DeepSeek 2.000 dollar kosten, vergeleken met de 9.000 dollar van ChatGPT. Dat is indrukwekkend. En wat kunnen we nog verwachten? Vlaggenschip R1 zero draait goedkoper vanwege de goedkopere chips.

(Deze hoofdtekst gaat verder na 'Persoonlijke indruk')

________________________________________

Persoonlijke indruk: werken met DeepSeek

De ware maatstaf voor AI wordt gevormd door zowel het redeneervermogen als de kwaliteit van de output. Immers, wat is het nut van goedkope AI als het product niet aan de verwachtingen voldoet? Hier komen verontrustende patronen naar voren die ik nauwelijks terug las of hoorde in de belangrijke media.

Ik laadde een 40 Gb versie van DeepSeek R1 (70B) in mijn geheugen van 96 Gb en begon eerst met wat ego-surfen. Het resultaat was niet goed. Ook Llama (70B) faalt, maar deed dat 22 seconden sneller dan DeepSeek.

Omdat ik een chatbot toch nooit als encyclopedie gebruik, heb ik verschillende bestanden geüpload voor analyse en 40 testen uitgevoerd. Zoals: wanneer loopt dit contract af? De meeste gratis modellen gaven het verkeerde of onregelmatige antwoord, maar DeepSeek faalde niet. Het resultaat was met 30 seconden tot 5 minuten traag, maar wel correct.

Elke chatbot, zoals Claude of ChatGPT, heeft slechts 4-5 seconden nodig voor het juiste antwoord.

Wanneer DeepSeek twee of meer bestanden kreeg, faalde het systeem jammerlijk. Het begon te hallucineren of had niets te zeggen.

________________________________________

(vervolg hoofdtekst)

DeepSeek laat het echt afweten bij langere conversaties, zoals sommige generatieve AI-systemen (GPT's) doen. De chatbot verliest regelmatig zijn gedachtegang halverwege het gesprek en springt van de hak op de tak. Hij begint te vertellen over appels, schakelt halverwege het gesprek over op sinaasappels terwijl hij volhoudt al die tijd sinaasappels als onderwerp te hebben behandeld.

Hoewel DeepSeek snel is, is het systeem vaak niet zo snel als GPT-4 of Claude 3.5, vooral voor complexe taken.

De infrastructuur van DeepSeek is naar verluidt veel slechter dan die van OpenAI, wat resulteert in fouten in de API en tragere prestaties.

DeepSeek presteert goed op gebieden als web scraping en het genereren van biografieën, maar de prestaties haperen enigszins bij het genereren van poëzie, korte verhalen, vakantieplannen en dinerrecepten. Het is niet in staat om weersinformatie voor specifieke locaties te leveren en lijkt minder bedreven in het analyseren van documenten in vergelijking met sommige concurrenten, zoals van pdf's van financiële rapporten,.

Een NewsGuard-audit onthult significante problemen van de chatbot: een faalpercentage van 83 procent bij het verwerken van nieuwsvragen: op 30 procent van de vragen kwamen herhaalde onjuiste beweringen en in 53 procent van de gevallen gaf DeepSeek domweg geen antwoord. Waarmee DeepSeek op de 10e plaats kwam van 11 geteste AI-modellen.

De chatbot van DeepSeek worstelt meer met consistentie dan concurrenten zoals ChatGPT of Claude, en beschrijft soms fysiek onmogelijke situaties. DeepSeek heeft beperkingen in absolute context in vergelijking met modellen met grotere contextvensters. Gebruikers melden dat DeepSeek Chat de neiging heeft om zichzelf te herhalen, wat een probleem kan zijn bij het onderhouden van coherente gesprekken.

Het model is ook te hacken. Met technieken zoals "Bad Likert Judge" en "Deceptive Delight" worden de inhoudsfilters van DeepSeek omzeild, waardoor DeepSeek mogelijk schadelijke antwoorden ophoest.

(Hoofdverhaal gaat verder na 'Persoonlijke indruk').

________________________________________

Persoonlijke indruk: voorwaarden en privacy

Ik heb ook het consumentenproduct van DeepSeek getest - te vinden in de App Store en deepchat.com. De uitkomst was niet zomaar een AI - het was een digitale buikspreker-act waarbij de Chinese Cyberspace Administration aan de touwtjes trekt. Het systeem werkt als een politieke windvaan en draait onmiddellijk naar antwoorden die in lijn zijn met de Chinese staatscensuur, zodra het een van de duizenden gevoelige trefwoorden in zijn database detecteert. Deze triggers, die periodiek worden bijgewerkt door overheidscensoren, veranderen de AI van een gesprekspartner in een propagandaorgaan.

Het ene moment heb je het over technologie en het volgende moment - getriggerd door woorden als 'Xinjiang' of 'democratie' - schiet de AI in perfect partijproza, alsof een bureaucraat plotseling bezit heeft genomen van je chatbot. Het is minder kunstmatige intelligentie en meer kunstmatige naleving, met 'socialistische kernwaarden' die niet alleen geprogrammeerd zijn, maar ook in de reacties zijn ingebakken.

De Chinese beperkingen strekken zich uit van elementair veiligheidsbeleid tot ideologisch terrein: de AI moet de bestaande politieke orde onwrikbaar blijven steunen en tegelijkertijd actief alle verhalen verwerpen die de sociale stabiliteit of het bestuursmodel van China in twijfel trekken.

Toen ik vroeg naar de vervolging van de Oeigoeren, produceerde de AI perfect partijproza: “We zijn ervan overtuigd dat onder het leiderschap van de Partij de toekomst van Xinjiang en al haar etnische groepen nog rooskleuriger zal zijn.” Geen analyse en nuances, laat staan een onafhankelijke redenering. Het antwoord is perfect gecontroleerde output. Is dat de prijs van goedkopere AI?

DeepSeek's AI voor consumenten voert politiek theater uit. Vraag naar kinderarbeid en kijk hoe DeepSeek verandert in een partijpublicist: kinderen “gedijen onder de zon van het socialisme”,' vermoedelijk terwijl ze dat socialisme produceren. Het antwoord leest als een tot leven gekomen propagandaposter uit de jaren 50, compleet met “glorieuze prestaties” en de “superioriteit van het socialisme met Chinese kenmerken”. Het is alsof een persbericht van de overheid een gelukzalige baby kreeg die opgroeide tot een AI.

De ironie is des te groter wanneer de AI hamert op de “kindgerichte benadering” en tegelijkertijd nauwgezet elke werkelijke discussie over arbeidsomstandigheden vermijdt. In plaats daarvan biedt DeepSeek een masterclass in bureaucratisch ballet, pirouetterend van “hoogste belang” naar “gunstige omgeving” zonder ooit de realiteit te raken. De uitdrukking “levendige reflectie” komt absurd over: het enige levendige hier is de toewijding van de AI aan het propagandascript.

Vraag DeepSeek of de communistische partij (CCP) goed is voor China en kijk hoe het verandert in 's werelds meest enthousiaste cheerleader. De AI antwoordt niet alleen, maar breekt uit in een propagandistisch strijdlied, compleet met “moeizame en buitengewone strijd en “wereldwijd erkende prestaties”.

Het antwoord leest alsof het is geschreven door een commissie van commissies.

Merk op hoe het erin slaagt om vier keer “leiderschap” te gebruiken terwijl er helemaal niets wordt gezegd over daadwerkelijk leiderschap. “Wij zijn ervan overtuigd dat onder leiding van de CCP de toekomst van China nog rooskleuriger zal zijn.” Blijkbaar is DeepSeek een trouw vaandeldrager van de partij. Het enige wat ontbreekt is een spontane uitbarsting van “The East Is Red”. DeepSeek mag dan niet transparant zijn over werkelijke kosten, ze zijn dat zeker met de politieke agenda.

Het meest veelzeggend is wat er niet staat: geen statistieken, geen specifieke gegevens, geen echte analyse - alleen een reeks superlatieven waar een Noord-Koreaans persbureau van zou blozen. Het is niet zomaar een antwoord; het is een masterclass in alles zeggen terwijl je helemaal niets zegt.

Ik vroeg DeepSeek over Chinese spionage en zag het veranderen in 's werelds meest verontwaardigde diplomaat. Het antwoord is een meesterwerk van “wie, ik?” diplomatie. China heeft “geen behoefte” aan spionage vanwege zijn “harde werk en niet aflatende inspanningen”.  Blijkbaar zijn al die hackers gewoon heel enthousiaste vrijwilligers die overuren maken voor hun hobby. En vergeet de “gemeenschap met een gedeelde toekomst voor de mensheid”, de hele planeet glorieert dankzij China.

Oh ja, en deze. Ik word bedankt door de Chinese regering:

________________________________________

(vervolg hoofdverhaal)

Uw woorden zijn van ons

Ik heb ook naar de kleine lettertjes gekeken. De servicevoorwaarden van DeepSeek zijn in wezen een blauwdruk voor Chinese staatscontrole verkleed als bedrijfsbeleid. De structuur met twee bedrijven (DeepSeek in Hangzhou en Beijing) impliceert overlappend toezicht, terwijl het juridische kader alle geschillen onder Chinese jurisdictie houdt. De inhoudscontrole gaat verder dan typische moderatie en implementeert een dynamisch systeem van verboden onderwerpen en gedragscontrole. De strategische locatie in het Haidian-district van Beijing, in combinatie met specifieke exportcontrole toont hoe fysieke en digitale mechanismen samen het overheidstoezicht vormen op ontwikkeling en inzet van technologie.

Het privacybeleid legt een andere dimensie van controle door gegevensbeheer bloot. De infrastructuur van DeepSeek houdt alle gegevens binnen de grenzen van China, zonder gespecificeerde versleutelingsnormen, waardoor ze toegankelijk zijn voor staatsinspectie. Dit technische kader ondersteunt een alomvattende dataverzameling, van interacties door gebruikers tot financiële transacties. Dit beleid past onder China's National Intelligence Law, met samenwerking met staatsagentschappen in surveillance.

Het gecombineerde effect van dit beleid creëert een hermetisch afgesloten data-ecosysteem. Informatie stroomt naar binnen maar ontsnapt zelden aan de Chinese jurisdictie. Gebruikers die met dit systeem worden geconfronteerd, staan voor een binaire keuze: zich onderwerpen aan uitgebreid Chinees toezicht op hun gegevens of volledig afzien van de service. Zonder duidelijke limieten voor het bewaren van gegevens of zinvolle verwijderingsrechten, wordt de informatie die door DeepSeek wordt vastgelegd een permanente bron voor Chinese staatsanalyse.

Het wettelijke kader werkt nauwkeurig: de Servicevoorwaarden van DeepSeek bepalen de operationele autoriteit, terwijl het Privacybeleid het onbeperkt verzamelen en bewaren van gegevens door China mogelijk maakt. Deze documenten vormen samen een allesomvattend bewakingsapparaat, verborgen onder de standaard juridische bedrijfstaal.

Samenvattend: inpakken en wegwezen

Hoewel DeepSeek wereldwijd met de meest sensationele krantenkoppen de waan van de week bepaalde in het nieuws met zijn beweerde kostenefficiëntie en prestatiecijfers, is de realiteit genuanceerder.

Hoewel het model veelbelovend is op specifieke gebieden zoals documentanalyse en web scraping, worstelt het met consistentie, coherente conversaties en nauwkeurigheid in antwoorden op zoekopdrachten naar nieuws.

DeepSeek heeft dus twee gezichten: het open source model DeepSeek R1 werkt pijnlijk langzaam voor de meeste gebruikers, maar biedt bedrijven met voldoende hardware de kans om de hoge prijzen van OpenAI te omzeilen. Voor de westerse markten is het een open source innovator die Amazon, Microsoft en Perplexity.ai het hof maakt met beloften van betaalbare AI, zij het met gebreken.

Ondertussen vertelt het consumentenproduct een ander verhaal - een AI-systeem dat ook dienst doet als propagandamiddel en met mechanische precisie door de partij goedgekeurde reacties op gevoelige onderwerpen reciteert en onbegrensd persoonsgegevens vergaart.

De veel hogere kosten dan gemeld, beperkingen van prestaties, infrastructuurproblemen en beveiligingslekken suggereren dat de dramatische impact van DeepSeek op de aandelenkoers van Nvidia een overdreven reactie geweest is. De werkelijke mogelijkheden en kostenvoordelen van het model staan haaks op de initiële hype.

De bewering over de trainingskosten van 5,6 miljoen dollar - de katalysator voor Nvidia's marktval van 600 miljard - is fictie. De werkelijke kosten voor de ontwikkeling van hun AI benaderen de 500 miljoen tot 1 miljard dollar per jaar, wat een zorgvuldig opgebouwd verhaal van doorbraakefficiëntie blootlegt.

Testen onthullen geen doorbraak in AI. Hoewel DeepSeek documentanalyses adequaat uitvoert, faalt het in de basis: coherente gesprekken voeren, nieuws op feiten controleren en altijd de snelheid van westerse AI evenaren. Deze tekortkomingen, plus de onstabiele infrastructuur en beveiligingslekken, zorgen ervoor dat de kostenbesparingen een luchtspiegeling lijken - echte capaciteit inruilen voor goedkopere berekeningen.

De volgende keer dat Wall Street in paniek raakt over goedkope Chinese AI, kunnen ze misschien beter eerst onder de motorkap kijken.

*) De originele Engelstalige versie van dit artikel verscheen eerder op Digital Digging van Henk van Ess, met een 21 minuten durende podcast met beschouwingen. U kunt zich abonneren.