TL;DR
- Wat: Elon Musk stelt dat Grok 4.5 nog niet draait op de eigen C/C++-inferentiesoftware van xAI, en dat een verdubbeling van de huidige snelheid haalbaar is.
- Waarom relevant: snellere AI-modellen tegen lagere kosten beïnvloeden direct wat je als ondernemer betaalt per API-aanroep — en hoe snel je tools reageren.
- Wat je ermee kunt: houd bij hoe de prijs-per-token zich ontwikkelt voordat je langlopende AI-contracten afsluit.
Ik kwam deze tweet van Elon Musk tegen, geplaatst vlak na de lancering van Grok 4.5 op 8 juli. Wat hij in feite zegt: het model dat net is uitgebracht, draait nog niet op de snelste software die ze intern aan het bouwen zijn. Dat vind ik een opvallende uitspraak, want het betekent dat wat we nu zien mogelijk pas het halve verhaal is.
Wat er precies is gezegd
De tweet luidt: "Grok 4.5 is not yet using our internally developed C/C++ inference software that exact maps to the GB300 hardware. Doubling or more of the current speed is probably achievable."
Laat me dat even ontleden. Grok 4.5 draait momenteel op circa 80 tokens per seconde — dat is al behoorlijk snel vergeleken met veel concurrerende modellen. Musk claimt nu dat die snelheid nog kan verdubbelen, of meer, zodra hun eigen software in gebruik wordt genomen.
De GB300 waar hij naar verwijst, is NVIDIA's meest recente server-GPU: de Grace Blackwell Ultra. Eén rack van die hardware levert 1.440 petaflops aan rekenkracht. Dat zijn getallen die lastig voor te stellen zijn, maar het komt erop neer dat dit de krachtigste chip is die je op dit moment kunt inzetten voor AI-taken.
Waarom een eigen softwarestack?
Dit is het deel dat ik het meest interessant vind. De meeste AI-bedrijven gebruiken bestaande frameworks zoals JAX (van Google) of PyTorch om hun modellen te trainen en te laten draaien. SpaceXAI — het bedrijf dat eerder xAI heette en inmiddels is opgegaan in SpaceX — heeft besloten om die frameworks grotendeels te vervangen door eigen software, geschreven in C en C++.
Waarom? Omdat die bestaande frameworks abstractielagen hebben. Vergelijk het met een vertaler die tussen jou en je gesprekspartner staat: het werkt, maar er gaat snelheid en nuance verloren. Door software te schrijven die direct "praat" met de hardware — wat ze "exact mapping" noemen — vermijd je die vertaalslag.
Volgens eerdere uitspraken van Musk, gerapporteerd door onder meer We Talk Tesla, zou deze aanpak meer dan een factor 10 snelheidswinst kunnen opleveren ten opzichte van JAX voor grote trainingsruns. Voor inferentie — het daadwerkelijk gebruiken van een model, niet het trainen ervan — wordt een vergelijkbare aanpak nu toegepast.
Ik denk dat dit een bewuste strategische keuze is: door de hele softwarestack zelf te beheersen, van code tot chip, heb je meer controle over kosten en snelheid. Dat is overigens precies wat Apple al jaren doet met hardware en software samen ontwerpen.
Wat betekent snelheid voor jou als ondernemer?
Je zou kunnen denken: wat maakt het mij uit of een AI-model 80 of 160 tokens per seconde produceert? Dat is een terechte vraag. Het antwoord zit hem in twee dingen: kosten en bruikbaarheid.
Kosten per token
Grok 4.5 is nu al opvallend scherp geprijsd. De API kost $2 per miljoen inputtokens en $6 per miljoen outputtokens. Ter vergelijking:
- Anthropic's Claude Opus 4.8: $5 input / $25 output per miljoen tokens
- OpenAI's GPT-5.6 Luna: $1 input / $6 output per miljoen tokens
- Google's Gemini 3.1 Pro: $2 input / $12 output per miljoen tokens
Als SpaceXAI erin slaagt de inferentiesnelheid te verdubbelen met dezelfde hardware, dan dalen de kosten per token verder. Meer tokens per seconde op dezelfde GPU betekent simpelweg: meer werk met dezelfde investering. Dat verschil tikt aan als je AI structureel inzet — stel dat je als ondernemer dagelijks honderden klantvragen automatisch laat beantwoorden of documenten laat samenvatten.
Bruikbaarheid in de praktijk
Snelheid bepaalt ook hoe prettig een AI-tool aanvoelt. Een chatbot die twee seconden wacht voor een antwoord voelt anders dan eentje die direct reageert. Bij agenttaken — waarbij een AI-model meerdere stappen achter elkaar uitvoert, bijvoorbeeld een heel document analyseren, acties voorstellen en vervolgens uitvoeren — wordt snelheid nog belangrijker. Elke stap kost tijd, en die stapelt zich op.
Kun je je voorstellen wat het betekent als een geautomatiseerd proces dat nu tien minuten duurt, straks in vijf minuten klaar is? Dat is het verschil waar we het over hebben.
Kanttekeningen
Er zijn een paar dingen die ik eerlijk wil benoemen.
Ten eerste: dit is een claim van Musk op X, niet een technische benchmark van een onafhankelijke partij. "Doubling or more" is geen exacte belofte, het is een inschatting. Het woord "probably" staat er niet voor niets.
Ten tweede: Grok 4.5 is op sommige benchmarks sterker dan concurrenten, maar niet op alle. Volgens de eigen benchmarkdata van SpaceXAI scoort het model 64,7% op SWE-Bench Pro, terwijl Opus 4.8 daar hoger uitkomt. Op andere tests, zoals Terminal-Bench 2.1 (83,3%), doet Grok 4.5 het juist beter. Het is dus geen eenduidig beeld.
Ten derde: de C/C++-stack is nog niet af. SpaceXAI meldde eind mei dat versie 1.0 van de trainingsstack bijna klaar was. De inferentiestack — die relevant is voor de snelheidsclaim in deze tweet — is volgens berichten nog in ontwikkeling. Wanneer die daadwerkelijk in productie gaat, is niet bevestigd.
Wat dit signaleert voor de AI-markt
Wat mij opvalt aan deze ontwikkeling is niet zozeer de specifieke snelheidswinst, maar het patroon erachter. We zien steeds meer AI-bedrijven die niet alleen modellen bouwen, maar ook de volledige infrastructuur eronder willen beheersen. Google doet het met eigen TPU-chips, Apple met eigen silicium, en nu SpaceXAI met een eigen softwarestack bovenop NVIDIA-hardware.
Voor ondernemers die AI inzetten — of dat overwegen — is de praktische les: de kosten van AI-gebruik dalen structureel. Niet alleen omdat modellen efficiënter worden (Grok 4.5 gebruikt volgens SpaceXAI 4,2 keer minder tokens dan Opus 4.8 voor vergelijkbare codetaken), maar ook omdat de infrastructuur eronder steeds beter wordt benut.
Ik zou op dit moment terughoudend zijn met het vastleggen van langlopende AI-contracten tegen vaste prijzen. De markt beweegt snel, en prijzen per token lijken alleen maar omlaag te gaan. Wat mij betreft is dit vooral een signaal dat het verstandig is om flexibel te blijven in hoe je AI-diensten afneemt — en dat het loont om af en toe te kijken of er inmiddels een sneller of goedkoper alternatief beschikbaar is.