Hardware

Docker Model Runner (DMR) is de officiële oplossing van Docker voor het lokaal uitvoeren van AI-modellen, geïntroduceerd in april 2025. Deze cheatsheet biedt een snelle verwijzing naar alle essentiële opdrachten, configuraties en beste praktijken.

In het huidige computertijdperk is virtueleisering essentieel geworden voor ontwikkeling, testen en het draaien van meerdere besturingssystemen. Voor Linux-gebruikers die op zoek zijn naar een eenvoudige en intuïtieve manier om virtuele machines te beheren, is GNOME Boxes een lichte en gebruikersvriendelijke optie die zich op eenvoud van gebruik richt zonder functie te verliezen.

De toekomst van AI draait niet alleen om slimmer [modellen](https://www.glukhov.org/nl/rag/embeddings/qwen3-embedding-qwen3-reranker-on-ollama/ “Qwen3 embedding en reranker modellen - state-of-the-art prestaties). Het gaat ook om silicium dat aansluit op de manier waarop deze modellen daadwerkelijk worden aangeboden. Gespecialiseerde hardware voor LLM-inferentie volgt een pad dat doet denken aan de verschuiving in Bitcoin-mining van GPUs naar doelgerichte ASICs, maar met strengere beperkingen omdat modellen en precisie-formules voortdurend evolueren.

NVIDIA DGX Spark is een feit, verkrijgbaar vanaf 15 oktober 2025, en is gericht op CUDA-ontwikkelaars die lokale LLM-werklasten nodig hebben met een geïntegreerde NVIDIA AI-stack. De US MSRP bedraagt $3.999; de retailprijs in UK/DE/JP is hoger door BTW en kanaalkosten. Publieke stickerprijzen voor AUD/KRW zijn nog niet algemeen gepubliceerd.

Laten we de prijzen vergelijken voor toonaangevende consument GPUs, die met name geschikt zijn voor LLMs en AI in het algemeen. Specifiek bekijk ik RTX-5080 en RTX-5090 prijzen. Ze zijn iets gedaald.

GPU belasting monitoring toepassingen: nvidia-smi vs nvtop vs nvitop vs KDE plasma systemmonitor.

Nvidia staat op het punt om de NVIDIA DGX Spark uit te brengen: een klein AI-supercomputerapparaat gebaseerd op de Blackwell-architectuur, met meer dan 128 GB unified RAM en een AI-prestatie van 1 PFLOPS. Een leuk apparaat om LLM’s op uit te voeren.

Laten we de prijzen vergelijken voor top consumentengpu’s, die met name geschikt zijn voor LLM’s en AI in het algemeen. Kijk in het bijzonder naar de prijzen van de RTX 5080 en RTX 5090. Die zijn licht gedaald.

Alleen drie maanden geleden zagen we de RTX 5090 nog niet in de winkels, en nu zijn ze er wel, maar zijn de prijzen iets hoger dan de MRSP. Laten we de goedkoopste prijzen voor RTX 5080 en RTX 5090 in Australië vergelijken en kijken hoe het gaat.

Vergelijk ook RTX 5080 en RTX 5090 prijzen in Australië - juli 2025, oktober 2025, en november 2025.

Top geautomatiseerd systeem voor een geweldige taak.

Hoe beïnvloeden PCIe-lanes de prestaties van LLMs? Afhangend van de taak. Voor training en meervoudige GPU-inferentie - is de prestatievermindering aanzienlijk.

Ik werd hard getroffen door dit probleem. Maar je zou moeten onderzoeken en testen op je PC als je BSOD er net zo uitziet als het mijne.
De oorzaak was Intel’s CPU Degradation Issue in 13th en 14th generatie.

Ik heb een theorie om te testen - als we alle kernen op een Intel CPU gebruiken, zou dat de snelheid van LLMs verhogen? Het irriteert me dat de nieuwe gemma3 27 bit model (gemma3:27b, 17 GB op ollama) niet in de 16 GB VRAM van mijn GPU past en gedeeltelijk op de CPU draait.

In het midden van de moderne wereld’s onrust ben ik tech specs van verschillende kaarten vergelijken die geschikt zijn voor AI taken (Deep Learning, Object Detection en LLMs). Ze zijn allemaal ongelooflijk duur.

Wanneer de Ollama-server twee aanvragen tegelijkertijd ontvangt, hangt het gedrag ervan af van de configuratie en de beschikbare systeemresources.

Het installeren van de ET-8500 op Windows is goed gedocumenteerd in het handleiding. De ET-8500 Linux Driver installatie is eenvoudig, maar niet triviaal. Deze gids is onderdeel van onze Documentatie Tools in 2026: Markdown, LaTeX, PDF & Printing Workflows hub.