Ollama på Intel CPU Effektiva vs Prestandakärnor
Jag har en teori att jag vill testa - om användningen av alla kärnor på en Intel CPU skulle öka hastigheten på LLMs?
Det här plågar mig att den nya gemma3 27-bitarsmodellen (gemma3:27b, 17GB på ollama) inte passar in i min GPUs 16GB VRAM och delvis körs på CPU.
Användbara MinIO-kommandon
MinIO erbjuder två standardgränssnitt: (1) MinIO Console - det är ett webbgränssnitt, och
(2) MinIO Command - detta är ett kommandoradsverktyg mc.
Översikt och installation av MinIO
MinIO är ett öppet källkod, högpresterande, distribuerat objektlagringsystem som är utformat för att vara fullt kompatibelt med Amazon S3 API.
Ordna om terminalfönster redan från början
Det finns flera sätt att starta en grupp terminalverktyg i Linux Mint och ha terminalfönstren kladderade (https://www.glukhov.org/sv/post/2025/05/howto-start-terminal-windows-tiled-linux-mint-ubuntu/ “tiled terminals automation”), beroende på ditt arbetsflöde och den nivå av automatisering du vill ha.
Konfigurera Ollama för parallella begäranden.
När Ollama-servern tar emot två förfrågningar samtidigt, beror dess beteende på dess konfiguration och tillgängliga systemresurser.
Lite systemadministration
Kanske borde man kalla detta plattformskonstruktion nu. Här är några anteckningar om hur man installerar, ansluter och tar bort Portainer - gränssnitt för hantering av docker-bilder och containrar.
några användbara venv-kommandon
Venv är ett verktyg för hantering av virtuella miljöer i kommandoraden. Det är mycket enklare jämfört med Anaconda. Här är några användbara venv-kommandon.
När du snabbt behöver något asynkront i molnet
Kort jämförelse av RabbitMQ på AWS EKS och AWS SQS
När du behöver extrahera en bild från en PDF-fil
Ibland finns det ett verkligt behov av att spara bilder från en PDF utan att ta skärmdumpar eller rendera PDF:n på skärmen. pdfimages hjälper till med det.
Vad är denna trendiga AI-assisterade kodning?
Vibe kodning är en AI-driven programmeringsmetod där utvecklare beskriver önskad funktionalitet på naturligt språk, vilket tillåter AI-verktyg att generera kod automatiskt.
Visual Studio Code Cheatsheet är här
Kast en snabb titt inuti JWT-token
Här är några effektiva metoder för att dekryptera och skriva ut JWT-token direkt från kommandoraden:
När du akut behöver koda fil till base64
Här är exempel på hur man Kodar och dekoderar fil till Base64 på Windows, Linux och Mac.
Ibland måste du lägga till en sida i en PDF...
Eller en annan dag vill du extrahera bilder och text från PDF:et…
Hela uppsättningen av MM*-verktyg är på EOL...
Jag har använt MMDetection (mmengine, mdet, mmcv), och nu ser det ut som att det är ur spel. Det är synd. Jag gillade deras modellzoo.
Kör en exekverbar fil som en Linux-tjänst
Här är en uppsättning instruktioner om hur du Konfigurerar för att köra något exekverbart program som en tjänst i Linux med Systemd.
