AWS Lambda-prestanda: JavaScript vs Python vs Golang

AWS Lambda-prestanda: JavaScript vs Python vs Golang

Vilket språk ska man använda för AWS Lambda?

Vi kan skriva lambda-funktioner för distribution till AWS på flera språk. Låt oss jämföra prestandan hos (nästan tomma) funktioner skrivna i JavaScript, Python och Golang…

Självhyst Perplexica – med Ollama

Självhyst Perplexica – med Ollama

Kör en Copilot-tjänst lokalt? Det är enkelt!

Det är väldigt spännande! Istället för att ringa Copilot eller perplexity.ai och berätta för hela världen vad du letar efter, kan du nu värdshålla en liknande tjänst på din egen PC eller bärbara dator!

Gemma2 vs Qwen2 vs Mistral Nemo vs...

Gemma2 vs Qwen2 vs Mistral Nemo vs...

Testa upptäckt av logiska fall

Nyligen har vi sett flera nya LLM:er släppas. Spännande tider. Låt oss testa och se hur de presterar när de upptäcker logiska fall.

Att skriva effektiva promptar för LLMs

Att skriva effektiva promptar för LLMs

Kräver lite experimenterande men

Även om det finns några vanliga metoder för att skriva bra instruktioner så att LLM inte blir förvirrad när den försöker förstå vad du vill ha av den.

Installation av Pi-Hole - gratis Adblocker

Installation av Pi-Hole - gratis Adblocker

Det är så irriterande att se alla de annonserna

Du kan installera en webbläsarplugin eller tillägg för adblock för Google Chrome, Firefox eller Safari, men du måste göra detta på varje enskild enhet. Den nätverksbaserade ad-blockern är min favoritlösning.

Publicera Hugo-sajten på AWS S3

Publicera Hugo-sajten på AWS S3

Hugo är en statisk webbplatsgenerator.

När hemsidan har genererats med Hugo är det dags att publicera den på en värdplattform. Här är en guide om hur du pushar den till AWS S3 och serverar den med AWS CloudFront CDN.

Hastighetstest för stora språkmodeller

Hastighetstest för stora språkmodeller

Låt oss testa LLM:s hastighet på GPU jämfört med CPU

Jämförelse av förutsägelsehastighet hos flera versioner av LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) på CPU och GPU.

Detektion av logiska felslutningar med LLMs

Detektion av logiska felslutningar med LLMs

Låt oss testa kvaliteten på logiska felslutdetektering hos olika LLMs

Här jämför jag flera LLM-versioner: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) och Qwen (Alibaba).

Prenumerera

Få nya inlägg om system, infrastruktur och AI-ingenjörskonst.