LLM-frontends
Niet zo veel om uit te kiezen, maar toch...
Toen ik begon met het experimenteren met LLMs waren de UIs voor hen actief in ontwikkeling en nu zijn sommige van hen echt goed.
LLM
Het schrijven van effectieve prompts voor LLMs
Een beetje experimenteren vereist maar
Er zijn nog steeds enkele veelvoorkomende aanpakken om goede prompts te schrijven, zodat LLM’s niet in de war raken bij het begrijpen van wat je van hen wilt.
Vergelijken van de samenvattingsvermogens van LLM's
8 llama3 (Meta+) en 5 phi3 (Microsoft) LLM-versies
Testing hoe modellen met verschillende aantal parameters en quantisatie zich gedragen.
Verplaats Ollama-modellen naar een andere locatie
Ollama LLM-modelbestanden nemen veel ruimte in beslag
Na het installeren van ollama is het beter om ollama direct opnieuw in te stellen om ze op te slaan in een nieuwe locatie. Zo krijgen we nieuwe modellen niet gedownload naar de oude locatie.
Snelheidstest grote taalmodellen
Laat ons de snelheid van de LLM's testen op GPU versus CPU
Vergelijking van de voorspellende snelheid van verschillende versies van LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (open source) op CPU en GPU.
Detectie van logische fouten met LLMs
Laat ons de kwaliteit van het detecteren van logische fouten van verschillende LLMs testen
Hier vergelijk ik verschillende LLM-versies: Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) en Qwen (Alibaba).