Gemma2 x Qwen2 x Mistral Nemo x...
Teste de detecção de falácias lógicas
Recentemente, vimos o lançamento de vários novos LLMs. Tempos emocionantes. Vamos testar e ver como eles se comportam na detecção de falácias lógicas.
LLM
Escrever prompts eficazes para LLMs
Exige alguma experimentação, mas
Ainda assim, existem algumas abordagens comuns sobre como escrever bons prompts para que os LLMs não fiquem confusos ao tentar entender o que se espera deles.
Comparando as Capacidades de Resumo dos LLMs
8 versões do LLM llama3 (Meta+) e 5 versões do LLM phi3 (Microsoft)
Testando como modelos com diferentes números de parâmetros e quantização estão se comportando.
Mover modelos Ollama para outro local
Os arquivos de modelos de LLM do Ollama ocupam muito espaço.
Após instalar o Ollama, é melhor reconfigurar o Ollama imediatamente para armazená-los no novo local. Assim, quando fizermos o download de um novo modelo, ele não será baixado para o local antigo.
Teste de Velocidade de Grandes Modelos de Linguagem
Vamos testar a velocidade dos LLMs em GPU versus CPU.
Comparando a velocidade de predição de várias versões de LLMs: llama3 (Meta/Facebook), phi3 (Microsoft), gemma (Google), mistral (código aberto) em CPU e GPU.
Detecção de Falácias Lógicas com LLMs
Vamos testar a qualidade da detecção de falácias lógicas em diferentes LLMs.
Aqui estou comparando várias versões de LLMs (Modelos de Linguagem): Llama3 (Meta), Phi3 (Microsoft), Gemma (Google), Mistral Nemo (Mistral AI) e Qwen (Alibaba).