DevOps

Uno de los herramientas más esenciales para los usuarios de Linux es el emulador de terminal.

Open WebUI es una poderosa, extensible y rica en características interfaz web autogestionada para interactuar con modelos de lenguaje grandes.

vLLM es un motor de inferencia y servicio de alto rendimiento y eficiente en memoria para Modelos de Lenguaje Grande (LLMs) desarrollado por el Laboratorio de Cómputo en la Nube de la Universidad de California en Berkeley.

Instale KVM en Ubuntu 24.04 verificando el soporte de virtualización de CPU, instalando los paquetes KVM/libvirt, activando el servicio libvirtd y (opcionalmente) instalando virt-manager para una interfaz gráfica.

Una configuración bien hecha del prompt de bash que muestra información del repositorio git puede mejorar drásticamente tu flujo de trabajo de desarrollo.

Los gestores de paquetes universales han transformado la distribución de software en Linux, haciendo realidad la compatibilidad entre distribuciones. Snap y Flatpak surgieron como las soluciones líderes, cada una aportando filosofías distintas para resolver el infierno de dependencias y la fragmentación de distribuciones.

Después de instalar automáticamente un nuevo núcleo, Ubuntu 24.04 ha perdido la conexión de red ethernet. Este problema frustrante ocurrió de nuevo para mí, así que estoy documentando la solución aquí para ayudar a otros que enfrenten el mismo problema.

Implementación de un sitio estático de Hugo en AWS S3 utilizando la CLI de AWS proporciona una solución robusta y escalable para alojar su sitio web. Esta guía cubre el proceso completo de implementación, desde la configuración inicial hasta estrategias de automatización avanzada y gestión de caché.

Las pruebas basadas en tablas son el enfoque idiomático en Go para probar múltiples escenarios de manera eficiente. Cuando se combinan con la ejecución paralela usando t.Parallel(), puedes reducir drásticamente el tiempo de ejecución del conjunto de pruebas, especialmente para operaciones acotadas por E/S.

La documentación de API es crucial para cualquier aplicación moderna, y para Go APIs Swagger (OpenAPI) ha become el estándar de la industria. Para los desarrolladores de Go, swaggo proporciona una solución elegante para generar documentación de API completa directamente desde las anotaciones del código.

Despliegue local de LLMs ha adquirido popularidad cada vez mayor a medida que los desarrolladores y organizaciones buscan mayor privacidad, menor latencia y mayor control sobre su infraestructura de IA.

El desarrollo moderno de Go exige estándares rigurosos de calidad del código. Linters para Go automatizan la detección de errores, vulnerabilidades de seguridad y inconsistencias de estilo antes de que lleguen a producción.

Linters para Python son herramientas esenciales que analizan tu código en busca de errores, problemas de estilo y posibles bugs sin ejecutarlo. Ellos imponen estándares de codificación, mejoran la legibilidad y ayudan a los equipos a mantener bases de código de alta calidad.

A medida que las cargas de trabajo de IA y ML se vuelven cada vez más complejas, la necesidad de sistemas de orquestación robustos se ha vuelto más urgente. La simplicidad, el rendimiento y la concurrencia de Go lo convierten en una opción ideal para construir la capa de orquestación de pipelines de ML, incluso cuando los modelos mismos se escriben en Python.

Empaquetado de Python ha evolucionado significativamente, con herramientas modernas y estándares que hacen más fácil que nunca distribuir tu código.

La democratización de la IA está aquí. Con LLMs de código abierto como Llama 3, Mixtral y Qwen ahora rivales de modelos propietarios, los equipos pueden construir una poderosa infraestructura de IA usando hardware de consumo - reduciendo costos mientras se mantiene el control total sobre la privacidad de los datos y la implementación.