DeepLearning

Model-side analysis for people choosing what to run: architecture surveys, family reference pages with benchmark ladders, and quantization tradeoffs.

Хайп вокруг ИИ подчиняется определённому ритму: примерно раз в три года архитектура, на которую все делают ставку, вытесняется чем-то более новым. Смена парадигмы уже начинается в исследовательских лабораториях.

Локальный запуск больших языковых моделей обеспечивает конфиденциальность, работу в автономном режиме и отсутствие затрат на API. Данный бенчмарк точно показывает, чего можно ожидать от 14 популярных LLM на Ollama на видеокарте RTX 4080.

Экосистема Python в этом месяце доминируется Claude Skills и инструментами для AI-агентов. В этом обзоре мы анализируем топовые трендовые репозитории Python на GitHub.

Этот всеобъемлющий руководство предоставляет информацию и подробное сравнение Anaconda, Miniconda и Mamba — трех мощных инструментов, которые стали незаменимыми для разработчиков Python и специалистов по данным, работающих с сложными зависимостями и научными вычислительными средами.

Распространение контента, созданного с помощью ИИ, создало новую проблему: различение подлинного человеческого текста и “AI slop” - низкокачественного, массово произведенного синтетического текста.

Кросc-модальные вложения представляют собой прорыв в искусственном интеллекте, позволяя понимать и анализировать различные типы данных в едином пространстве представления.

Демократизация искусственного интеллекта уже здесь. С появлением открытых LLM, таких как Llama, Mistral и Qwen, которые теперь не уступают проприетарным моделям, команды могут создавать мощную инфраструктуру ИИ на потребительском оборудовании — значительно сокращая расходы при сохранении полного контроля над конфиденциальностью данных и развертыванием.

Linux стал де-факто операционной системой для профессионалов в области анализа данных.

Apache Airflow — это открытая платформа, предназначенная для программного создания, планирования и мониторинга рабочих процессов — полностью на языке Python, предлагающая гибкую и мощную альтернативу традиционным, ручным или основанным на интерфейсе инструментам для работы с рабочими процессами.

Однажды холодным июльским зимним днем в Австралии… я почувствовал срочную необходимость обучить модель ИИ для обнаружения не заглушенных арматурных стержней из бетона…

Как линии PCIe влияют на производительность LLM? Это зависит от задачи. Для обучения и инференса на нескольких GPU — снижение производительности значительное.

В условиях современной турбулентности я сравниваю технические характеристики различных видеокарт, подходящих для задач ИИ (Глубокое обучение, Обнаружение объектов и Языковые модели). Они все невероятно дороги.

Я довольно часто использовал MMDetection (mmengine, mdet, mmcv),
но теперь выглядит так, будто он вышел из игры.
К сожалению. Мне нравился его модельный зоопарк.