DeepLearning

Model-side analysis for people choosing what to run: architecture surveys, family reference pages with benchmark ladders, and quantization tradeoffs.

Hype wokół AI podąża za pewnym rytmem: mniej więcej co trzy lata architektura, w którą wszyscy grają, zostaje zastąpiona przez nowszą. Kolejna zmiana już kształtuje się w laboratoriach badawczych.

Uruchamianie dużych modeli językowych lokalnie zapewnia prywatność, możliwość pracy offline i zerowe koszty API. Ten benchmark dokładnie pokazuje, czego można oczekiwać od 14 popularnych LLM na Ollama na karcie RTX 4080.

Ekosystem Python w tym miesiącu dominują Claude Skills oraz narzędzia do agentów AI. Ten przegląd analizuje najwyżej trendujące repozytoria Python na GitHubie.

Ta kompleksowa przewodnik oferuje tło oraz szczegółowy porównanie Anaconda, Miniconda i Mamba – trzy potężne narzędzia, które stały się nieodzowne dla programistów Pythona i naukowców danych pracujących z złożonymi zależnościami i środowiskami obliczeniowymi.

Proliferacja treści wygenerowanych przez AI stworzyła nowe wyzwania: rozróżnianie rzeczywistego pisania ludzkiego od “AI slop” - niskiej jakości, masowo produkowanej syntetycznej treści.

Przestrzenne reprezentacje przekrojowe stanowią przełom w sztucznej inteligencji, umożliwiając zrozumienie i rozumowanie na przekrój danych w jednolitej przestrzeni reprezentacji.

Demokratyzacja sztucznej inteligencji jest tuż przed nami. Dzięki otwartym modelom LLM takim jak Llama, Mistral i Qwen, które dorównują już modelom własnościowym, zespoły mogą budować potężną infrastrukturę AI na sprzęcie konsumenckim – drastycznie obniżając koszty, jednocześnie zachowując pełną kontrolę nad prywatnością danych i wdrożeniem.

Linux stał się de facto systemem operacyjnym dla nauki o danych profesjonalistów, oferując niezrównane elastyczność, wydajność i bogaty ekosystem narzędzi.

Apache Airflow to otwarty platforma programowy, zaprojektowana do programistycznej tworzenia, harmonogramowania i monitorowania przepływów pracy – całkowicie w kodzie Pythona, oferując elastyczne i potężne alternatywy dla tradycyjnych, ręcznych lub opartych na interfejsie graficznym narzędzi do zarządzania przepływami pracy.

W jednym zimnym zimnym dniu w lipcu … czyli w Australii … czułem nagły potrzebę trenowania modelu AI do wykrywania nierozpaczonych prętów zbrojeniowych w betonie…

Wpływ linii PCIe na wydajność LLM? W zależności od zadania. W przypadku treningu i inferencji wielokartowej – spadek wydajności jest istotny.

Wśród współczesnych burz porównuję specyfikacje techniczne różnych kart odpowiednich do zadań w zakresie AI (Deep Learning, Object Detection oraz LLMs). Są one jednak niezwykle drogie.

Używałem MMDetection (mmengine, mdet, mmcv) dość często,
a teraz wygląda na to, że wycofał się z gry.
To żal. Lubiłem jego zoo modeli.