Self-Hosting

تواجه سوق الذاكرة تقلبات في الأسعار غير مسبوقة في أواخر عام 2025، مع ارتفاع أسعار الذاكرة العشوائية بشكل كبير في جميع الفئات.

النشر المحلي للنماذج الكبيرة أصبح أكثر شيوعًا مع تطلع المطورين والمنظمات إلى خصوصية محسنة وتقليل التأخير وزيادة السيطرة على بنية تحتية الذكاء الاصطناعي الخاصة بهم.

لنقارن الأسعار بين أفضل بطاقات الجرافيكس من نوع GPU للمستهلكين، والتي مناسبة بشكل خاص للنماذج العصبية الكبيرة (LLMs) بشكل عام للذكاء الاصطناعي. بالتحديد أنا أبحث عن أسعار RTX-5080 و RTX-5090.

الديموقراطية في الذكاء الاصطناعي هنا. مع نماذج LLM المفتوحة المصدر مثل Llama 3، وMixtral، وQwen الآن تنافس النماذج الخاصة، يمكن للمجموعات بناء بنية تحتية قوية للذكاء الاصطناعي باستخدام معدات الاستهلاك - مما يقلل التكاليف مع الحفاظ على التحكم الكامل في خصوصية البيانات والنشر.

Prometheus أصبح المعيار الافتراضي لمراقبة التطبيقات والبنية التحتية المستندة إلى السحابة، حيث يوفر جمع البيانات، والسؤال عنها، والتكامل مع أدوات الرسم البياني.

جرافانا هي منصة مفتوحة المصدر الرائدة لمراقبة وقابلية الملاحظة، والتي تحول المعايير والسجلات والمسارات إلى رؤى قابلة للتنفيذ من خلال تصورات مذهلة.

Kubernetes StatefulSets هي الحل المثالي لإدارة تطبيقات تتطلب هويات مستقرة، تخزين دائم، ونمط توزيع منظم—وهي ضرورية للقواعد البيانات، الأنظمة الموزعة، وطبقات التخزين المؤقت.

FLUX.1-dev هو نموذج قوي لتحويل النص إلى صورة ينتج نتائج مذهلة، ولكن متطلباته من الذاكرة البالغة 24 جيجابايت أو أكثر تجعله تحديًا لتشغيله على العديد من الأنظمة. تكميم GGUF لـ FLUX.1-dev يقدم حلًا، حيث يقلل من استخدام الذاكرة بنسبة تصل إلى 50% مع الحفاظ على جودة الصورة الممتازة.

تهيئة أحجام السياق في Docker Model Runner أكثر تعقيدًا مما ينبغي أن يكون.

لقد أطلقت مختبرات Black Forest FLUX.1-Kontext-dev، نموذج ذكاء اصطناعي متقدم لتحويل الصور من خلال استخدام تعليمات نصية.

Docker Model Runner هو الأداة الرسمية لـ Docker لتشغيل النماذج الذكية الاصطناعية محليًا، ولكن تمكين تسريع GPU من NVidia في Docker Model Runner يتطلب تكوينًا خاصًا.

اختيار CMS بدون رؤوس المناسب يمكن أن يحدد مصير استراتيجية إدارة المحتوى الخاصة بك. لنقم بمقارنة ثلاث حلول مفتوحة المصدر تؤثر على طريقة مطوري البرمجيات في بناء تطبيقات موجهة للمحتوى.

Nextcloud هو منصة تخزين وتعاون سحابية مفتوحة المصدر ومُستضافة ذاتيًا تضعك في سيطرة كاملة على بياناتك.

Immich هو حل مبتكر ومفتوح المصدر لتنظيم وتخزين الصور والفيديوهات بشكل مستضاف ذاتيًا، مما يمنحك السيطرة الكاملة على ذكرياتك. مع ميزات تتنافس مع Google Photos، بما في ذلك التعرف على الوجوه الذكاء الاصطناعي، والبحث الذكي، والنسخ الاحتياطي التلقائي من الهاتف المحمول، مع الحفاظ على خصوصيتك وسلامة بياناتك على خادمك الخاص.

Elasticsearch هو محرك بحث وتحليل قوي تم بناؤه على Apache Lucene. تحتوي هذه المجموعة الشاملة من الأوامر على الأوامر الأساسية، وال أفضل الممارسات، والمرجع السريع لاستخدام مجموعات Elasticsearch.

قمت بتحليل بعض الاختبارات المثيرة للاهتمام حول أداء نموذج GPT-OSS 120b أثناء تشغيله على Ollama عبر ثلاث منصات مختلفة: NVIDIA DGX Spark، وMac Studio، وRTX 4080. يبلغ حجم نموذج GPT-OSS 120b من مكتبة Ollama 65 جيجابايت، مما يعني أنه لا يمكن أن يناسب الـ 16 جيجابايت من ذاكرة الفيديو (VRAM) الخاصة بـ RTX 4080 (أو النسخة الأحدث RTX 5080).