AI

अल्लामा मॉडल्स को अलग स्थान पर ले जाएं

अल्लामा मॉडल्स को अलग स्थान पर ले जाएं

ओलामा एलईएम मॉडल फ़ाइलें काफ़ी स्पेस लेती हैं

इंस्टॉल करने के बाद ओलामा को तुरंत नए स्थान पर संगठित करना बेहतर होगा, ताकि नए मॉडल खींचे जाने के बाद वे पुराने स्थान पर डाउनलोड न हों।

बड़े भाषा मॉडलों की गति परीक्षण

बड़े भाषा मॉडलों की गति परीक्षण

चलो एलईएम के ग्राफिक्स प्रोसेसर और सीपीयू पर गति का परीक्षण करते हैं।

कई LLMs के विभिन्न संस्करणों (llama3 (मेटा/फेसबुक), phi3 (माइक्रोसॉफ्ट), gemma (गूगल), mistral (ओपन स्रोत)) के पूर्वानुमान गति की तुलना: CPU और GPU पर।