هل يستطيع جهازك تشغيل نموذج الذكاء الاصطناعي الجديد من Meta؟

مع التطورات السريعة في الذكاء الاصطناعي، أطلقت Meta نموذجًا جديدًا يتطلب أداءً تقنيًا عاليًا لتشغيله بكفاءة. إذا كنت تتساءل عما إذا كان جهازك قادرًا على التعامل مع هذا النموذج، فمن المهم التعرف على المتطلبات التقنية اللازمة. هذا المقال يوضح المواصفات التي يحتاجها جهازك وكيفية تحسين أدائه لتجربة سلسة مع النموذج الجديد.

أصدرت شركة Meta إصدار Llama 3.3 70B، وهو إصدار معدّل من أقوى نموذج ذكاء اصطناعي للشركة يمكن تنزيله لتشغيله على أجهزتك الخاصة. لكن جهاز الكمبيوتر الخاص بك ربما ليس جاهزًا لذلك.

مثل العديد من نماذج اللغات الكبيرة الأخرى، يتوفر نموذج الذكاء الاصطناعي التوليدي Llama من Meta في عدة أحجام معلمات لحالات استخدام مختلفة. على سبيل المثال، يمكن لأصغر نموذج Llama 3.2 1B التعامل مع المهام الأساسية بأداء سريع على الهاتف الذكي المتوسط، في حين أن الإصدارات الأكبر 11B و90B أقوى وتحتاج إلى أجهزة كمبيوتر وخوادم متطورة. تم تصميم نماذج Llama في المقام الأول لوظائف النص والدردشة، لكن بعض الإصدارات يمكنها فهم الصور أيضًا.

من المفترض أن يقدم نموذج Llama 3.3 70B الجديد من Meta نفس أداء أكبر نموذج للشركة، إصدار 405B، ولكن مع القدرة على التشغيل على المزيد من أجهزة الكمبيوتر والخوادم. قال نائب رئيس الذكاء الاصطناعي التوليدي في Meta في منشور على وسائل التواصل الاجتماعي، “من خلال الاستفادة من أحدث التطورات في تقنيات ما بعد التدريب بما في ذلك تحسين التفضيلات عبر الإنترنت، يعمل هذا النموذج على تحسين الأداء الأساسي بتكلفة أقل بكثير”.

على الرغم من أن طراز 70B الجديد هذا قد تم تقليصه بشكل كبير من إصدار 405B الأصلي، فستظل بحاجة إلى جهاز كمبيوتر أو خادم قوي لتشغيله محليًا بأداء مقبول. يبلغ حجم الملف 37.14 جيجابايت، وتحتاج أجهزة LLM عمومًا إلى احتواء ذاكرة الوصول العشوائي (RAM) للعمل بشكل جيد، لذلك ربما تحتاج إلى جهاز به ذاكرة وصول عشوائي (RAM) بسعة 64 جيجابايت. ستحتاج أيضًا إلى وحدة معالجة رسومية قوية (أو عدة وحدات مقترنة معًا) لتشغيل النموذج.

يوضح وصف النموذج، “إن Llama 3.3 مخصص للاستخدام التجاري والبحثي بعدة لغات. نماذج النصوص المضبوطة بالتعليمات مخصصة للدردشة الشبيهة بالمساعد، في حين يمكن تكييف النماذج المدربة مسبقًا لمجموعة متنوعة من مهام توليد اللغة الطبيعية. يدعم طراز Llama 3.3 أيضًا القدرة على الاستفادة من مخرجات نماذجه لتحسين نماذج أخرى بما في ذلك إنشاء البيانات الاصطناعية والتقطير.

على الرغم من أن Llama 3.3 70B لن يعمل على معظم أجهزة الكمبيوتر، يمكنك تشغيل 1B و3B و8B الأصغر على العديد من أجهزة الكمبيوتر المكتبية وأجهزة الكمبيوتر المحمولة مع تطبيقات مثل LM Studio أو Nvidia’s Chat With RTX. يعمل جهاز Mac Mini M1 بسعة 16 جيجابايت على تشغيل Llama 3.1 8B بسرعات مماثلة لبرامج الدردشة القائمة على السحابة، لكنني أستخدم نماذج 3B الأصغر مع جهاز MacBook Air بسعة 8 جيجابايت، نظرًا لأن لدي ذاكرة وصول عشوائي أقل متوفرة.

يمكنك تنزيل Llama 3.3 70B ونماذج Lama الأخرى من موقع Meta على الويب، وHugging Face، والبحث المدمج في LM Studio، ومستودعات أخرى.

المصدر: TechCrunch