تشغيل LLMs في الإنتاج

3

Days

Online Live

Delivery Method

Advanced

Skill Level

$1,800 دولار أمريكي

Fee

Overview

The Operating LLMs in Production course provides a comprehensive understanding of deploying and managing LLMs in production environments. This course is designed for both NLP engineer, LLM engineer and MLOps professional seeking to master LLM operations. Participants will gain hands-on experience in setting up cloud-based AI infrastructure, utilizing GPU clusters, and leveraging distributed training and inference techniques. Participants will gain hands-on experience in optimizing and scaling LLMs for real-world applications.

Completing this course will help you:

  • انشر LLMs في الإنتاج باستخدام البنية التحتية السحابية المعبأة في حاويات.
  • استخدم وحدات معالجة الرسومات ومسرعات الأجهزة الأخرى لتحسين أعباء عمل تدريب LLM والاستدلال.
  • قم بتنفيذ تقنيات التدريب والاستدلال الموزعة لتوسيع نطاق عمليات نشر LLM عبر عقد متعددة.
  • مراقبة أداء LLM وتحسينه في بيئات الإنتاج، وموازنة التكاليف، والأداء، وقابلية التوسع.

Curriculum

  • الوحدة 1 - البنية التحتية للذكاء الاصطناعي
    • فهم أساسيات البنية التحتية للذكاء الاصطناعي لإدارة LLMs في الإنتاج.
    • استكشف الخدمات والأدوات والأنظمة الأساسية المستندة إلى السحابة الضرورية لنشر وصيانة LLMs.
    • تعرف على أفضل الممارسات لإعداد بنية تحتية قابلة للتطوير تدعم تطبيقات LLM.
  • الوحدة 2 - مسرع أجهزة GPU
    • تعرف على كيفية الاستفادة من موارد وحدة معالجة الرسومات (GPU) بشكل فعال للتدريب على النماذج والاستدلال بشكل أسرع.
    • استكشف تكوينات الأجهزة وتحسيناتها لبرامج LLM على نطاق الإنتاج.
  • الوحدة 3 - التدريب النموذجي الموزع
    • فهم أساسيات DDP وDeepSpeed وFSDP.
    • تعرف على كيفية استخدام TRL للتدريب الموزع عبر عقد متعددة.
    • تعرف على كيفية استخدام قطار الشعاع وضبط الشعاع لتدريب ماجستير إدارة الأعمال بكفاءة.

  • الوحدة 4 - الاستدلال الفعال LLM
    • تعرف على كيفية نشر LLMs بكفاءة باستخدام vLLM.
    • تعلم كيفية تنفيذ الاستدلال الموزع للتعامل مع طلبات LLM ذات الحجم الكبير.
    • استكشف الاستراتيجيات لتقليل زمن الوصول وزيادة الإنتاجية في بيئات الإنتاج.
  • الوحدة 5 - LLMOps
    • فهم المفاهيم الأساسية لـ LLMOps بما في ذلك حواجز الحماية والفحوصات الأمنية والمراقبة والإدارة السريعة وزيادة البيانات والتعليقات التوضيحية.
  • الوحدة 6 - ماجستير في القانون في مشروع الإنتاج
    • في هذا المشروع الصغير، ستقوم بتنفيذ مسار عمليات LLM شامل لتدريب وخدمة ونشر LLM في بيئة سحابية.

Schedule

متصل

09 ديسمبر - 11 ديسمبر 2024

9:30 صباحًا - 4:30 مساءً بالتوقيت الشرقي

متصل

مارس 2025

9:30 صباحًا - 4:30 مساءً بالتوقيت الشرقي

متصل

يوليو 2025

9:30 صباحًا - 4:30 مساءً بتوقيت شرق الولايات المتحدة

Corporate Training Inquiry
يرجى إدراج التاريخ والوقت الذي يهمك. إذا لم تتمكن من العثور على جدول زمني مناسب، فيرجى ترك ملاحظة لنا. سوف يقوم مدير البرنامج بالتواصل معك.
This site is registered on wpml.org as a development site. Switch to a production site key to remove this banner.