❤️ دوره «مهندسی اینفرنس LLM»


👨🏻‍💻 وقتی صحبت از اجرای مدل‌های سنگینه، فقط خود مدل مطرح نیست؛ پشت سرعت و هزینه‌ی اینفرنس، کلی مهندسی درگیر GPU، حافظه، کرنل، موازی‌سازی و سروینگه.


🧾 این پلی‌لیست ۹ قسمتی دقیقاً از همین زاویه وارد ماجرا می‌شه. به‌جای اینکه از همون اول بری سراغ فریم‌ورک‌هایی مثل vLLM، اول سعی می‌کنه نشونت بده اینفرنس LLM اصلاً چطور کار می‌کنه و چرا این شکلی طراحی شده.


😀 فقط هم نمی‌گه «از فلان فریم‌ورک استفاده کن»؛ اول منطق پشت سیستم رو تو ذهنت جا می‌اندازه، و بعد نشون می‌ده این مفاهیم چطور توی اینفرنس و سروینگ واقعی خودشون رو نشون می‌دن.


🌐 LLM Inference
🌐 LLM Inference




🌐 #یادگیری_ماشین #MachineLearning
➖➖➖➖➖➖➖➖➖➖➖➖➖➖
💡 مهندس ML شوید :
💡 @MachineLearning_ir
📱 پیج اینستاگرام:
💡 @MachineLearning_fa