انویدیا از کامپیوتر جدیدی موسوم به Project DIGITS رونمایی کرده که مخصوص اجرای مدلهای هوش مصنوعی متن باز طراحی شده.
این کامپیوتر که انویدیا از اون به عنوان سوپرکامپیوتر شخصی یاد میکنه، مجهز به چیپ GB10 هست و دارای پردازنده گرافیکی با معماری Blackwell به همراه 128 گیگ حافظه VRAM، چهار ترابایت حافظه NVME و 20 هسته پردازشی ARM هست و همه ایناهارو در اندازه ای بسیار کوچک جا داده!
این حافظه 128 گیگابایتی از نوع DDR5X هست که پهنای باند اون از حافظه های GDDR7 در کارتهای گرافیکی گیمینگ کمتره ولی بسته به ساختار اون، انویدیا گفته که میتونه مدلهای زبانی تا 200 میلیارد پارامتری، که به VRAM زیادی نیاز دارن رو در حافظه نگه داره و با سرعتی معقول اجرا کنه.
علاوه بر امکان استفاده به صورت تکی، انویدیا قابلیت وصل کردن دو عدد از این کامپیوترهارو با رابط پرسرعت NVLink C2C هم مهیا کرده که امکان اجرای مدلهایی تا 400 میلیارد پارامتر مثل Llama 3.1 405B رو فراهم میکنه.
این کامپیوتر با قیمت پایه 3000 دلار به بازار عرضه میشه که اون رو به گزینه جالبی برای اجرای مدلهای زبانی بزرگ تبدیل میکنه.
🔎 arstechnica
📍 @TechTube
این کامپیوتر که انویدیا از اون به عنوان سوپرکامپیوتر شخصی یاد میکنه، مجهز به چیپ GB10 هست و دارای پردازنده گرافیکی با معماری Blackwell به همراه 128 گیگ حافظه VRAM، چهار ترابایت حافظه NVME و 20 هسته پردازشی ARM هست و همه ایناهارو در اندازه ای بسیار کوچک جا داده!
این حافظه 128 گیگابایتی از نوع DDR5X هست که پهنای باند اون از حافظه های GDDR7 در کارتهای گرافیکی گیمینگ کمتره ولی بسته به ساختار اون، انویدیا گفته که میتونه مدلهای زبانی تا 200 میلیارد پارامتری، که به VRAM زیادی نیاز دارن رو در حافظه نگه داره و با سرعتی معقول اجرا کنه.
علاوه بر امکان استفاده به صورت تکی، انویدیا قابلیت وصل کردن دو عدد از این کامپیوترهارو با رابط پرسرعت NVLink C2C هم مهیا کرده که امکان اجرای مدلهایی تا 400 میلیارد پارامتر مثل Llama 3.1 405B رو فراهم میکنه.
این کامپیوتر با قیمت پایه 3000 دلار به بازار عرضه میشه که اون رو به گزینه جالبی برای اجرای مدلهای زبانی بزرگ تبدیل میکنه.
🔎 arstechnica
📍 @TechTube