یک استارتاپ اومده یه مدل سبک هوشمصنوعی رو مستقیم روی چیپ پیاده کرده، یعنی سختافزار اختصاصا برای این مدل ساخته شده، با تکنولوژی ۶ نانومتر که یکم ارزونتر دربیاد. نتیجه، یک سرعت نجومیه: ۱۶ هزار توکن در ثانیه! برای دمو این چتبات رو ارائه کردن که میتونید تست کنید. البته ماکزیمم سرعت در این چتبات قابل تجربه نیست، چون برای چنین کاربردی فرق بین هزار توکن در ثانیه و شانزده هزار توکن در ثانیه معلوم نمیشه.
http://chatjimmy.ai
فعلا نمیشه مدلهای سنگینی که گوگل و متا استفاده میکنند رو به همین روش به چیپ منتقل کرد، ولی اگه یک روز بشه، فیلمهای علمی تخیلی به واقعیت تبدیل میشن.
http://chatjimmy.ai
فعلا نمیشه مدلهای سنگینی که گوگل و متا استفاده میکنند رو به همین روش به چیپ منتقل کرد، ولی اگه یک روز بشه، فیلمهای علمی تخیلی به واقعیت تبدیل میشن.