انقلاب در سرعت استنتاج: CDLM تا ۱۴٫۵ برابر سریعتر!
Together AI مدلهای زبانی پخش سازگار (CDLM) را معرفی کرد که استنتاج مدلهای DLM را با ترکیب نهاییسازی چندتوکنی مبتنی بر سازگاری و کش کردن بلوکوار KV شتاب میبخشد. این فناوری سرعت پ…
آخرین اخبار پردازش موازی
چرا زیرساخت هوش مصنوعی با IT سنتی متفاوت است؟
هوش مصنوعی به زیرساختی متفاوت از فناوری اطلاعات سنتی نیاز دارد، زیرا بار کاری آن پویاتر، موازیتر و دادهمحورتر است. در حالی که فناوری اطلاعات سنتی بر پردازندههای مرکزی (CPU) متکی…
AMD با AgentKernelArena انقلابی در بهینهسازی هستههای GPU ایجاد کرد
AMD با معرفی AgentKernelArena (AKA)، یک محیط منبعباز برای ارزیابی عاملهای کدنویسی هوش مصنوعی در بهینهسازی هستههای GPU روی پردازندههای گرافیکی Instinct ارائه کرده است. این چارچ…
⚠️ مراکز داده هوش مصنوعی سریعتر از ایمنسازی ساخته میشوند!
استفاده از هوش مصنوعی به عنوان بزرگترین حوزه رشد در فناوری، تقاضا برای مراکز داده تخصصی را افزایش داده است. این مراکز برخلاف نمونههای سنتی، به عنوان موتورهای پردازشی واحد با توان …