SGLang-ATOM: انقلاب در شتابدهی مدلهای زبانی بزرگ با ROCm
AMD با معرفی SGLang-ATOM، راهکاری برای یکپارچهسازی سرویسدهی مدلهای زبانی بزرگ با شتابدهندههای ROCm ارائه کرده است. این فناوری به عنوان پل بین چارچوب سرویسدهی SGLang و موتور ا…
آخرین اخبار، تحلیلها و تحولات مرتبط با SGLang در Titr Tech.
AMD با معرفی SGLang-ATOM، راهکاری برای یکپارچهسازی سرویسدهی مدلهای زبانی بزرگ با شتابدهندههای ROCm ارائه کرده است. این فناوری به عنوان پل بین چارچوب سرویسدهی SGLang و موتور ا…
در مه ۲۰۲۶، آرم نوآوریهای جدیدی در حوزههای ابر، لبه و هوش مصنوعی معرفی کرد. آرم پرفرمیکس به توسعهدهندگان کمک میکند تا بار کاریهای هوش مصنوعی را پروفایل، تنظیم و اعتبارسنجی کنن…
آسیبپذیری غیرایمنسازی داده در فرآیند Pickle در پروژه SGLang کشف شده است که به مهاجم اجازه اجرای کد از راه دور میدهد. این آسیبپذیری با شناسه CVE-2026-14890 ردیابی میشود و در زی…
چارچوب SGLang با معرفی SGLang Diffusion، توانایی سرویسدهی مدلهای انتشار را روی GPUهای AMD بهبود بخشیده است. این چارچوب با بهرهگیری از زمانبندی با توان عملیاتی بالا و هستههای مح…