شتابدهی تولید تصویر در دیفیوژنها و xDiT با MXFP4 به کمک AMD Quark روی GPUهای AMD Instinct MI350

شرح خبر

مدل‌های دیفیوژن مانند FLUX.1-dev شرکت Black Forest Labs با ارائه کیفیت تصویر خیره‌کننده، نیاز به توان محاسباتی و پهنای باند حافظه قابل توجهی در زمان استنتاج دارند. برای کاهش هزینه‌های استنتاج بدون قربانی کردن کیفیت تصویر، تکنیک‌های کوانتیزاسیون آگاه از دقت به یک استراتژی بهینه‌سازی حیاتی تبدیل شده‌اند. AMD Quark، کتابخانه کوانتیزاسیون با کارایی بالا و بهینه‌سازی شده برای GPUهای AMD Instinct MI350، کوانتیزاسیون MXFP4 را برای تولید تصویر در Diffusers و xDiT فعال می‌کند. نتایج نشان می‌دهد که MXFP4 ASM همراه با torch.compile به شتاب ۱.۹۲ برابری نسبت به BF16 eager و شتاب ۱.۴۱ برابری نسبت به BF16 torch.compile دست می‌یابد، در حالی که کیفیت CLIP را حفظ می‌کند. این پیشرفت‌ها می‌تواند هزینه‌های استنتاج را به طور قابل توجهی کاهش دهد و کارایی را بهبود بخشد. AMD Quark، کتابخانه کوانتیزاسیون پیشرفته، با فعال‌سازی MXFP4 روی GPUهای AMD Instinct MI350، توانسته است سرعت استنتاج مدل‌های دیفیوژن مانند FLUX.1-dev را تا ۱.۹۲ برابر نسبت به حالت پایه BF16 افزایش دهد. این تکنولوژی با حفظ کیفیت تصویر (نمره CLIP) و کاهش تاخیر به ۱.۰۶۹ ثانیه در هر تصویر، کارایی را بهبود می‌بخشد. Quark از فرمتهای عددی متعدد مانند MXFP4، FP8 و INT8 پشتیبانی می‌کند و با پایپلاین‌های استنتاجی مانند Diffusers و xDiT یکپارچه شده است. این ابزار امکان کوانتیزاسیون آنلاین و شتابدهی بومی را فراهم می‌آورد، که برای مدل‌های بزرگ و پیچیده بسیار مفید است. کوانتیزاسیون با دقت بالا مانند MXFP4 می‌تواند هزینه‌های محاسباتی و مصرف انرژی را به طور قابل توجهی کاهش دهد، که برای استقرار گسترده مدل‌های هوش مصنوعی در مقیاس صنعتی حیاتی است. این فناوری نه تنها کارایی را بهبود می‌بخشد، بلکه امکان استفاده از مدل‌های پیشرفته را روی سخت‌افزارهای معمول‌تر فراهم می‌آورد. علاوه بر این، حفظ کیفیت تصویر در حین کاهش دقت عددی، چالشی است که Quark با موفقیت آن را حل کرده است. کاهش هزینه‌های استنتاج و بهبود کارایی می‌تواند برای شرکت‌های فعال در حوزه هوش مصنوعی و تولید محتوا، به ویژه آنهایی که از مدل‌های دیفیوژن استفاده می‌کنند، مزیت رقابتی قابل توجهی ایجاد کند. این امر می‌تواند منجر به کاهش هزینه‌های عملیاتی و افزایش مقیاس‌پذیری خدمات شود. در ایران، که دسترسی به سخت‌افزارهای پیشرفته محدود است، استفاده از تکنولوژی‌هایی مانند Quark می‌تواند امکان استفاده از مدل‌های هوش مصنوعی را روی سخت‌افزارهای موجود بهبود بخشد. این امر می‌تواند برای پژوهشگران و شرکت‌های محلی مفید باشد. استفاده از تکنولوژی‌های کوانتیزاسیون می‌تواند چالش‌های حقوقی مربوط به مالکیت فکری و استفاده از مدل‌های هوش مصنوعی را تحت تاثیر قرار دهد، به ویژه اگر این تکنولوژی‌ها در محصولات تجاری استفاده شوند. همچنین، استانداردهای جدیدی مانند MXFP4 ممکن است نیاز به بررسی‌های حقوقی و انطباق با مقررات داشته باشند. توسعه تکنولوژی‌های پیشرفته توسط شرکت‌های آمریکایی مانند AMD می‌تواند بر رقابت جهانی در حوزه هوش مصنوعی تاثیر بگذارد و ممکن است باعث تغییرات در سیاست‌های فناوری کشورها شود. فنی و تخصصی با استفاده از AMD Quark و تکنولوژی MXFP4، سرعت استنتاج مدل‌های دیفیوژن تا ۱.۹۲ برابر افزایش یافت، در حالی که کیفیت تصویر حفظ شد.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.