شتاب تا ۵۰ درصد در تولیدات RL با کدگذاری سلبی آگاه از توزیع (DAS) توسط Together AI

شرح خبر

چارچوب نوآورانه کدگذاری سلبی آگاه از توزیع (DAS) توسط Together AI، گلوگاه مرحله تولید در پس‌آموزش یادگیری تقویتی (RL) را تا ۵۰ درصد کاهش می‌دهد، بدون اینکه تغییری در خروجی‌های مدل ایجاد کند. این روش با بهره‌گیری از ویژگی‌های منحصر به فرد مرحله تولید در RL، مانند توزیع دم‌دراز تولیدات، سیگنال‌های تاریخی مسیرها و تکامل وزن‌های مدل، توانسته است کارایی GPUها را به طور قابل توجهی بهبود بخشد. DAS از یک درخت پسوند سازگار و یک استراتژی زمانبندی آگاه از طول استفاده می‌کند تا تولیدات عقب‌افتاده را خنثی کرده و از هدررفت منابع محاسباتی جلوگیری کند. این فناوری برای مدل‌های بزرگ مانند DeepSeek-R1 که به تنظیم دقیق با RL متکی هستند، اهمیت ویژه‌ای دارد. Together AI چارچوب جدیدی به نام DAS را معرفی کرده است که مرحله تولید در پس‌آموزش یادگیری تقویتی را تا ۵۰ درصد شتاب می‌بخشد. این چارچوب با استفاده از درخت پسوند سازگار و استراتژی زمانبندی آگاه از طول، تولیدات عقب‌افتاده را کاهش می‌دهد. DAS بدون نیاز به آموزش مجدد، با سیاست‌های در حال تکامل مدل همگام می‌ماند و از تاریخچه تولیدات قبلی برای بهبود کارایی بهره می‌برد. این روش به ویژه برای مدل‌های بزرگ مانند DeepSeek-R1 که به تنظیم دقیق با RL وابسته هستند، مفید است. DAS همچنین از هدررفت منابع GPU جلوگیری می‌کند و هزینه‌های محاسباتی را کاهش می‌دهد. یادگیری تقویتی به یکی از ارکان اصلی پس‌آموزش مدل‌های LLM تبدیل شده است، اما با بزرگتر شدن مدل‌ها، مرحله تولید به یک گلوگاه حیاتی تبدیل می‌شود. DAS با ارائه راه‌حلی برای کاهش زمان تولید تا ۵۰ درصد، می‌تواند هزینه‌های محاسباتی را به طور قابل توجهی کاهش دهد. این فناوری نه تنها کارایی سخت‌افزاری را بهبود می‌بخشد، بلکه امکان آموزش مدل‌های بزرگتر و پیچیده‌تر را نیز فراهم می‌کند، که می‌تواند منجر به پیشرفت‌های قابل توجهی در حوزه هوش مصنوعی شود. کاهش ۵۰ درصدی زمان تولید در پس‌آموزش RL می‌تواند هزینه‌های محاسباتی را به طور قابل توجهی کاهش دهد، که برای شرکت‌های فعال در حوزه هوش مصنوعی مانند Together AI، DeepSeek و سایرین بسیار حائز اهمیت است. این امر می‌تواند منجر به صرفه‌جویی‌های مالی قابل توجهی شود و امکان آموزش مدل‌های بزرگتر را با منابع موجود فراهم کند. در ایران، پژوهشگران و شرکت‌های فعال در حوزه هوش مصنوعی می‌توانند از این فناوری برای بهبود کارایی مدل‌های خود استفاده کنند. این امر می‌تواند منجر به کاهش هزینه‌ها و افزایش سرعت توسعه مدل‌های بومی شود، که برای رقابت در بازارهای جهانی اهمیت دارد. DAS می‌تواند تأثیرات حقوقی و فنی مهمی داشته باشد، از جمله بهبود کارایی در پردازش داده‌ها و کاهش هزینه‌های محاسباتی. این امر می‌تواند منجر به توسعه سریع‌تر مدل‌های هوش مصنوعی شود، که ممکن است نیاز به تنظیم قوانین و مقررات مربوط به هوش مصنوعی را در آینده افزایش دهد. این فناوری می‌تواند تأثیرات ژئوپلیتیکی داشته باشد، زیرا کشورهایی که توانایی آموزش مدل‌های بزرگتر و کارآمدتر را دارند، می‌توانند در حوزه هوش مصنوعی برتری پیدا کنند. این امر می‌تواند منجر به رقابت‌های بیشتر بین کشورها در این حوزه شود. Together AI Blog Together AI با معرفی چارچوب DAS، مرحله تولید در پس‌آموزش یادگیری تقویتی را تا ۵۰ درصد شتاب می‌بخشد و هزینه‌های محاسباتی را کاهش می‌دهد.

این صفحه خلاصه و تحلیل فارسی خبر را نمایش می‌دهد. نسخه کامل/اصلی از طریق لینک منبع در دسترس است.