DSD: انقلاب در شتابدهی استنتاج مدلهای زبانی بزرگ
کدگشایی سلبی (SD) با استفاده از مدل پیشنویس کوچک، سرعت استنتاج LLM را افزایش میدهد، اما در اندازههای دسته بزرگ کارایی خود را از دست میدهد. کدگشایی سلبی پویا و آگاه از سختافزار…
آخرین اخبار، تحلیلها و تحولات مرتبط با کوهیر در Titr Tech.
کدگشایی سلبی (SD) با استفاده از مدل پیشنویس کوچک، سرعت استنتاج LLM را افزایش میدهد، اما در اندازههای دسته بزرگ کارایی خود را از دست میدهد. کدگشایی سلبی پویا و آگاه از سختافزار…
کوهیر، شرکت پیشرو در حوزه هوش مصنوعی، با افتتاح دفتر جدیدی در لندن حضور خود در بریتانیا را سه برابر کرد. این دفتر که در خیابان نیو آکسفورد ۱۰۰ واقع شده، بیش از ۱۴۰۰ متر مربع فضای ک…
کوهیر روش جدیدی برای خودکارسازی نگهداری فورکها با استفاده از عاملهای هوش مصنوعی معرفی کرده است. این روش بر روی فورک vLLM این شرکت پیادهسازی شده و زمان جذب نسخههای جدید آپستریم …
کوهیر مدل جدید تشخیص گفتار خود، ترنسکریب، را به صورت اوپن سورس عرضه کرد. این مدل با نرخ خطای کلمه ۵.۴۲ درصد، در صدر جدول رهبران Open ASR هاگینگ فیس قرار دارد و از ۱۴ زبان پشتیبانی …