КПД
@quant_prune_distill - Canale Telegram
—
0 recensioni
3.4K
Iscritti
13/07/26
Aggiunto
Informazioni su КПД
КПД e' un Canale Telegram dedicato a Altro, con oltre 3k iscritti. Квантование & Прунинг & Дистилляция Блог про сжатие сетей и не только. От древнейших времен по настоящее время. Unisciti al canale per ricevere tutti gli aggiornamenti direttamente su Telegram.
Descrizione Originale
Квантование & Прунинг & Дистилляция Блог про сжатие сетей и не только. От древнейших времен по настоящее время.
Ultimi messaggi
🛠
Метод
🎯
Авторы ставят своей целью эффективный инференс на edge-девайсах вроде мобилок. iOS накладывает жёсткие ограничения на размер памяти, используемой приложением, — ~3 гига, поэтому чекпоинт 4B-модели туда никак не влезет без оффлоадинга.
🏗
Архитектура модели включает в себя трансформерные блоки, PLE-эмбеддинги и объединённую LM-голову / эмбеддинги. Каждая из компонент требует своего рецепта
Годный
блогпостик
про использование FP4 квантизации в проде от провайдера Spheron.
В частности, оценивается стоимость инференса при аренде конкретной GPU с учетом максимально достижимого throughput при использовании данного типа данных, а также вопросы качества и доступности в инференсных фреймворках.
Quantized Reasoning Models Think They Need to Think Longer, but They Do Not
📄
Статья
📝
Блогпост
Известно, что квантизованные модели просаживаются в качестве несколько сильнее, чем модели на остальных классах задач.
Но из-за чего именно это происходит?
Команда из Meta обнаружила, что квантизованные модели подвержены overthinking: они начинают зацикливаться в рассуждениях и, даже получая в промежуто
🧪
Метод и эксперименты
Авторы рассматривают следующие варианты квантизации:
*
🔹
weight-only AWQ в 3 и 4 бита;
*
🔹
weight-only GPTQ в 3 и 4 бита;
*
🔹
weight + activation + KV-cache-квантизация в 4 и 8 бит при помощи
FlatQuant
.
Качество оценивают на задачах по математике, общим научным вопросам (GPQA-Diamond) и кодингу (LiveCodeBench). В качестве моделей рассматривают дистиллы дипсика и QwQ (почему
Extreme Low-Bit Inference in Reasoning Models: Failure Modes and Targeted Recovery
📄
Статья
💻
Код
Вдогонку про влияние квантизации на ризонинг.
Ребята из Brain Lab выпустили интересное исследование, показывающее, как ломается ризонинг у квантизованных моделей, а также пару стратегий, помогающих предотвратить зацикливание генерации.
🧪
Метод и эксперименты
В данной работе фокусируются на 2-битном weight-only-сжатии ризонящих моделей. В аппендиксе есть эксперименты с FP4, со сжатием активаций и KV-кэшей. Квантизуют модели Qwen3-8B / Qwen3-32B через GPTQ.
Оказывается, что квантизация сильно меняет поведение трейсов ризонинга:
🔄
Число циклов резко возрастает, особенно для меньшей модели.
📏
Многие трейсы не вписываются в заданный
Интересная по описанию либа
Humming
от InclusionAI.
Позиционируется как легковесный, высокопроизводительный фреймворк с JIT-компилированными GEMM-операциями (под NVIDIA GPU).
⚙️
Он предлагает широкий ассортимент кернелов под разные конфигурации квантованных весов и активаций:
•
🧮
Веса можно квантовать почти в любую целочисленную битность от 1 до 8, а также в разные варианты FP.
•
⚡
Активации можно
Бывает и такое, что Reviewer #2 ставит тебе Accept.
Но ревью настолько короткое и несодержательное, что Area Chair не примет во внимание...
Anteprima testuale degli ultimi messaggi pubblici — i contenuti multimediali non sono mostrati.
Recensioni (0)
Nessuna recensione
Domande Frequenti
Clicca sul pulsante 'Apri in Telegram' e poi premi 'Unisciti' o 'Join' per iscriverti al canale.
Si, entra nel canale, clicca sul nome in alto, poi su 'Notifiche' e seleziona 'Silenzia' per il periodo desiderato.
La frequenza di pubblicazione varia da canale a canale. Puoi vedere i post recenti per farti un'idea della frequenza.
Alcuni canali hanno un link al gruppo discussione o contatti dell'admin nella descrizione. Altrimenti non e' possibile contattarli direttamente.
Altri Canali in Altro
