1. Обучение сжатию изображений без потерь с помощью комбинированных моделей авторегрессии и модулей внимания (arXiv)
Автор: Ран Ван, Цзиньмин Лю, Хеминг Сун, Дзиро Катто
Аннотация : Сжатие изображений без потерь — важная область исследований в области сжатия изображений. В последнее время методы сжатия изображений на основе обучения достигли впечатляющей производительности по сравнению с традиционными методами без потерь, такими как WebP, JPEG2000 и FLIF. Однако все еще существует множество впечатляющих методов сжатия с потерями, которые можно применять для сжатия без потерь. Поэтому в этой статье мы исследуем методы, широко используемые при сжатии с потерями, и применим их к сжатию без потерь. Вдохновленные впечатляющей производительностью смешанной модели Гаусса (GMM), показанной при сжатии с потерями, мы создаем сетевую архитектуру без потерь с помощью GMM. Помимо того, что мы заметили успешные достижения модулей внимания и авторегрессионных моделей, мы предлагаем использовать модули внимания и добавить дополнительную авторегрессионную модель для необработанных изображений в нашу сетевую архитектуру для повышения производительности. Экспериментальные результаты показывают, что наш подход превосходит большинство классических методов сжатия без потерь и существующие методы, основанные на обучении.
2. AdaCat: адаптивная категориальная дискретизация для авторегрессионных моделей (arXiv)
Автор: Циянг Ли, Аджай Джейн, Питер Аббил
Выдержка. Авторегрессионные генеративные модели могут оценивать сложные непрерывные распределения данных, такие как развертывание траектории в среде RL, интенсивность изображения и звук. Большинство современных моделей дискретизируют непрерывные данные по нескольким бинам и используют категориальные распределения по бинам для аппроксимации распределения непрерывных данных. Преимущество состоит в том, что категориальное распределение может легко выражать несколько режимов и его легко оптимизировать. Однако такая аппроксимация не может выразить резкие изменения плотности без использования значительно большего количества бинов, что делает ее параметр неэффективным. Мы предлагаем эффективную, выразительную, мультимодальную параметризацию, называемую адаптивной категориальной дискретизацией (AdaCat). AdaCat адаптивно дискретизирует каждое измерение авторегрессионной модели, что позволяет модели распределять плотность по точным интересующим интервалам, повышая эффективность параметров. AdaCat обобщает как категориальную, так и регрессию на основе квантилей. AdaCat — это простое дополнение к любому оценщику распределения на основе дискретизации. В экспериментах AdaCat улучшает оценку плотности для реальных табличных данных, изображений, аудио и траекторий, а также улучшает планирование в автономном RL на основе моделей.
3. Пространственная авторегрессионная модель для распределенных основных направлений диффузии фон Мизеса Фишера (arXiv)
Автор: Чжоу Лань, Аркаправа Рой
Аннотация:Основные направления диффузии являются одним из наиболее важных статистических данных, полученных с помощью визуализации тензора диффузии (DTI). Именно направленные данные отображают анатомические структуры тканей головного мозга. Однако доступно лишь несколько подходов для зависимого от ковариат статистического моделирования основных направлений диффузии. Таким образом, мы предлагаем новую модель пространственной авторегрессии, предполагая, что основными направлениями диффузии являются распределенные данные о направлениях фон-Мизеса-Фишера (vMF). Используя новую функцию связи, основанную на преобразовании между декартовыми координатами и сферическими координатами, мы регрессируем распределение основных направлений диффузии vMF по ковариатам субъекта, измеряя, как клинические факторы влияют на анатомические структуры. Пространственная остаточная зависимость вдоль волокон улавливается авторегрессионной моделью. Тщательно разработаны ключевые статистические свойства модели и комплексный набор инструментов для байесовского вывода данных о направлении с приложениями для анализа медицинских изображений. Численные исследования, основанные на синтетических данных, показывают, что наша модель более точно оценивает влияние клинических факторов. Применяя нашу регрессионную модель к данным Инициативы нейровизуализации болезни Альцгеймера (ADNI), мы получаем новое понимание.
