- Жадный выбор модальности с помощью приближенной субмодульной максимизации (arXiv)
Автор: Жуньсян Чэн, Гарги Баласубраманиам, Ифэй Хэ, Яо-Хун Хуберт Цай, Хань Чжао.
Аннотация: мультимодальное обучение предполагает обучение на мультимодальных данных с целью объединения разнородных источников информации. Однако не всегда возможно использовать все доступные модальности из-за ограничений памяти. Кроме того, обучение всем модальностям может быть неэффективным, если в данных существует избыточная информация, например различные подмножества модальностей, обеспечивающие одинаковые характеристики. В свете этих проблем мы изучаем выбор модальности, намереваясь эффективно выбрать наиболее информативные и дополнительные модальности при определенных вычислительных ограничениях. Мы формулируем теоретическую основу для оптимизации выбора модальности в мультимодальном обучении и вводим меру полезности для количественной оценки выгоды от выбора модальности. Для этой задачи оптимизации мы представляем эффективные алгоритмы, когда мера полезности демонстрирует монотонность и приблизительную субмодулярность. Мы также связываем меру полезности с существующими показателями важности функций, основанными на значении Шепли. Наконец, мы демонстрируем эффективность нашего алгоритма на синтетических (Patch-MNIST) и двух реальных (PEMS-SF, CMU-MOSI) наборах данных.
2. Несубмодулярная максимизация с помощью жадного алгоритма и влияние ограниченной информации при многоагентном выполнении (arXiv)
Автор: Бенджамин Биггс, Джеймс МакМахон, Филип Бальдони, Дэниел Дж. Стилуэлл.
Аннотация: Мы даем теоретические оценки производительности жадного алгоритма в наихудшем случае при попытке максимизировать нормализованную, монотонную, но не обязательно субмодулярную целевую функцию при ограничении простого матроида разбиения. Мы также предоставляем наихудшие оценки производительности жадного алгоритма в случае, когда на каждом этапе планирования доступна ограниченная информация. Мы специально рассматриваем ограниченную информацию в результате ненадежной связи во время распределенного выполнения жадного алгоритма. Мы используем понятия кривизны для нормализованных монотонных функций множества, чтобы развить оценки, представленные в этой работе. Чтобы продемонстрировать ценность оценок, приведенных в этой работе, мы анализируем вариант полезности целевой функции поиска и показываем, используя реальные данные, собранные автономным подводным аппаратом, что теоретические гарантии аппроксимации достигаются, несмотря на несубмодулярность целевой функции. целевая функция
