1.Адаптивное сжатие изображения на основе XAI с сохранением производительности для эффективной спутниковой связи (arXiv)
Автор:KyungChae Lee
Аннотация:В эпоху многонационального сотрудничества сбор и анализ спутниковых изображений становится проще и важнее. Типичная процедура анализа спутниковых изображений включает передачу объемных данных изображения со спутника на землю, что приводит к значительным накладным расходам. Чтобы уменьшить количество накладных расходов на передачу, не нанося вреда результату анализа, в этой статье мы предлагаем новую схему сжатия изображений RDIC. RDIC — это схема сжатия изображений на основе рассуждений, которая сжимает изображение в соответствии с оценкой важности пикселей, полученной из самой модели анализа. Из экспериментальных результатов мы показали, что наша схема RDIC успешно захватывает важные области изображения, демонстрируя высокую степень сжатия и низкую потерю точности.
2.Объяснимый ИИ (XAI) в биомедицинской обработке сигналов и изображений: обещания и проблемы (arXiv)
Автор: Гуан Ян, Арвинд Рао, Кристин Фернандес-Малонь, Винс Калхун, Глория Менегаз.
Аннотация. Искусственный интеллект получил широкое распространение в различных дисциплинах и областях, и обработка биомедицинских изображений и сигналов не является исключением. Растущий и широко распространенный интерес к этой теме вызвал обширную исследовательскую деятельность, которая нашла отражение в экспоненциальной исследовательской деятельности. Благодаря изучению массивных и разнообразных биомедицинских данных модели машинного и глубокого обучения произвели революцию в различных задачах, таких как моделирование, сегментация, регистрация, классификация и синтез, превзойдя традиционные методы. Однако сложность перевода результатов в биологически/клинически интерпретируемую информацию препятствует их полному использованию в полевых условиях. Объяснимый ИИ (XAI) пытается заполнить этот переводческий пробел, предоставляя средства для того, чтобы сделать модели интерпретируемыми и предоставляя объяснения. На данный момент были предложены различные решения, которые вызывают все больший интерес со стороны сообщества. Этот документ направлен на предоставление обзора XAI в обработке биомедицинских данных и указывает на предстоящий специальный выпуск журнала IEEE Signal Processing Magazine, посвященный глубокому обучению в биомедицинских изображениях и обработке сигналов, который выйдет в марте 2022 года.
3.Объяснение любой модели машинного обучения? — О целях и возможностях XAI (arXiv)
Автор: Мориц Ренфтле, Хольгер Триттенбах, Михаэль Позник, Рейнхард Хайль
Аннотация. Растущее распространение машинного обучения (МО) побуждает к исследованиям алгоритмов для объяснения моделей МО и их прогнозов — так называемого объяснимого искусственного интеллекта (XAI). Несмотря на множество обзорных статей и дискуссий, цели и возможности алгоритмов XAI далеки от понимания. Мы утверждаем, что это связано с проблемной схемой рассуждений в литературе XAI: говорят, что алгоритмы XAI дополняют модели ML желаемыми свойствами, такими как «интерпретируемость» или «объяснимость». Предполагается, что эти свойства, в свою очередь, способствуют достижению цели, например, «доверие» к системе машинного обучения. Но большинству свойств не хватает точных определений, и их связь с такими целями далеко не очевидна. В результате получается схема рассуждений, которая затемняет результаты исследований и оставляет без ответа важный вопрос: чего можно ожидать от алгоритмов XAI? В этой статье мы разъясняем цели и возможности алгоритмов XAI с конкретной точки зрения: с точки зрения их пользователей. Объяснение моделей машинного обучения необходимо только в том случае, если у пользователей есть вопросы по ним. Мы показываем, что пользователи могут задавать различные вопросы, но только на один из них можно ответить с помощью современных алгоритмов XAI. Ответ на этот ключевой вопрос может быть тривиальным, трудным или даже невозможным, в зависимости от приложения машинного обучения. Основываясь на этих выводах, мы определяем, какие возможности политики, исследователи и общество могут разумно ожидать от алгоритмов XAI.
