Состязательное машинное обучение: поверхности атаки, защитные механизмы, теории обучения в искусственном интеллекте

Критической проблемой в глубоком обучении является уязвимость сетей глубокого обучения к атакам безопасности со стороны интеллектуальных кибер -противников. Даже невированные возмущения к данным обучения могут быть использованы для манипулирования поведением глубоких сетей непреднамеренными способами. В этой книге мы рассмотрим последнюю разработку технологий состязательной атаки в компьютерном зрении; Обработка естественного языка; И кибербезопасность в отношении многомерных, текстовых данных и данных изображения, данных о последовательности и временных данных. В свою очередь, мы оцениваем надежность свойств глубоких сетей обучения, чтобы создать таксономию состязательных примеров, которые характеризуют безопасность систем обучения с использованием теоретических алгоритмов глубокого обучения. Также рассматриваются современные механизмы защиты конфиденциальности на основе состязательного возмущения. Мы предлагаем новые типы противников для теоретических объектов игры в нестационарной вычислительной среде обучения. Количественная оценка свойства гипотезы, установленной в задачах принятия решений, приводит к различным функциональным проблемам, оракулярным проблемам, задачам выборки и задачам оптимизации. Мы также обращаемся к оборонным механизмам, которые в настоящее время можно использовать для моделей глубокого обучения, развернутых в реальной среде. Теории обучения, используемые в этих защитных механизмах, касаются репрессий данных, манипулирования характеристиками, затрат на неправильные классификации, ландшафты чувствительности, устойчивость к распределению и классы сложности состязательных алгортов глубокого обучения и воздуха Приложения. В закрытии мы предлагаем будущие направления исследований в приложениях с состязанием глубокого обучения для устойчивого проектирования системы обучения и обзор формализованных предположений об обучении, касающихся поверхностей атаки и характеристик надежности искусственного интеллекта Приложения, чтобы деконструировать современные состязательные дизайны глубокого обучения. Учитывая его масштаб, книга будет интересна для практиков состязания машинного обучения [...]

• Автор: aneesh sreevallabh Chivukula, Синхао Ян
• Издатель: springer
• Год публикации: 2024
• обложка: Soft
• Количество страниц: 302
• Размеры: 23,5 x 15,5 x 0 см
• Иллюстрации: xix, 302 с
• язык: английский
• isbn: 9783030997748