«защита и безопасность систем искусственного интеллекта»

ТОП-5: кандидаты в слабые сигналы

Кандидаты в слабые сигналы — темы, прошедшие правило отбора; порядок — по числу пройденных критериев из 12. Стадия и тренд — грубая оценка по числу публикаций.

1. 1

   состязательное машинное обучение

   adversarial machine learning

   Состязательное машинное обучение изучает уязвимости моделей к специально сформированным атакам и разрабатывает методы повышения их устойчивости. По документам, направление охватывает защиту классических и квантовых моделей, обнаружение мошенничества, безопасность устройств и коммуникаций, а также анализ угроз и механизмов противодействия им.

   Ключевые предикторы: наклон доли в потоке, наклон работ, доля препринтов и ещё 9 107 документов
   12 из 12

   Масштабирование, растёт

   уверенность 100 %

2. 2

   конфиденциальное машинное обучение

   privacy-preserving machine learning

   Конфиденциальное машинное обучение объединяет методы защиты данных с анализом и обучением моделей, включая локальную дифференциальную приватность и федеративное обучение. Документы показывают, что направление решает не только задачу сохранения конфиденциальности при агрегировании данных и совместном обучении без передачи исходных данных, но и задачу защиты таких систем от отравления данных и других атак.

   Ключевые предикторы: наклон доли в потоке, рост с поправкой, наклон работ и ещё 8 3 документа
   11 из 12

   Масштабирование, растёт

   уверенность 92 %

3. 3

   атаки отравления данных

   data poisoning attacks

   Атаки отравления данных — это направление защиты систем искусственного интеллекта от внесения злоумышленником искажённых данных или параметров, способных ухудшить работу моделей и привести к ошибочным решениям. Документы рассматривают обнаружение и подавление таких атак в федеративном обучении, медицинской классификации изображений, распознавании дорожных знаков, мультимодальном прогнозировании, моделях преобразования текста в изображение и других задачах.

   Ключевые предикторы: наклон доли в потоке, доля препринтов, наклон работ и ещё 7 101 документ
   10 из 12

   Ранние разработки / PoC, растёт

   уверенность 83 %

4. 4

   водяные знаки моделей ИИ

   AI model watermarking

   Водяные знаки моделей ИИ — направление, связанное с внедрением распознаваемых признаков в модели или связанные с ними данные для подтверждения происхождения и выявления несанкционированного использования. В доступном документе рассмотрен близкий сценарий: водяные знаки для наборов данных, подвергнутых безопасному отравлению, чтобы подтверждать принадлежность данных и обнаруживать потенциальное отравление.

   Ключевые предикторы: наклон доли в потоке, наклон работ, доля препринтов и ещё 6 1 документ
   9 из 12

   Ранние разработки / PoC, растёт быстро

   уверенность 75 %

5. 5

   верификация нейронных сетей

   neural network verification

   Верификация нейронных сетей в представленном документе рассматривается как точная проверка устойчивости процесса обучения к атакам с отравлением данных. Подход моделирует изменение данных, динамику обучения на основе градиентов и тестовую оценку в единой оптимизационной задаче, чтобы выявлять наихудшие атаки и оценивать устойчивость всего конвейера.

   Ключевые предикторы: наклон доли в потоке, наклон работ, доля препринтов и ещё 4 1 документ
   7 из 12

   Ранние разработки / PoC, растёт

   уверенность 58 %

Исключено из выдачи (4)

Кандидаты, которые не вошли в ТОП. У группы — правило исключения с порогом, у темы — причина. Пороги и все правила — в методике.

Правила без совпадений в этом поиске: зрелые тренды, отраслевые стандарты, шум, спад, недостаточно слабых признаков, недостаточно данных, область запроса.

Как получена выдача