Главная » Блоги Экспертов И ИТ-Компаний » Троянское машинное обучение или скрытая угроза

Троянское машинное обучение или скрытая угроза

В последнее время все больше общественного внимания уделяется машинному обучению в сфере здравоохранения.
В частности было опубликовано много работ с примерами использования глубокого обучения, позволяющего достигнуть паритета с врачами-людьми при выполнении задач в области радиологии, патоморфологии, дерматологии и офтальмологии.
Тем временем внимание экспертного сообщества все больше фокусируется на уязвимостях подобных алгоритмов и возможных последствиях перспективы замены врачей некоторых специальностей подобными алгоритмами.
Манипуляция обучающей выборкой путем добавления в нее "шума", наподобие добавления ложки дегтя в бочку мёда, получила название состязательной атаки. Собственно говоря, это уязвимость не только ИИ, человека тоже можно неправильно обучить и последствия этого тоже будут плачевны. Однако, как выяснилось, в случае с машинным обучением, это сделать значительно проще...
Подробнее


Данный материал является частной записью члена сообщества Club.CNews.
Редакция CNews не несет ответственности за его содержание.
7 месяцев назад
Комментарии
Другие публикации
RU, Москва
врач УЗД, администратор сайта uzgraph.ru
Информационные технологии



Забыл пароль?
Авторизоваться через
Зарегистрируйся сейчас!
Присоединяйся к нашему обществу для того чтобы познакомиться с новыми людьми, создать собственный блог, публиковать анонсы событий и объявления, а также участвовать в обсуждении публикаций CNews. Мы создали единое пространство для общения специалистов рынка информационных технологий и всех, кто интересуется современными технологиями. Регистрация =>