Злонамеренные атаки и ошибки обучения

Деньги любят техно

Чем больше мы доверяем ИИ, тем чаще слышим о его ошибках и уязвимостях. Пробуем разобраться, какие с этим связаны риски сейчас и какие появятся в будущем. Почему многое зависит от входных данных на этапе обучения нейросети. И как часто в жизни встречаются адверсальные атаки. Дмитрий Берестнев, лидер стрима разработки моделей для партнеров и Платформы больших данных ВТБ, поговорил об этом с Григорием Кабатянским, д. ф.-м.н., вице-президентом по академическому сотрудничеству Сколтеха, и Иваном Фурсовым, специалистом в области разговорного искусственного интеллекта. Получилась одна из самых жарких дискуссий в специальной DS-серии нашего подкаста.