A Brief Comparison Between White Box, Targeted Adversarial Attacks in Deep Neural Networks - Bezirganyan, Grigor V.; Sergoyan, Henrik T. (Изд-во НАН РА)
Today, neural networks are used in various domains, in most of which it is critical to have reliable and correct output. This is why adversarial attacks make deep neural networks less reliable to be used in safety-critical areas. Hence, it is important to study the potential attack methods to be able to develop much more robust networks. In this paper, we review four white box, targeted adversarial attacks, and compare them in terms of their misclassification rate, targeted misclassification rate, attack duration, and imperceptibility. Our goal is to find the attack(s), which would be efficient, generate adversarial samples with small perturbations, and be undetectable to the human eye. Այսօր նեյրոնային ցանցերն օգտագործվում են տարբեր ասպարեզներում, որոնցից շատերում կարևոր է ունենալ հուսալի և ճշգրիտ արդյունք: Ահա թե ինչու մրցակցային հարձակումները նեյրոնային ցանցերը դարձնում են ավելի քիչ հուսալի‘ բարձր անվտանգության մակարդակ պահանջող տիրույթներում: Հետևաբար, կարևոր է ուսումնասիրել հարձակման հնարավոր մեթոդները` ավելի կայուն և անվտանգ ցանցեր մշակելու համար: Այս հոդվածում մենք քննարկում ենք չորս սպիտակ?տուփով, թիրախավորված մրցակցային հարձակումներ և համեմատում դրանք իրենց սխալ դասակարգման աստիճանի, նպատակային սխալ դասակարգման արագության աստիճանի, հարձակման տևողության և աննկատելիության առումով: Մեր նպատակն է գտնել հարձակում(ներ), որոնք արդյունավետ կլինեն և կստեղծեն մրցակցային օրինակներ‘ փոքր շեղումներով և աննկատելի մարդու աչքի համար: Сегодня нейронные сети используются в различных областях, в большинстве из которых важно иметь надежный и правильный вывод. Вот поэтому состязательные атаки делают глубокие нейронные сети менее надежными для использования в областях, где безопасность имеет решающее значение. Следовательно, важно изучить потенциальные методы атаки, чтобы иметь возможность разрабатывать гораздо более надежные сети. В этой статье мы рассматриваем четыре ''белых ящика'' - целенаправленные состязательные атаки и сравниваем их с точки зрения частоты ошибочных классификаций, частоты целевых ошибочных классификаций, длительности атаки и незаметности. Наша цель - найти атаки, которые были бы эффективны и генерировали бы состязательные выборки с небольшими возмущениями и не обнаруживались бы человеческим глазом.
Keywords: Mathematical cybernetics; Computer science