hrvatski

Neprijateljski napadi na klasifikacijske modele uz višekriterijsku optimizaciju

Ovaj se rad bavi black-box napadima na modele za klasifikaciju slike uz odabrane algoritme za višekriterijsku optimizaciju, NSGA-II i SPEA2. Neprijateljski napadi prikazani su kao problemi višekriterijske optimizacije te su kao takvi i implementirani. Klasifikacijski modeli predstavljeni su dvjema umjetnim neuronskim mrežama, potpuno povezanom i konvolucijskom, koje su trenirane i ispitane na MNIST skupu slika rukom pisanih znamenki uz visoku točnost. Generirani su neprijateljski uzorci dodavanjem evoluiranog šuma vektoriziranim MNIST slikama. Značajno više uspješnih neprijateljskih uzoraka dobiveno je za neusmjerene napade u odnosu na usmjerene te za potpuno povezani model u odnosu na konvolucijski. Nije opažena značajna razlika u količini uspješnih napada s obzirom na algoritam višekriterijske optimizacije.

višekriterijska optimizacija ; neprijateljski napadi ; umjetne neuronske mreže ; klasifikacija slike

nije evidentirano