Interval based verification of adversarial example free zones for neural networks – Dependency problem

Csendes, Tibor (2024) Interval based verification of adversarial example free zones for neural networks – Dependency problem Annales Mathematicae et Informaticae. 60. pp. 19-26. ISSN 1787-6117 (Online)

pdf AMI_60_from19to26.pdf Download (466kB) [error in script]

Absztrakt (kivonat)

Recent machine learning models are sensitive to adversarial input perturbation. That is, an attacker may easily mislead an otherwise wellperforming image classification system by altering some pixels. It is quite challenging to prove that a network will have correct output when changing slightly some regions of the images. This is why only a few works targeted this problem. Although there are an increasing number of studies on this field, really reliable robustness evaluation is still an open issue. We will present some theoretical results on the dependency problem of interval arithmetic what is critical in interval based verification.

Mű típusa:	Folyóiratcikk - Journal article
Szerző:	Szerző neve Email MTMT azonosító ORCID azonosító Közreműködés Csendes, Tibor NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző
Kapcsolódó URL-ek:	Befoglaló kötet
Kulcsszavak:	verification, artificial neural network, interval arithmetic
Nyelv:	angol
Kötetszám:	60.
DOI azonosító:	10.33039/ami.2024.02.002
ISSN:	1787-6117 (Online)
Felhasználó:	Tibor Gál
Dátum:	14 Feb 2024 11:57
Utolsó módosítás:	25 Dec 2024 15:47
URI:	http://publikacio.uni-eszterhazy.hu/id/eprint/7974

Műveletek (bejelentkezés szükséges)

Tétel nézet