Interval based verification of adversarial example free zones for neural networks – Dependency problem

Csendes, Tibor (2024) Interval based verification of adversarial example free zones for neural networks – Dependency problem Annales Mathematicae et Informaticae. ISSN 1787-6117 (Online)

pdf AMI_online_1519.pdf Download (461kB) [error in script]

Absztrakt (kivonat)

Recent machine learning models are sensitive to adversarial input perturbation. That is, an attacker may easily mislead an otherwise wellperforming image classification system by altering some pixels. It is quite challenging to prove that a network will have correct output when changing slightly some regions of the images. This is why only a few works targeted this problem. Although there are an increasing number of studies on this field, really reliable robustness evaluation is still an open issue. We will present some theoretical results on the dependency problem of interval arithmetic what is critical in interval based verification.

Mű típusa:	Folyóiratcikk - Journal article
Szerző:	Szerző neve Email MTMT azonosító ORCID azonosító Közreműködés Csendes, Tibor NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző
Megjegyzés:	Accepted manuscript ---- Published online: February 14, 2024
Kapcsolódó URL-ek:	Befoglaló kötet
Kulcsszavak:	verification, artificial neural network, interval arithmetic
Nyelv:	angol
DOI azonosító:	10.33039/ami.2024.02.002
ISSN:	1787-6117 (Online)
Felhasználó:	Tibor Gál
Dátum:	14 Feb 2024 11:57
Utolsó módosítás:	14 Feb 2024 13:48
URI:	http://publikacio.uni-eszterhazy.hu/id/eprint/7974

Műveletek (bejelentkezés szükséges)

Tétel nézet