LLM-Powered Automated Attacks

Girászi, Tamás, Papp, Natália, Oláh, Norbert, Huszti, Andrea (2026) LLM-Powered Automated Attacks In: Proceedings of the 13th International Conference on Applied Informatics. Eger, Eszterházy Károly Catholic University Líceum Publisher. pp. 107-121.

pdf ICAI2026-pp107-121.pdf Download (774kB) [error in script]

Absztrakt (kivonat)

The increasing integration of large language models (LLMs) into systems introduces new attack surfaces that extend beyond traditional software vulnerabilities. While LLMs are commonly protected by prompt-level security mechanisms, recent researches show that these controls can be bypassed through carefully crafted inputs. In this paper, we propose an interaction model based on a Generative Adversarial Network (GAN) conceptual analogy and a dual-LLM framework for systematically examining and testing the security boundaries of LLMs through malicious code generation. The framework consists of two LLMs that iteratively produce attack-oriented prompts, interpret and implement them. Experimental results demonstrate that the proposed approach can generate outputs that are similar to realworld attack patterns, such as SQL injection and cross-site scripting. This research highlights the importance of LLM security controls and emphasizes the need for proactive, automated evaluation methods to improve the robustness and governance of LLM-based systems.

Mű típusa:	Könyvrészlet - Book section
Szerző:	Szerző neve Email MTMT azonosító ORCID azonosító Közreműködés Girászi, Tamás NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző Papp, Natália NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző Oláh, Norbert NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző Huszti, Andrea NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző
Kapcsolódó URL-ek:	Befoglaló kötet
Kulcsszavak:	Large Language Models, Adversarial Prompting, LLMs, GAN
Nyelv:	angol
DOI azonosító:	10.17048/icai.2026.107
Felhasználó:	Tibor Gál
Dátum:	22 Szep 2026 07:00
Utolsó módosítás:	22 Szep 2026 07:00
URI:	http://publikacio.uni-eszterhazy.hu/id/eprint/9439

Műveletek (bejelentkezés szükséges)

Tétel nézet