Enhancing machine translation with quality estimation and reinforcement learning

Yang, Zijian Győző, Laki, László János (2023) Enhancing machine translation with quality estimation and reinforcement learning Annales Mathematicae et Informaticae. 58. pp. 180-190. ISSN 1787-6117 (Online)

pdf AMI_58_from182to190.pdf Download (625kB) [error in script]

Absztrakt (kivonat)

In recent times, our research has focused on training large language models and exploring their potential. With the emergence of ChatGPT, it has been demonstrated that it is possible to fine-tune language models in a task-agnostic way. The success of ChatGPT is attributed to the reinforcement learning method, which integrates human feedback into the language model fine-tuning process. As a part of our research, we initially adapted the method of reinforcement learning for a specific task, which is machine translation, respectively. In this paper, we propose a novel approach to enhance machine translation with reinforcement learning and quality estimation methods. Our proposed approach uses reinforcement learning to learn to adjust the machine translation output based on quality estimation feedback, with the goal of improving the overall translation quality. We evaluated our approach on the WMT09 dataset for English-Hungarian language pair. We conducted an analysis to show how our approach improves the quality of machine translation output. Our approach offers a promising avenue for enhancing the quality of machine translation and demonstrates the potential of utilizing reinforcement learning to improve other natural language processing tasks.

Mű típusa:	Folyóiratcikk - Journal article
Szerző:	Szerző neve Email MTMT azonosító ORCID azonosító Közreműködés Yang, Zijian Győző NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző Laki, László János NEM RÉSZLETEZETT NEM RÉSZLETEZETT NEM RÉSZLETEZETT Szerző
Kapcsolódó URL-ek:	Befoglaló kötet
Kulcsszavak:	machine translation, reinforcement learning, quality estimation, mT5
Folyóirat alcíme:	Selected papers of the 12th International Conference on Applied Informatics
Nyelv:	angol
Kötetszám:	58.
DOI azonosító:	10.33039/ami.2023.08.008
ISSN:	1787-6117 (Online)
Felhasználó:	Tibor Gál
Dátum:	21 Aug 2023 06:45
Utolsó módosítás:	10 Nov 2023 14:09
URI:	http://publikacio.uni-eszterhazy.hu/id/eprint/7707

Műveletek (bejelentkezés szükséges)

Tétel nézet