Aplicación de modelos basados en Transformers a la validación de respuestas

López García, Juan Manuel. (2022). Aplicación de modelos basados en Transformers a la validación de respuestas Master Thesis, Universidad Nacional de Educación a Distancia (España). Escuela Técnica Superior de Ingeniería Informática. Departamento de Lenguajes y Sistemas Informáticos

Ficheros (Some files may be inaccessible until you login with your e-spacio credentials)
Nombre Descripción Tipo MIME Size
LopezGarcia_JuanManuel_TFM.pdf LopezGarcia_JuanManuel_TFM.pdf application/pdf 322.37KB

Título Aplicación de modelos basados en Transformers a la validación de respuestas
Autor(es) López García, Juan Manuel
Resumen En la Validación de Respuestas se valora la corrección de las soluciones generadas por un sistema de Búsqueda de Respuestas. Se trata de decidir si las respuestas a una pregunta son apropiadas de acuerdo con los contenidos de un texto determinado. Apenas hay evidencia de que esta funcionalidad esté siendo implementada a partir de modelos de Aprendizaje Profundo y, aún menos, por medio de redes neuronales que incorporen mecanismos atencionales, como en los modelos Transformer. Las técnicas de Aprendizaje Profundo y, en particular, los modelos Transformer, han adquirido gran relevancia en prácticamente todas las áreas del Procesamiento del Lenguaje Natural debido a sus cualidades y rendimiento. En este trabajo proponemos el uso de modelos Transformer en la implementación de subsistemas que utilicen la Implicación Textual para realizar tareas de Validación de Repuestas. Los modelos implementados se evalúan sobre los conjuntos de datos de prueba desarrollados durante los ejercicios del Answer Validation Exercise (AVE). Los resultados obtenidos en las evaluaciones indican que estos modelos pueden ofrecer rendimientos superiores a los de las técnicas probadas durante los AVE por lo que deben ser considerados métodos adecuados para llevar a cabo labores de Validación de Respuestas.
Abstract Answer Validation systems assess the accuracy of Question Answering responses by deciding whether the answers to a question are appropriate according to the content of a given text. There is hardly any evidence that this functionality is being implemented from Deep Learning models and, even less, through neural networks that incorporate attentional mechanisms, as in Transformer models. Deep Learning techniques and in particular, Transformer models, have acquired great relevance in basically all areas of Natural Language Processing due to their features and performance. In this thesis we propose the use of Transformer models in the implementation of subsystems using Textual Entailment to perform Answer Validation tasks. The implemented models are evaluated on test datasets developed during the three Answer Validation Exercise (AVE) editions. The results obtained in the evaluations indicate that these models can provide superior performance than those tested during the AVEs and therefore should be considered as suitable methods for performing Answer Validation tasks.
Notas adicionales Trabajo Final de Máster Universitario en Tecnologías del lenguaje. UNED
Materia(s) Ingeniería Informática
Editor(es) Universidad Nacional de Educación a Distancia (España). Escuela Técnica Superior de Ingeniería Informática. Departamento de Lenguajes y Sistemas Informáticos
Director/Tutor Rodrigo Yuste, Álvaro
Fecha 2022-10-01
Formato application/pdf
Identificador bibliuned:master-ETSInformatica-TL-Jmlopez
http://e-spacio.uned.es/fez/view/bibliuned:master-ETSInformatica-TL-Jmlopez
Idioma spa
Versión de la publicación acceptedVersion
Nivel de acceso y licencia http://creativecommons.org/licenses/by-nc-nd/4.0
info:eu-repo/semantics/openAccess
Tipo de recurso master Thesis
Tipo de acceso Acceso abierto

 
Versiones
Versión Tipo de filtro
Contador de citas: Google Scholar Search Google Scholar
Estadísticas de acceso: 236 Visitas, 205 Descargas  -  Estadísticas en detalle
Creado: Fri, 13 Jan 2023, 20:56:22 CET