Estudio de técnicas de afinamiento para Modelos del Lenguaje de dominio específico

Abstract

Este proyecto se centra en la implementación de un modelo de lenguaje preentrenado (LLM) ajustado mediante Fine-Tuning. Para ello, se desarrolló una herramienta de scraping que extrae datos relevantes de diversas fuentes web, creando un corpus específico para el proyecto. Se realizó el Fine-Tuning de dos LLMs, Qwen2 1.5B y Mistral 7b, adaptándolos para tareas concretas. Además, se diseñó una herramienta de test para evaluar el rendimiento de los modelos ajustados, comparando sus respuestas con las correctas. Los resultados muestran mejoras en el desempeño tras el ajuste, evidenciando el impacto del Fine-Tuning en la personalización de los LLMs para tareas específicas.

This project focuses on fine-tuning a pre-trained language model (LLM). A scraping tool was developed to extract relevant data from various web sources, creating a task-specific corpus. Fine-Tuning was performed on two LLMs, Qwen2 1.5B and Mistral 7b, adapting them for specific tasks. Additionally, a testing tool was created to evaluate the performance of the finetuned models by comparing their responses to correct answers. The results show performance improvements after fine-tuning, highlighting the impact of this technique in customizing LLMs for specific tasks.