Saltar al contenido

¿Qué son los datos de entrenamiento?

Qué son los datos de entrenamiento y cómo moldean los modelos de IA: cómo la calidad y la diversidad afectan a la precisión, el sesgo y el rendimiento.

Compartir

¿Qué son los datos de entrenamiento?

Los datos de entrenamiento son el conjunto de ejemplos de los que aprende un modelo de aprendizaje automático. Para un filtro de spam, son correos etiquetados como spam o no spam; para un gran modelo de lenguaje, es una vasta colección de texto de libros, sitios web, artículos y código. Lo que un modelo puede hacer, y los errores que comete, dependen en gran medida de estos datos.

Un ejemplo sencillo

Para enseñar a un modelo a distinguir frases formales de informales, podrías reunir 10 000 frases, cada una etiquetada como «formal» o «informal». El modelo ajusta sus parámetros hasta que sus etiquetas coinciden con las tuyas, y entonces puede etiquetar frases que nunca ha visto.

Datos de entrenamiento, de validación y de prueba

  • Conjunto de entrenamiento: los ejemplos de los que aprende el modelo.
  • Conjunto de validación: se reserva para ajustar la configuración y decidir cuándo parar el entrenamiento.
  • Conjunto de prueba: se aparta hasta el final, para medir el rendimiento con datos realmente nuevos.

Una división habitual es 80 % de entrenamiento y 20 % de prueba (o 70/15/15 con validación). Probar con datos no vistos muestra si el modelo ha aprendido patrones generales o solo ha memorizado sus ejemplos, un problema llamado sobreajuste.

Datos de entrenamiento de los modelos de lenguaje

  • Grandes rastreos de la web como Common Crawl, filtrados por calidad.
  • Wikipedia, libros y artículos académicos, incluida la investigación de acceso abierto.
  • Código de repositorios públicos.
  • Ejemplos escritos o valorados por personas, usados para el ajuste fino.

Todo modelo tiene una fecha límite de entrenamiento, por lo que no sabe nada de lo publicado después, a menos que pueda buscar.

Por qué importan los datos de entrenamiento

  • Calidad: los errores y el texto de baja calidad de los datos aparecen en la salida.
  • Sesgo: si algunos grupos, idiomas o puntos de vista están infrarrepresentados, el modelo lo refleja.
  • Lagunas: una cobertura escasa de un tema hace más probables las respuestas inventadas (consulta la alucinación de la IA).

Cuestiones éticas y legales

  • Consentimiento y derechos de autor: autores y editoriales han cuestionado el uso de sus obras para entrenar.
  • Privacidad: los datos personales pueden acabar en los conjuntos de entrenamiento.
  • Tu propio texto: algunas herramientas pueden usar lo que escribes para entrenar modelos futuros. Consulta la política de datos de una herramienta antes de pegar investigación inédita.

Caso de uso: IA para hacer ensayos sin perder tu argumento

Tu próximo trabajo, con citas reales.

Describe tu trabajo y obtén un esquema en un minuto. El plan Gratis no necesita tarjeta.