#
Bienvenido al 🤗 smol-course

¡Bienvenido al curso completo (y el más pequeño) sobre el Fine-tuning de Modelos de Lenguaje!

Este curso gratuito te llevará por una aventura, desde principiante hasta experto, en la comprensión, implementación y optimización de técnicas de fine-tuning para modelos extensos de lenguaje

Esta primera unidad te ayudará a incorporarte:

- Descubre el programa del curso.
- Obtén más información sobre el proceso de certificación y el calendario.
- Conoce al equipo que está detrás del curso.
- Crea tu cuenta.
- Regístrate en nuestro servidor de Discord y conoce a tus compañeros de clase y a nosotros.

¡Empecemos!

¡Este curso es pequeño pero intenso! Está dirigido a desarrolladores de software e ingenieros que desean acelerar el perfeccionamiento de sus habilidades en fine-tuning de modelos de lenguaje grande (LLM). Si no es tu caso, echa un vistazo al Curso LLM.

##
¿Qué puedes esperar de este curso?

En este curso, podrás:

- 📖 Estudiar el ajuste por instrucciones, fine-tuning supervisado, y la alineación de preferencias en la teoría y en la práctica.
- 🧑‍💻 Aprender a usar frameworks y herramientas como TRL y Transformers.
- 💾 Compartir tus proyectos y explorar aplicaciones de fine-tuning creadas por la comunidad.
- 🏆 Participar en retos en los que evaluarás tus modelos ajustados frente a los de otros estudiantes.
- 🎓 Conseguir un certificado de finalización al completar las tareas.

Al terminar este curso, comprenderás cómo ajustar los modelos de lenguaje de manera eficaz y crear aplicaciones de IA especializadas utilizando las últimas técnicas de fine-tuning.

¡No olvides inscribirte al curso!

##
¿Cómo es el curso?

El curso se compone de:

- Unidades fundamentales: donde aprenderás conceptos teóricos sobre el fine-tuning.

- Prácticas: donde aprenderás a utilizar frameworks de fine-tuning establecidos para adaptar tus modelos. Estas secciones prácticas contarán con entornos preconfigurados.
- Tareas de casos prácticos: donde aplicarás los conceptos que has aprendido para resolver un problema del mundo real que tú mismo elegirás.
- Colaboraciones: colaboramos con los socios de Hugging Face para ofrecerte las últimas implementaciones y herramientas de fine-tuning.

Este curso es un proyecto vivo, que evoluciona con tus comentarios y contribuciones. No dudes en abrir issues y Pull Requests en GitHub, y participa en los debates en nuestro servidor de Discord.

##
Cual es el plan de estudio?

Aquí está el plan de estudio general del curso. Se publicará una lista más detallada de temas con cada unidad.

# | Tema | Descripción | Fecha de publicación
--- | --- | --- | ---
1 | Ajuste por Instrucciones | Fine-tuning supervisado, plantillas de chat, seguimiento de instrucciones | ✅
2 | Evaluación | Puntos de referencia y evaluación de dominios personalizados | Septiembre
3 | Alineación de Preferencias | Alineación de modelos con las preferencias humanas mediante algoritmos como DPO. | Octubre
4 | Aprendizaje por Refuerzo | Optimización de modelos basados en políticas de refuerzo. | Octubre
5 | Modelos de Lenguaje Visual | Adaptación y uso de modelos multimodales | Noviembre
6 | Datos Sintéticos | Generación de conjuntos de datos sintéticos para dominios personalizados | Noviembre
7 | Ceremonia de Premiación | Presentación de proyectos y celebración | Diciembre

##
¿Cuáles son los requisitos previos?

Para poder seguir este curso, debes tener:

- Conocimientos básicos sobre los conceptos de IA y LLM.
- Familiaridad con la programación en Python y los fundamentos del machine learning.
- Experiencia con PyTorch o frameworks de aprendizaje profundo similares.
- Conocimientos básicos sobre la arquitectura de los transformadores.

Si no cumples ninguno de estos requisitos, no te preocupes. Echa un vistazo al Curso LLM para empezar.

Los cursos anteriores no son requisitos previos en sí mismos, por lo que si comprendes los conceptos de modelos extensos de lenguaje y transformadores, ¡puedes comenzar el curso ahora mismo!

##
¿Qué herramientas necesito?

Solo necesitas dos cosas:

- Un ordenador con conexión a Internet y, preferiblemente, acceso a un GPU (Hugging Face Pro funciona muy bien).
- Una cuenta: para acceder a los recursos del curso y crear proyectos. Si aún no tienes una cuenta, puedes crear una aquí (es gratis).

##
El proceso de certificación

Puedes elegir entre seguir este curso de oyente o realizar las actividades y obtener uno de los dos certificados que emitimos. Si eliges completar de oyente el curso, puedes participar en todos los retos y realizar las tareas si lo deseas, y no es necesario que nos lo notifiques.

El proceso de certificación es totalmente gratuito:

- Para obtener una certificación de fundamentos: debes completar la Unidad 1 del curso. Está dirigida a estudiantes que desean comprender los conceptos básicos del ajuste de instrucciones sin crear aplicaciones avanzadas.
- Para obtener un certificado de completación: debes completar todas las unidades del curso y enviar un proyecto final. Está dirigida a estudiantes que desean demostrar su dominio de las técnicas de fine-tuning.

##
¿Cuál es el ritmo recomendado?

Cada capítulo de este curso está diseñado para completarse en una semana, con aproximadamente 3-4 horas de trabajo semanales.

Dado que hay una fecha límite, te proporcionamos un ritmo recomendado:

##
¿Cómo aprovechar al máximo al curso?

Para aprovechar al máximo al curso, te ofrecemos algunos consejos:

1. Únete a grupos de estudio en Discord: Estudiar en grupo siempre es más fácil. Para ello, debes unirte a nuestro servidor de Discord y verificar tu cuenta.
2. Realiza los cuestionarios y las tareas: La mejor manera de aprender es mediante la práctica y la autoevaluación.
3. Establece un horario para mantenerte al día: Puedes utilizar nuestro calendario recomendado a continuación o crear el tuyo propio.

##
Quiénes somos

Acerca de los autores:

###
Ben Burtenshaw

Ben es ingeniero de Machine Learning en Hugging Face y se dedica a crear aplicaciones de modelos extensos de lenguaje, con enfoques de post-entrenamiento y agenciales. Sigue a Ben en el Hub para ver sus últimos proyectos.

##
Agradecimientos

Nos gustaría expresar nuestro agradecimiento a las siguientes personas y socios por sus valiosas contribuciones y su apoyo:

- Hugging Face Transformers
- TRL (Transformer Reinforcement Learning)
- PEFT (Parameter-Efficient Fine-Tuning)

##
He encontrado un error o quiero mejorar el curso

Las contribuciones son bienvenidas 🤗

- Si has encontrado un error 🐛 en un notebook, por favor abre un issue y describe el issue.
- Si quieres mejorar el curso, puedes abrir un Pull Request .
- Si quieres añadir una sección completa o una nueva unidad, lo mejor es abrir un ticket y describir qué contenido quieres añadir antes de empezar a escribirlo para que podamos orientarte.

##
Todavía tengo preguntas

Por favor, haz tu pregunta en nuestro servidor de Discord #fine-tuning-course-questions.

Ahora que tienes toda la información, ¡vamos a ponernos en marcha! ⛵

< > Update on GitHub