Tus tareas
La mayoría de las personas que se dedican a entrenar modelos solo llegan a ver una parte del proceso: los datos, la infraestructura o un estudio de ablación. Aquí te encargarás de todo, de principio a fin.
Entrenamos modelos para tareas agénticas en empresas europeas y administraciones públicas. Eso significa tareas largas, herramientas reales y usuarios con muy poca paciencia para resultados «más o menos correctos». La receta es el aprendizaje por refuerzo con un conjunto grande y variado de tareas sintéticas, ejecutado en cientos de GPU de EuroHPC y de proveedores comerciales de computación.
Buscamos a alguien que se haga cargo de este entrenamiento. Alguien que consiga que los modelos sean más capaces y fiables, y a quien le fastidie un poco que se desperdicie una hora de GPU.
En qué trabajarás
- El postentrenamiento de principio a fin, desde los puntos de partida con SFT hasta grandes ejecuciones de RL on-policy en tareas agénticas. Será tuyo, también en las etapas menos emocionantes.
- Una receta mejor: algoritmos, currículos, mezclas de datos, control de KL y entropía, y asignación de crédito a lo largo de horizontes prolongados. Harás estudios de ablación rigurosos y conservarás solo lo que dé resultado.
- Modelos que, además de ser buenos, sean baratos de ejecutar. Menos tokens y llamadas a herramientas por tarea resuelta, menor latencia y una factura más baja para quien los implemente.
- Averiguar por qué el entrenamiento te está engañando. Una curva de recompensa que parece estupenda por motivos equivocados. Una entropía que colapsa. Un proceso de generación de rollouts que descarta trayectorias sin que nadie se dé cuenta.
- La infraestructura subyacente: motores de rollout e inferencia, entrenamiento asíncrono y ejecuciones y evaluaciones que otras personas puedan reproducir, tanto si trabajan en las máquinas Slurm de EuroHPC como en sistemas comerciales.
- Poner los modelos en circulación. Algunos se publicarán abiertamente (el primer lanzamiento está previsto para Q1 2027); otros llegarán a clientes que dependen de ellos.
Tu perfil
- Has entrenado o ajustado LLM con tus propias manos, idealmente mediante RL (la familia PPO/GRPO, RL con recompensas verificables, RLHF).
- PyTorch es algo natural para ti y tienes experiencia real con entrenamiento distribuido (FSDP, DeepSpeed, Megatron o similar) en clústeres Slurm o Kubernetes.
- Eres riguroso/a con los experimentos: una hipótesis, una línea de base, suficientes semillas y gráficos que defenderías ante una persona escéptica.
- No te importa demasiado a qué lado de la frontera entre investigación e ingeniería pertenece un problema, y te gustan las soluciones sencillas que funcionan.
- Sabes explicar con claridad qué ha demostrado una ejecución. También cuando no ha demostrado nada.
- Vives en la UE y tienes permiso para trabajar aquí. Solo necesitas inglés; el alemán es un plus.
- Se valorará, pero es totalmente opcional: experiencia con motores de inferencia como vLLM o SGLang; marcos de RL (verl, OpenRLHF, TRL o el que escribiste porque los demás te sacaban de quicio); depuración en varios nodos (NCCL, interconexiones, hardware que se estropea a mitad de una ejecución); optimización del rendimiento de GPU; publicaciones o contribuciones de código abierto.
¿Por qué trabajar con nosotros?
La receta funciona y está muy lejos de estar terminada. Creemos que este es el mejor momento para incorporarse: ya no partes de un repositorio vacío, pero aún llegas a tiempo de influir en cómo entrenamos con tu criterio. Tampoco tendrás que hacerlo en solitario. El equipo lleva años entrenando modelos, a través de LeoLM, OpenEuroLLM y SOOFI, así que no serás la única persona que haya contemplado un pico en la pérdida a las 3 a. m. Y somos lo bastante pequeños como para que reconozcas tu propio trabajo en el modelo.
Lo que ofrecemos
- Trabaja desde cualquier lugar de la UE, idealmente Alemania.
- Computación de verdad: cientos de GPU de EuroHPC y de proveedores comerciales.
- Las herramientas de IA que faciliten tu trabajo, sin una odisea de compras.
- Tu nombre en trabajos públicos. Nuestro primer lanzamiento de código abierto está previsto para Q1 2027.
- Fundadores a quienes puedes escribir directamente y un equipo de investigación del que merece la pena aprender.
- Una oficina si la quieres: Bremen, junto al agua (sí, hay un barco, además de bebidas y batidos gratis), o Berlín.
Antigüedad: con experiencia
Jornada: completa
Tipo de empleo: permanente
Ubicación del puesto: Bremen, Konsul-Smidt-Str. 8P, 28217, DE
Ubicación del puesto: Berlín, 10119, DE
#J-18808-Ljbffr