78d9b0d90d3774a02a35fd73790920b43c08d57d
Nueva variable NUM_ULTRACHAT_SAMPLES (default 0, sin cambio de comportamiento): cuando > 0, mezcla esa cantidad de muestras de HuggingFaceH4/ultrachat_200k (split train_sft, el mismo corpus/split que uso RedHatAI en su receta de referencia) con (NUM_CALIBRATION_SAMPLES - NUM_ULTRACHAT_SAMPLES) muestras de TRAIN_DATA_PATH, concatenadas y mezcladas (shuffle, seed=42) antes de tokenizar para calibracion. Hipotesis a probar (decision del usuario tras ver que el aislamiento sin --speculative-config descarto al speculative decoding como causante de la regresion, y antes de simplemente aumentar la cantidad de muestras propias): la regresion podria venir de poca DIVERSIDAD tematica en la calibracion (solo conversaciones angostas de los 5 MCPs/skills del proyecto) en vez de poca cantidad de muestras. La porcion de TRAIN_DATA_PATH sigue usando el mismo seed=42, asi que con NUM_ULTRACHAT_SAMPLES=256 y NUM_CALIBRATION_SAMPLES=512, las 256 muestras propias son identicas a las del primer intento (256 solo propias).
Description
No description provided
465 MiB
Languages
Python
92.8%
Jinja
7.2%