qwen3-6-lora

T

Fase 4: scripts/20_merge_lora.py - merge streaming shard-a-shard del LoRA sobre el checkpoint base

Remapea nombres de modulo (model.layers.* del adapter -> model.language_model.layers.*
del checkpoint base multimodal), preserva tensores mtp.*/visual.* al copiarlos sin
modificar, y toma chat_template.jinja de MODEL_PATH (nunca del adapter, que tiene el
template de masking de training). Verificacion automatica en verde: 310/310 tensores
LoRA-target mergeados, 1045/1045 tensores totales preservados, sin NaN/Inf, muestra de
200 tensores no-target byte-identica al base.

2026-07-29 17:28:36 +00:00

data

Fase 2: 06_validate_dataset.py - validacion con tokenizer/chat_template real (1470/1470 ok, 0 excepciones, 0 filtrados, 0 secretos)

2026-07-29 00:56:23 +00:00

out

Fase 3: versionar el adapter LoRA final (pesos + tokenizer + config)

2026-07-29 16:16:20 +00:00

scripts

Fase 4: scripts/20_merge_lora.py - merge streaming shard-a-shard del LoRA sobre el checkpoint base

2026-07-29 17:28:36 +00:00

.gitignore

Fase 3: versionar el adapter LoRA final (pesos + tokenizer + config)