Destila las respuestas de un modelo más grande en uno pequeño

Unos 18 minutos de lectura, con 3 ejemplos en 6 secciones.

Edición 2026.11.9 Ejemplos verificados el 20 de nov de 2026 36 de 36 ejemplos pasan Qué ha cambiado

Traducido con IA. Verificado por personas en inglés. Cómo hacemos los libros

Traducido del libro en inglés, edición 2026.11.9. Lee el original

Al terminar este capítulo, podrás entrenar un modelo alumno pequeño con las etiquetas que un modelo maestro más grande asigna a tus filas de entrenamiento, medir con qué frecuencia esas etiquetas coinciden con las etiquetas de referencia y decidir, a partir de los mismos mensajes, si el alumno merece la pena frente a un alumno entrenado con etiquetas de referencia.

Un enrutador aprende a nombrar el equipo a partir de mensajes etiquetados. Este capítulo se pregunta si un modelo más grande puede hacer ese etiquetado para las filas de entrenamiento, de modo que un modelo pequeño aprenda de sus respuestas. Las etiquetas de referencia provienen de BANKING77. El capítulo 5 entrenó un cabezal con las etiquetas de referencia de las filas de entrenamiento, y el adaptador que guardó, banking77-lora-v1, es el adaptador etiquetado por personas. Su resultado en la prueba es la referencia para todo lo que sigue en este capítulo, y su umbral es el que registra su manifiesto, elegido en dev según la regla que dio el capítulo 5.

Crear etiquetas de referencia cuesta tiempo a las personas, y la destilación es el intento de evitarlo: las respuestas de un modelo más grande ocupan el lugar de las etiquetas de referencia. El modelo más grande aquí es el sustituto. Es más grande que SmolLM2-135M-Instruct, el modelo base sobre el que se construye el enrutador de este libro, y responde a la misma pregunta que le hace el enrutador.

Qué copia la destilación

Último cambio en la edición 2026.11.9

La destilación entrena un modelo pequeño para reproducir a uno grande. El artículo de Hinton, Vinyals y Dean, que dio nombre a la destilación, propuso entrenar un modelo pequeño con las probabilidades que un modelo grande asigna a cada clase, como soft targets (Hinton et al., 2015, arXiv:1503.02531). Según el artículo, esas probabilidades contienen más información que una sola etiqueta, y un modelo pequeño entrenado así puede a menudo aprender con muchos menos datos que los que necesita el modelo grande. Esa es la afirmación del propio artículo, basada en sus propios experimentos, y no una regla que valga para cualquier tarea.

Este capítulo no usa soft targets. El sustituto devuelve un equipo para cada mensaje, el que considera más probable, y el estudiante solo ve ese equipo. Kim y Rush usaron la misma simplificación para la traducción, donde reemplazaron la distribución del maestro por su salida más probable: "Our simplest approximation is to replace the teacher distribution q with its mode" (Kim and Rush, 2016, arXiv:1606.07947). Su escenario es la traducción, no la clasificación. Nosotros tomamos prestada la simplificación y la medimos en esta tarea en lugar de suponer que se sostiene aquí. En este caso, la respuesta voraz del maestro cumple el papel de la moda: es el único equipo que el maestro devuelve para cada mensaje.

De entrenar con una etiqueta por mensaje se derivan dos cosas. Un estudiante aprende los errores del maestro junto con sus respuestas correctas, porque el bucle de entrenamiento trata una etiqueta incorrecta como una etiqueta, igual que una correcta. Y los errores del estudiante pueden diferir de los del maestro, por lo que conviene medir al estudiante contra las etiquetas de referencia y no solo contra el maestro.

Regla práctica: Antes de entrenar un estudiante con las respuestas de un maestro, mide con qué frecuencia la respuesta del maestro coincide con la etiqueta de referencia en las filas que tú has etiquetado, y lee algunas de las discrepancias. Espera que el estudiante reproduzca los errores del maestro, y cuéntalos en mensajes con los que el estudiante no se haya entrenado.

Un profesor cuyos términos lo permiten

El profesor tiene que ser un modelo cuyos términos permitan entrenar con sus salidas. La versión GGUF del modelo sustituto en este libro es el repositorio unsloth/Qwen3-4B-Instruct-2507-GGUF, archivo Qwen3-4B-Instruct-2507-Q4_K_M.gguf, en la revisión que registra el manifiesto del profesor. El modelo es Qwen3-4B-Instruct-2507, de Qwen, y la versión es de unsloth. Reconocemos a ambos. La tarjeta del modelo de esa versión declara license: apache-2.0 y señala a Qwen/Qwen3-4B-Instruct-2507 como modelo base (tarjeta del modelo en la revisión fijada). La licencia del modelo base, en un commit fijado, es la Apache License 2.0. La Apache License 2.0, en su sección segunda, concede el derecho "to reproduce, prepare Derivative Works of, publicly display, publicly perform, sublicense, and distribute the Work and such Derivative Works" (Apache License 2.0).

Interpretamos que Apache-2.0 no impone ninguna restricción al uso de las salidas de un modelo. Su texto regula la Obra y dichas Obras derivadas, tal como expone la sección 2 anterior, y no menciona las salidas. Esta es nuestra lectura de la licencia, no una cita de ella, y solo vale para la licencia de este modelo. Los adaptadores que este libro distribuye se publican bajo Apache-2.0, y el aviso que los acompaña indica la licencia y la atribución.

Las licencias difieren. Una licencia de pesos abiertos como Apache-2.0 regula los archivos del modelo; un modelo alojado se rige por los términos de servicio de su proveedor, que pueden prohibir usar el servicio o sus salidas para entrenar un modelo competidor. Los términos cambian, así que lee los términos vigentes de cualquier modelo con el que vayas a entrenar, el día en que lo uses. Este libro nunca usa un modelo alojado como profesor.

El sustituto es un modelo abierto, así que su licencia puede leerse y su archivo puede fijarse mediante un hash, que registra el manifiesto del profesor. Las respuestas de un modelo alojado pueden cambiar cuando su proveedor cambia el modelo, y sus términos pueden prohibir este uso. Son razones para preferir un profesor abierto cuyo archivo quede fijado, incluso antes de leer sus términos.

Regla práctica: Lee la licencia del profesor y sus términos de uso el día en que entrenes. Nombra el profesor, su licencia y su revisión en el capítulo, y apunta el manifiesto del estudiante al registro del profesor. No entrenes con las salidas de un modelo cuyos términos lo prohíban. Una licencia que no impone restricciones a las salidas responde a la pregunta solo para esa licencia, así que lee su texto antes de dar por hecha la respuesta para otro modelo.

Etiquetar las filas de entrenamiento con el profesor

Último cambio en la edición 2026.11.2

El profesor etiqueta solo las filas de entrenamiento. Las filas de desarrollo se reservan para elegir los umbrales, y las filas de prueba se reservan para informar resultados, como expuso el capítulo 2. Las filas que se van a etiquetar se extraen del archivo de entrenamiento, fuera de desarrollo. Las filas etiquetadas son las primeras 1,000 de un muestreo aleatorio con semilla de 2,000 filas de ese tipo, un subconjunto aleatorio de ellas, y el registro las ordena por índice antes de etiquetarlas. La ejecución de etiquetado estaba planeada para las 2,000, pero no pudo terminar tantas dentro de su límite de tiempo, así que el libro informa de las 1,000 filas que sí etiquetó.

El sorteo usa una semilla. Las etiquetas ya guardadas para una fila elegida se conservan y no se vuelven a etiquetar, de modo que una ejecución que se detiene y continúa solo añade las filas que aún no tienen etiqueta. No comprobamos si una ejecución reanudada da las mismas etiquetas que una ejecución completa de una sola vez.

El sustituto (stand-in) responde a cada mensaje con el prompt del enrutador del capítulo 1. Decodifica de forma voraz, con temperatura cero. En una prueba sobre 40 mensajes de prueba, dos ejecuciones dieron respuestas idénticas, y esa prueba es la única comprobación que hicimos de la repetibilidad. Su respuesta está restringida por una gramática a los 77 nombres de equipo, de modo que cada etiqueta es un equipo real.

teacher-agreement.py Python 3.12.15 · torch 2.15.0+cpu · transformers 5.23.0 Superado
"""Measure how often the teacher's label matches gold on the training rows it labelled, and its accuracy on test_200from its recorded answers. The point rests on the agreement line; the example reads recorded answers only."""import osos.environ["HF_HUB_OFFLINE"] = "1"os.environ["TRANSFORMERS_OFFLINE"] = "1"import json  # noqa: E402import torch  # noqa: E402torch.set_num_threads(2)import router_lib  # noqa: E402router_lib.setup_runtime()RECORDED = router_lib.HERE / "data" / "recorded"train = router_lib.read_rows("train")teacher_rows = [json.loads(line) for line in (RECORDED / "teacher-labels" / "labels.jsonl").read_text().splitlines()]# row["index"] is the row's position in the training file; field 1 of a row is its gold teamagree = sum(row["label"] == train[row["index"]][1] for row in teacher_rows)n = len(teacher_rows)print(f"training rows labelled by the teacher: {n}")print(f"teacher agrees with gold on training rows: {agree}/{n} ({agree / n:.1%})")print(f"teacher disagrees with gold on training rows: {n - agree}/{n} ({(n - agree) / n:.1%})")test = router_lib.read_rows("test")sample = router_lib.read_sample("test_200")standin = router_lib.standin_answers()# sample holds test row positions; field 1 of a test row is its gold team, field 0 its textgolds = [test[i][1] for i in sample]teacher_preds = [standin[i] for i in sample]correct = sum(p == g for p, g in zip(teacher_preds, golds))print(f"messages on test_200 with a teacher answer: {sum(i in standin for i in sample)}/{len(sample)}")print(f"teacher accuracy on test_200: {correct}/{len(sample)} ({correct / len(sample):.1%})")
Salidapython teacher-agreement.py
training rows labelled by the teacher: 1000
teacher agrees with gold on training rows: 549/1000 (54.9%)
teacher disagrees with gold on training rows: 451/1000 (45.1%)
messages on test_200 with a teacher answer: 200/200
teacher accuracy on test_200: 109/200 (54.5%)

La etiqueta del profesor coincide con la etiqueta de referencia en 549/1000 (54.9%) de las 1000 filas de entrenamiento que etiquetó, y no coincide en 451/1000 (45.1%). Un estudiante entrenado con esas filas en desacuerdo aprende la etiqueta incorrecta como respuesta a cada una. Las dos últimas líneas de la salida proceden de las respuestas registradas del sustituto sobre test_200, los 200 mensajes de prueba de los que informa este capítulo. Allí el profesor acierta en 109/200 (54.5%) mensajes.

Lee la línea teacher agrees with gold on training rows antes de entrenar cualquier estudiante. La línea teacher accuracy on test_200 es la precisión propia del profesor sobre mensajes que nadie ha usado para entrenar, y es la referencia para todas las medidas de copia que aparecen más abajo.

Los recuentos no muestran cómo son los desacuerdos. Tres filas de entrenamiento, cada una etiquetada card_arrival en el archivo de referencia, muestran el patrón. Cada mensaje trata sobre una tarjeta que no ha llegado, descrita aquí sin su texto, ya que este libro nunca cita mensajes. El profesor nombró card_delivery_estimate en dos de ellas y lost_or_stolen_card en la tercera, de modo que en cada caso nombra un equipo distinto de la etiqueta de referencia.

Regla práctica: Mide el acuerdo del profesor con la referencia sobre una muestra etiquetada de filas antes de entrenar un estudiante con esas etiquetas. Etiqueta solo filas fuera de desarrollo y de prueba, y registra el modelo del profesor, su versión y sus ajustes en el manifiesto de registro del profesor, y apunta a él desde el manifiesto del estudiante, para que cada etiqueta pueda rastrearse.

Entrenar al estudiante con las etiquetas del profesor

Último cambio en la edición 2026.11.2

El estudiante usa la receta del capítulo 5. Tiene el mismo modelo base, los mismos objetivos de LoRA, la misma cabeza, la misma semilla y el mismo tamaño de lote. Sus etiquetas provienen del profesor en lugar del archivo gold. Las filas y los pasos también difieren del capítulo 5: el estudiante entrena con 1000 filas durante 125 pasos, y el adaptador etiquetado por personas entrenó con 9000 filas durante 1125 pasos. El control de la sección de acuerdo conserva las filas y los pasos del estudiante y cambia solo las etiquetas. El adaptador del estudiante es banking77-distilled-v1. Su manifiesto registra sus ajustes y apunta a la grabación del profesor, teacher-labels/manifest.json, que indica el modelo y la versión del profesor, sus ajustes y las filas que etiquetó, para que cualquiera pueda rastrear de dónde proviene cada etiqueta.

La receta se mantiene fija a propósito. Si el estudiante cambiara su receta y sus etiquetas a la vez, una diferencia en los resultados podría deberse a cualquiera de los dos, y el lector no podría saber cuál. Mantener la receta fija hace que las etiquetas sean la única diferencia a la que pueden atribuirse los resultados.

El umbral de un estudiante se elige en dev con la misma regla que la del adaptador etiquetado por personas. La regla toma el umbral más bajo, en una cuadrícula de centésimas, en el que los mensajes no derivados tienen una exactitud de al menos 0.90 en dev. La regla tiene una alternativa para un estudiante que no puede alcanzar ese objetivo. La alternativa toma el umbral con la mayor exactitud sobre los mensajes no derivados, el más bajo en caso de empate, y omite cualquier umbral que derive todos los mensajes. La salida indica que se usó la alternativa. Esta es la regla del libro para un resultado que no cumple, por lo que se informa como alternativa y no como un estudiante que alcanzó el objetivo. Un umbral alternativo se elige a partir de los mensajes que un umbral conserva en dev, y con un umbral alto pueden ser unos pocos mensajes. Trata un valor alternativo como provisional e infórmalo junto con la tasa de derivación que cuesta en test, como hace este capítulo.

El umbral del estudiante se elige sobre una parte de la división dev, 500 of 1003 mensajes, porque una ejecución sobre todos los mensajes de dev no cabía en el presupuesto de tiempo de dos núcleos de CPU. Ambos ejemplos del estudiante usan esa misma parte, y el control la usa para su propio umbral, de modo que los dos umbrales se eligen sobre los mismos mensajes de dev. El umbral del adaptador etiquetado por personas, del capítulo 5, se eligió sobre los 1,003 mensajes de dev completos.

Regla práctica: Elige el umbral de un estudiante en dev con la misma regla que el adaptador etiquetado por personas, y cuando ningún umbral alcance el objetivo, indica que el umbral es la alternativa. Informa la tasa de derivación que cuesta el umbral junto a la exactitud, con ambos recuentos, antes de comparar el estudiante con cualquier otra cosa.

Mide el acuerdo, no solo la precisión

Último cambio en la edición 2026.11.9

Tres medidas recorren este capítulo, y cada una responde a su propia pregunta. El maestro frente a las etiquetas de referencia (gold) en las filas de entrenamiento pregunta si el maestro acierta en las filas que etiqueta, y es la que aparece arriba. El estudiante frente al maestro en test_200 pregunta cuánto del maestro copia el estudiante. El estudiante frente al oro en test_200 pregunta con qué frecuencia el estudiante nombra el equipo correcto, que es la cifra con la que se juzgaría a un enrutador. Cada una se imprime con su denominador: la primera se lee sobre las 1,000 filas de entrenamiento, y las otras dos sobre los mismos 200 mensajes de prueba.

El acuerdo y la precisión responden a preguntas distintas. El acuerdo con el maestro dice cuánto del maestro ha aprendido el estudiante, acierte o no acierte el maestro. La precisión frente al oro dice con qué frecuencia el estudiante nombra el equipo correcto. Un estudiante puede coincidir con un maestro equivocado y fallar, y puede discrepar de un maestro equivocado y acertar. Imprimir ambas cosas permite ver cuál de las dos ocurre, en lugar de deducirlo de una sola cifra.

student-recorded-adapter.py Python 3.12.15 · peft 0.21.3 · torch 2.15.0+cpu · torchao 0.18.0+cpu · transformers 5.23.0 Superado
"""Score the distilled student banking77-distilled-v1 on test_200 beside the human-labelled adapter, with the student'sthreshold chosen on dev. The point rests on the student's accuracy line and its copy lines; both adapters are loadedand scored live, and nothing is trained."""import osos.environ["HF_HUB_OFFLINE"] = "1"os.environ["TRANSFORMERS_OFFLINE"] = "1"import json  # noqa: E402import torch  # noqa: E402torch.set_num_threads(2)import router_lib  # noqa: E402router_lib.setup_runtime()RECORDED = router_lib.HERE / "data" / "recorded"tokenizer, student = router_lib.load_classifier(RECORDED / "distill-student" / "adapter")DEV_N = 500  # the first 500 of the 1,003 dev messages: the run's time budget under two CPUs# reached is False when no threshold meets the target, and the threshold returned is then the fallbackthreshold, reached = router_lib.dev_threshold(student, tokenizer, target=0.90, n=DEV_N)print(f"dev messages used: {DEV_N} of {len(router_lib.read_sample('dev'))}")print(f"dev threshold reaching 0.90 accuracy not handed off: {'yes' if reached else 'no'}")print(f"student threshold chosen on dev: {threshold:.2f}")test = router_lib.read_rows("test")sample = router_lib.read_sample("test_200")# sample holds test row positions; field 1 of a test row is its gold team, field 0 its textgolds = [test[i][1] for i in sample]texts = [test[i][0] for i in sample]student_preds, student_confs = router_lib.classify(student, tokenizer, texts)router_lib.print_copy_report("banking77-distilled-v1", student_preds, student_confs, golds, threshold)# chapter 5 chose the adapter's threshold on dev, and its manifest records the value used herelora = json.loads((RECORDED / "lora-full" / "manifest.json").read_text())_, lora_model = router_lib.load_classifier(RECORDED / "lora-full" / "adapter")lora_preds, lora_confs = router_lib.classify(lora_model, tokenizer, texts)router_lib.print_copy_report("banking77-lora-v1", lora_preds, lora_confs, golds, lora["handoff_threshold"])teacher = router_lib.standin_answers()teacher_preds = [teacher[i] for i in sample]matches = sum(s == t for s, t in zip(student_preds, teacher_preds))# positions within sample where the student's answer is not the gold teamwrong = [k for k in range(len(sample)) if student_preds[k] != golds[k]]wrong_like_teacher = sum(student_preds[k] == teacher_preds[k] for k in wrong)print(f"student answers equal to teacher answers on test_200: {matches}/{len(sample)} ({matches / len(sample):.1%})")print(f"student errors on test_200: {len(wrong)}/{len(sample)} ({len(wrong) / len(sample):.1%})")print(f"student errors equal to the teacher's answer: {wrong_like_teacher}/{len(wrong)}")
Salidapython student-recorded-adapter.py
dev messages used: 500 of 1003
dev threshold reaching 0.90 accuracy not handed off: no
student threshold chosen on dev: 0.68
banking77-distilled-v1 accuracy on test_200: 69/200 (34.5%)
banking77-distilled-v1 handed off: 150/200 (75.0%)
banking77-distilled-v1 accuracy on messages not handed off: 28/50 (56.0%)
banking77-lora-v1 accuracy on test_200: 172/200 (86.0%)
banking77-lora-v1 handed off: 33/200 (16.5%)
banking77-lora-v1 accuracy on messages not handed off: 156/167 (93.4%)
student answers equal to teacher answers on test_200: 100/200 (50.0%)
student errors on test_200: 131/200 (65.5%)
student errors equal to the teacher's answer: 36/131

El estudiante queda muy por detrás del adaptador etiquetado por personas, y la diferencia no está solo en las derivaciones, como muestran las cifras globales más abajo. En test_200, el estudiante acierta en 69/200 (34.5%) mensajes y deriva 150/200 (75.0%), mientras que el adaptador acierta en 172/200 (86.0%) mensajes y deriva 33/200 (16.5%). El umbral del estudiante es el mecanismo de reserva descrito antes. La precisión de cada ejecución sobre los mensajes que conserva está en su propio umbral, y la salida muestra ambas cosas junto a este párrafo.

A continuación vienen las medidas de copia. La respuesta del estudiante coincide con la del maestro en 100/200 (50.0%) mensajes, y el propio maestro acierta en 109/200 (54.5%). Un estudiante que copia de cerca al maestro, por tanto, también copia sus respuestas erróneas. El estudiante comete 131/200 (65.5%) errores en test_200. De esos errores, 36/131 repiten la respuesta del maestro. Los demás difieren de ella, de modo que los errores del estudiante no son solo los del maestro.

La comparación con el adaptador por sí solo mezcla dos cosas. El adaptador aprendió de las etiquetas de oro de la división completa de entrenamiento, y el estudiante aprendió de las etiquetas del maestro en un conjunto más pequeño de filas. Una diferencia entre ambos podría deberse a las etiquetas, al número de filas o a ambas. Para separarlas, el libro registra la misma receta sobre las mismas filas con etiquetas de oro. El control, banking77-gold-1000-v1, es la receta del estudiante entrenada con etiquetas de oro, y sus filas son las que etiquetó el maestro.

student-vs-gold-control.py Python 3.12.15 · peft 0.21.3 · torch 2.15.0+cpu · torchao 0.18.0+cpu · transformers 5.23.0 Superado
"""Put the student banking77-distilled-v1 beside its control banking77-gold-1000-v1, which has the same recipe and thesame 1,000 training rows but gold labels, on the same test_200 messages. The point rests on the two counts of messageseach adapter gets right that the other gets wrong, which need no threshold; both adapters are scored live, and nothingis trained."""import jsonimport osos.environ["HF_HUB_OFFLINE"] = "1"os.environ["TRANSFORMERS_OFFLINE"] = "1"import torch  # noqa: E402torch.set_num_threads(2)import router_lib  # noqa: E402router_lib.setup_runtime()RECORDED = router_lib.HERE / "data" / "recorded"DEV_N = 500  # the first 500 of the dev messages, as student-recorded-adapter uses: the time budget under two CPUsprint(f"dev messages used: {DEV_N} of {len(router_lib.read_sample('dev'))}")test = router_lib.read_rows("test")sample = router_lib.read_sample("test_200")# sample holds test row positions; field 1 of a test row is its gold team, field 0 its textgolds = [test[i][1] for i in sample]texts = [test[i][0] for i in sample]runs = {}for name, folder in [("banking77-distilled-v1", "distill-student"), ("banking77-gold-1000-v1", "gold-same-rows")]:    tokenizer, model = router_lib.load_classifier(RECORDED / folder / "adapter")    threshold, reached = router_lib.dev_threshold(model, tokenizer, target=0.90, n=DEV_N)    print(f"{name} dev threshold reaching 0.90 accuracy not handed off: {'yes' if reached else 'no'}")    print(f"{name} threshold chosen on dev: {threshold:.2f}")    preds, confs = router_lib.classify(model, tokenizer, texts)    router_lib.print_copy_report(name, preds, confs, golds, threshold)    runs[name] = [p == g for p, g in zip(preds, golds)]# dict order is insertion order: the student first, then the controlstudent, control = runs.values()n = len(golds)print(f"test_200 messages the student gets right and the control gets wrong: {sum(s and not c for s, c in zip(student, control))}/{n}")print(f"test_200 messages the control gets right and the student gets wrong: {sum(c and not s for s, c in zip(student, control))}/{n}")# Recipe sizes from the recorded manifests: the student and its control share rows and steps;# the human-labelled adapter does not. Its manifest names its row count train_rows, not rows, which is why rows_key differs.for name, folder, rows_key in [    ("banking77-distilled-v1", "distill-student", "rows"),    ("banking77-gold-1000-v1", "gold-same-rows", "rows"),    ("banking77-lora-v1", "lora-full", "train_rows"),]:    settings = json.loads((RECORDED / folder / "manifest.json").read_text())["settings"]    print(f"{name} training rows: {settings[rows_key]}")    print(f"{name} training steps: {settings['steps']}")
Salidapython student-vs-gold-control.py
dev messages used: 500 of 1003
banking77-distilled-v1 dev threshold reaching 0.90 accuracy not handed off: no
banking77-distilled-v1 threshold chosen on dev: 0.68
banking77-distilled-v1 accuracy on test_200: 69/200 (34.5%)
banking77-distilled-v1 handed off: 150/200 (75.0%)
banking77-distilled-v1 accuracy on messages not handed off: 28/50 (56.0%)
banking77-gold-1000-v1 dev threshold reaching 0.90 accuracy not handed off: no
banking77-gold-1000-v1 threshold chosen on dev: 0.97
banking77-gold-1000-v1 accuracy on test_200: 77/200 (38.5%)
banking77-gold-1000-v1 handed off: 197/200 (98.5%)
banking77-gold-1000-v1 accuracy on messages not handed off: 3/3 (100.0%)
test_200 messages the student gets right and the control gets wrong: 24/200
test_200 messages the control gets right and the student gets wrong: 32/200
banking77-distilled-v1 training rows: 1000
banking77-distilled-v1 training steps: 125
banking77-gold-1000-v1 training rows: 1000
banking77-gold-1000-v1 training steps: 125
banking77-lora-v1 training rows: 9000
banking77-lora-v1 training steps: 1125

El control tampoco tiene ningún umbral que alcance el objetivo de desarrollo, así que también usa el mecanismo de reserva, y su umbral es provisional por esa razón. Deriva 197/200 (98.5%) de test_200, y acierta en 3/3 (100.0%) de los mensajes que conserva. Tres mensajes no son una medida. La precisión global no necesita umbral, porque cuenta todos los mensajes sea cual sea el umbral, de modo que el 77/200 (38.5%) del control queda justo al lado del 69/200 (34.5%) del estudiante.

La comparación justa se hace sobre las respuestas mismas, y no necesita umbral, porque compara los equipos. El control acierta y el estudiante falla en 32/200 mensajes, y el estudiante acierta y el control falla en 24/200. El control no tiene sobre el estudiante un margen que esta muestra pueda determinar, así que juzgamos que 200 mensajes son pocos para afirmar que una fuente de etiquetas es mejor que la otra.

El adaptador se entrenó con 9000 filas durante 1125 pasos, mientras que el control y el estudiante comparten las 1000 filas y 125 pasos, de modo que la diferencia entre el control y el adaptador mezcla el número de filas y de pasos con cualquier otra cosa en que se diferencian las dos ejecuciones, y este capítulo no las separa.

Regla práctica: Compara dos adaptadores solo sobre los mismos mensajes y las mismas filas. Cuenta los mensajes que cada uno acierta y que el otro falla, e imprime ambos recuentos con su denominador. No pongas en paralelo precisiones tomadas con umbrales distintos como si fueran la misma medida.

Cuando el maestro se equivoca

Último cambio en la edición 2026.11.9

Un estudiante entrenado con una etiqueta por mensaje aprende las etiquetas que se le dan. Cuando el maestro se equivoca en una fila, al estudiante se le ha mostrado el equipo equivocado para esa fila, y no tiene forma de saberlo de otro modo. La concordancia del maestro con las etiquetas de referencia en las filas de entrenamiento, medida arriba, es la proporción de las etiquetas de entrenamiento del maestro que son correctas. El estudiante se mide con mensajes de prueba y no con sus filas de entrenamiento, porque sus cifras sobre filas que ya vio mostrarían lo que memorizó y no lo que aprendió.

En esta tarea, el estudiante que aprende de las etiquetas del sustituto no es el que conviene desplegar, como muestran las cifras de arriba. El capítulo 7 cuantiza banking77-lora-v1, el adaptador etiquetado por personas, y no al estudiante.

Lee la medida de copia junto a la exactitud. Si el estudiante copia al maestro en la mayoría de los mensajes y el maestro se equivoca en muchos, el estudiante hereda esos errores, y su exactitud frente a las etiquetas de referencia baja junto con la del maestro. Si el estudiante discrepa del maestro en muchos mensajes y aun así se equivoca, está aprendiendo otra cosa que las etiquetas, y el primer sospechoso es el número de filas de entrenamiento. Es una regla práctica basada en las cifras de este mismo libro, y este capítulo no la pone a prueba.

La destilación vale su coste en algunos casos. Recomendamos probarla cuando escaseen las etiquetas de referencia, cuando el maestro sea sólido en su tarea y cuando una muestra de etiquetas de referencia muestre que el maestro concuerda con ellas con la frecuencia suficiente para que los errores del estudiante sean aceptables. Cuando ya tengas etiquetas de referencia para tus filas de entrenamiento, entrena con ellas y usa un maestro solo para verificarlas. Un modelo maestro también cambia. Trate una nueva versión del maestro como una nueva grabación: sus etiquetas cambian, así que el manifiesto del estudiante, su umbral y sus medidas deben rehacerse.

En producción el fallo es silencioso. Un estudiante que copia a su maestro devuelve un flujo constante de equipos y una tasa de traspaso constante, y ninguno de los dos da la alarma. Compara el estudiante con las etiquetas de referencia en una muestra de mensajes que una persona haya etiquetado, con un calendario fijo. El capítulo 9 describe el mismo tipo de muestra para los traspasos del adaptador como un paso siguiente, y este libro no la construye. Compara las respuestas del estudiante con esas etiquetas, no con las del maestro, porque la concordancia con el maestro no dice nada sobre el equipo al que pertenece un mensaje.

Las decisiones que tomó este capítulo son estas:

  • El maestro etiqueta solo las filas de entrenamiento, nunca las filas de desarrollo o de prueba.
  • El maestro es el sustituto, Qwen3-4B-Instruct-2507, bajo Apache-2.0, y no se usa ningún modelo alojado.
  • El estudiante se entrena con la misma receta que el adaptador etiquetado por personas, y su umbral sigue la misma regla, con el recurso de reserva informado como tal.
  • El estudiante se compara con un control entrenado con etiquetas de referencia para las mismas filas, sobre los mismos mensajes, y los dos comparten sus filas, de modo que una diferencia entre ellos proviene de las etiquetas y no de las filas.

Las etiquetas de un maestro trasladan sus errores al estudiante, así que la concordancia con las etiquetas de referencia decide si la destilación vale la pena.

Regla práctica: Entrena un estudiante con las etiquetas de un maestro solo cuando tengas muy pocas etiquetas de referencia para la tarea y una muestra de etiquetas de referencia muestre que el maestro concuerda con ellas lo bastante bien. Compara el estudiante con el adaptador etiquetado por personas, y con la misma receta sobre etiquetas de referencia, sobre los mismos mensajes, antes de elegirlo. Cuando el estudiante pierda, despliega el adaptador y dilo en el informe.

Este capítulo, en esta edición

Edición 2026.11.9Ejemplos verificados el 20 de nov de 2026Superan la prueba 3 de 3 ejemplos ejemplos de este capítulo

Traducido del libro en inglés, edición 2026.11.9.

Cita esta sección

Formato

Cada formato cita el libro en inglés, que esta traducción sigue.

Cada formato nombra esta edición. Su enlace abre la edición actual, donde el encabezado de cada sección indica cuándo cambió su texto por última vez. Las fechas de acceso y de recuperación son el día en que lo abres.

En esta página

Capítulo 6 de 10: Destila las respuestas de un modelo más grande en uno pequeño

  1. Qué copia la destilación
  2. Un profesor cuyos términos lo permiten
  3. Etiquetar las filas de entrenamiento con el profesor
  4. Entrenar al estudiante con las etiquetas del profesor
  5. Mide el acuerdo, no solo la precisión
  6. Cuando el maestro se equivoca

Volver arribaTodos los capítulos