Omer Levy
Si un modelo de lenguaje puede inferir la tarea solo a partir de ejemplos — sin que se le diga qué hacer — y qué revela esa capacidad sobre cómo representa las instrucciones.
El artículo "Instruction Induction" de Levy (2022, autor sénior) invirtió el experimento estándar de seguimiento de instrucciones: en lugar de dar al modelo una instrucción y observar si la cumple, darle unos pocos ejemplos de entrada-salida y pedirle que articule qué instrucción implican esos ejemplos. Los hallazgos fueron alentadores e inquietantes a la vez: los LLM modernos pueden inducir instrucciones razonables a partir de un puñado de ejemplos en muchas tareas, lo que sugiere que su representación interna de «tarea» es genuinamente abstracta; pero a veces inducen instrucciones que difieren sutilmente de la intención humana de maneras que afectan al comportamiento posterior. Para ai100, esto importa porque la mayoría de las consultas a motores no incluyen una instrucción explícita: el motor está infiriendo implícitamente la tarea a partir del contexto, y esa inferencia puede salir de un modo distinto al esperado.