Minlie Huang
Si las categorías de «dañino» usadas para evaluar la seguridad de modelos de lenguaje se transfieren de contextos occidentales a contextos de despliegue en chino, donde el marco regulatorio y las categorías culturales son diferentes.
La mayoría de la evaluación pública de seguridad de LLM usa esquemas categoriales desarrollados por laboratorios occidentales: sesgo, toxicidad, discurso de odio, resistencia a jailbreak, todo medido contra conjuntos de datos en inglés y expectativas regulatorias de EE. UU. o la UE. El grupo CoAI de Huang en Tsinghua, con el marco más reciente AISafetyLab, ejecuta un paralelo explícito para LLM en chino: lo que cuenta como salida «dañina» o «sesgada» tiene una estructura distinta cuando el entorno regulatorio es diferente, los tabúes culturales son distintos y la superficie del modelo desplegado llega a usuarios con expectativas diferentes. Para ai100, que evalúa motores que sirven a cinco regiones lingüísticas, este tipo de evaluación de seguridad sensible al contexto local es la única versión honesta: fingir que una única taxonomía de seguridad encaja en los cinco locales sería, en sí mismo, una forma de sesgo.