NVIDIA AVO: Cómo Funcionan los Operadores de Variación Agéntica

NVIDIA AVO: Cómo Funcionan los Operadores de Variación Agéntica

27 de agosto de 2026
79 visualizaciones
nvidia-avo agentic-variation-operators agent-evolution gpu-kernel-optimization evolutionary-search nvidia-blackwell flashattention coding-agents

Soy Lena. Casi me salto NVIDIA AVO al principio.

NVIDIA AVO en un minuto

NVIDIA AVO es fácil de pasar por alto. No es un nuevo producto de codificación de escritorio, y no es prueba de que cada agente pueda mejorar mágicamente por sí mismo. La lectura más clara es más concreta e interesante: AVO, abreviatura de Operator de Variación Agéntica, trata a un agente de codificación como el operador de variación dentro de un bucle de búsqueda evolutiva.

Me detuve aquí, porque ese cambio es pequeño en palabras pero grande en el diseño del sistema. En la búsqueda evolutiva asistida por modelos de lenguaje grandes más antiguos, el modelo a menudo genera un candidato mientras que el marco circundante decide la muestreo, la puntuación y las reglas de la población. En el papel AVO, el agente hace más que generar código. Lee versiones anteriores, consulta el conocimiento del dominio, edita una implementación, ejecuta pruebas, estudia los comentarios, repara fallos y decide qué intentar a continuación.

A partir de mi verificación de agosto de 2026, arXiv lista la versión 1 del artículo, enviado el 25 de marzo de 2026, por Terry Chen y 22 coautores con afiliación a NVIDIA. La evidencia pública actual debe interpretarse como un resultado de investigación, no como un lanzamiento de producto respaldado.

El problema de investigación que aborda AVO

La optimización de kernels de GPU es un lugar incómodo para probar agentes, lo cual es exactamente por lo que es útil. El espacio de búsqueda es enorme, pero la mayoría de los cambios en el código son inválidos, más lentos o demasiado dependientes de un camino de hardware específico. Un modelo de lenguaje puede sugerir ideas, pero el rendimiento del kernel solo se vuelve real después de la compilación, verificaciones de corrección, perfilado y evaluación comparativa.

Buscando un gran espacio de cambios válidos en el kernel

El objetivo del artículo es la optimización del kernel de atención en el hardware NVIDIA Blackwell B200. Eso importa porque la atención ya está fuertemente optimizada. Las líneas base no son ejemplos débiles. El artículo compara con cuDNN 9.19.1 y FlashAttention-4, usando la implementación oficial de FA4 en un commit específico.

La dificultad principal no es “escribir un kernel más rápido” en un solo paso. Es: encontrar un cambio de implementación válido, mantener la corrección numérica, mejorar el rendimiento y recordar lo suficiente de los intentos anteriores para evitar repetir el mismo fracaso. Algo no está del todo bien si llamamos a eso generación de código ordinaria. Es más cercano a la búsqueda de ingeniería a largo plazo.

Cómo Funcionan los Operadores de Variación Agénica

El modelo mental más simple es este: AVO convierte la mutación en una ejecución de agente. En lugar de que un operador de mutación fijo haga una edición aleatoria o basada en una plantilla, el agente observa la línea actual y decide qué tipo de variación podría ser útil.

Leer linaje y contexto del dominio

La genealogía es una de las palabras bastante importantes aquí. La instancia de optimización de kernels del artículo de AVO utiliza una ejecución de una sola genealogía: cada versión de kernel comprometida se convierte en parte de la historia que el siguiente paso de variación puede inspeccionar. El agente puede comparar versiones anteriores, revisar el comportamiento del perfilado y usar ese contexto para elegir una nueva dirección.

El contexto del dominio también es explícito. El artículo dice que la base de conocimientos incluye guías de programación CUDA, documentación de la ISA de PTX, información de la arquitectura Blackwell y implementaciones de kernels existentes, incluido el código fuente de FlashAttention-4. Eso no es solo “memoria” en el sentido habitual de un chatbot. Es un contexto operativo para la búsqueda técnica.

Proponer, reparar, criticar y verificar variantes

Dentro de un paso de variación de AVO, el agente puede inspeccionar kernels previos, proponer una edición, compilarla, ejecutar pruebas de corrección, estudiar los resultados del perfilado y reparar la implementación cuando falla. Si el candidato es incorrecto, recibe una puntuación de cero independientemente del rendimiento. Esa regla es importante porque evita que la búsqueda recompense kernels rápidos pero incorrectos.

La instancia de optimización de núcleos del artículo solo compromete una nueva versión cuando pasa la verificación de corrección y coincide o mejora la mejor puntuación de referencia comprometida. Los intentos fallidos aún pueden influir en la trayectoria interna de búsqueda, pero no se añaden a la línea de compromiso. Eso da a la línea publicada una historia de progreso limpia, mientras que también deja un vacío de auditoría que no deberíamos ignorar.

Usa la retroalimentación de la ejecución para guiar el siguiente paso de la búsqueda

Esta es la parte que hace que AVO sea relevante más allá de la optimización del kernel. La retroalimentación importa solo cuando cambia la siguiente propuesta. AVO está diseñado en torno a ese ciclo: actuar, medir, interpretar, revisar.

Los ejemplos del artículo son muy concretos. Una variante elimina una rama en el reescalado del acumulador. Otra superpone el trabajo de corrección con la actividad de multiplicación de matrices. Otra reequilibra los registros entre grupos warp. Estos no son refactores a nivel superficial. Dependen de la sincronización, la programación, la presión de registros y el comportamiento de la memoria.

Creo que aquí es donde el método empieza a sentirse menos aleatorio. El agente no se limita a muestrear cadenas de código. Está usando la retroalimentación de la ejecución para remodelar su estrategia de búsqueda.

Lo que la evaluación realmente mide

La evaluación mide el rendimiento del kernel y su corrección bajo configuraciones específicas de atención B200. No mide la inteligencia general, la calidad general del software ni la preparación para producción.

Experimentos de núcleo de atención en hardware NVIDIA B200

El artículo informa sobre experimentos en GPUs NVIDIA B200 con CUDA 13.1 y PyTorch 2.10.0. Para la atención multi-cabeza, evalúa el rendimiento del llenado hacia adelante con precisión BF16, dimensión de cabeza 128, 16 cabezas, longitudes de secuencia de 4,096 a 32,768 y un total fijo de 32k tokens. Los autores realizan los experimentos 10 veces para informar el rendimiento promedio y la desviación estándar.

Para MHA, AVO reporta hasta un 3,5% sobre cuDNN y hasta un 10,5% sobre FlashAttention-4 en todas las configuraciones evaluadas. Para GQA, después de aproximadamente 30 minutos de adaptación autónoma adicional, reporta hasta un 7,0% sobre cuDNN y 9,3% sobre FA4. La comparación con FA también es importante porque el artículo dice que utilizó el mismo script de temporización de Script de referencia de FlashAttention y las mismas rondas de calentamiento y repetición que el artículo de FA4.

Esos son números significativos, pero son números limitados. Pertenecen a la versión en papel, al hardware, a la precisión, a la configuración de la secuencia, a las líneas base y al proceso de medición que se acaba de describir.

Lo que el artículo no establece

Aquí es donde quiero tener cuidado. AVO es una señal de investigación fuerte, pero no es un cheque en blanco para afirmaciones sobre agentes autónomos.

Mejora del agente general, transferencia de producción y portabilidad del hardware

El artículo no demuestra que todos los agentes que programan se mejoren a sí mismos. No muestra que los kernels generados por AVO sean seguros para producción en todas las arquitecturas de modelos. No establece la portabilidad a todas las generaciones de GPU ni a todas las cargas de trabajo de CUDA. Tampoco revela todo lo que un equipo de producción podría querer: presupuesto total de tokens, configuración exacta del modelo frontier, trayectoria completa de intentos fallidos, o un repositorio público de implementación de NVIDIA vinculado a la publicación en arXiv.

La portabilidad del hardware es especialmente fácil de exagerar. Estos kernels fueron optimizados en torno al comportamiento del Blackwell B200. Un cambio que ayuda a un registro o patrón de pipeline puede desaparecer, retroceder o requerir retrabajo en otro objetivo. Si un equipo quisiera usar esta idea en producción, el trabajo real sería la verificación: pruebas de corrección, verificaciones de tolerancia numérica, perfilado, revisión de mantenibilidad, caminos de respaldo e integración en la ingeniería de liberación.

Por qué el método importa para la evolución del agente

AVO importa porque ofrece un ejemplo concreto de experiencia reutilizable en un ciclo de agente. No solo memoria como historial de chat almacenado, y no evolución como metáfora. El agente mantiene un linaje, utiliza retroalimentación de ejecución y cambia futuras propuestas según lo que sobrevivió.

La retroalimentación se vuelve útil solo cuando cambia la próxima propuesta

Esta es la parte a la que sigo volviendo. Un núcleo fallido no es útil por sí mismo. Un rastreo de perfilador no es útil por sí mismo. Una versión confirmada no es útil por sí misma. Se vuelven útiles cuando el siguiente paso del agente puede leerlos y tomar una decisión diferente.

Ese es el verdadero puente entre los agentes de codificación y la búsqueda evolutiva. AVO no dice “deja que el agente escriba código y espere.” Construye un ciclo donde propuesta, reparación, crítica, verificación, linaje y retroalimentación de ejecución están conectados lo suficientemente estrechamente como para que se acumule el progreso.

Estoy sosteniendo esta conclusión con cautela, pero parece ser la conclusión importante: la evolución del agente no se trata de que una IA anuncie que ha aprendido. Se trata de si el sistema conserva la evidencia correcta y la utiliza para producir un mejor intento siguiente.

Preguntas frecuentes

¿Está disponible públicamente hoy la implementación actual de NVIDIA AVO?

No pude verificar un repositorio público oficial de NVIDIA, API o implementación empaquetada para el sistema AVO descrito en arXiv 2603.24517 v1. Hay reproducciones y discusiones de terceros en línea, pero no deben considerarse como lanzamientos de NVIDIA. La redacción segura es: el artículo es público; la implementación y los kernels generados no están verificados públicamente como un lanzamiento oficial al momento de escribir esto.

¿Quién posee la propiedad intelectual de los núcleos generados a través de NVIDIA AVO?

El documento no resuelve la propiedad del kernel. Si AVO se ejecuta dentro de NVIDIA, la propiedad probablemente dependa del empleo en NVIDIA, los contratos, las entradas de código fuente, las políticas internas y la legislación aplicable. Si otro equipo construye un sistema similar a AVO, la propiedad depende de los contratos de ese equipo, los términos del modelo, las licencias del código fuente y las reglas de contribución. Esto no constituye asesoría legal. Para herramientas o materiales alojados por NVIDIA, revise el Términos para Desarrolladores de NVIDIA actual y cualquier acuerdo de producto específico antes de depender de los kernels generados.

¿Ha anunciado NVIDIA soporte comercial para kernels generados por AVO en producción?

No encontré un anuncio público de NVIDIA que ofrezca soporte comercial para los kernels de atención generados por AVO en producción del artículo. El artículo es evidencia de investigación. No debería redactarse como un SLA de producción, programa de soporte o camino de despliegue garantizado.

¿AVO conserva las variantes rechazadas para auditorías posteriores?

El artículo dice que los intentos intermedios no exitosos permanecen como parte de la trayectoria de búsqueda interna del agente, pero no se agregan a la línea de compromiso. Cada versión comprometedora se guarda como un commit de git con su puntuación. El artículo respalda que los intentos rechazados permanecen en la trayectoria interna del agente durante la ejecución, pero no establece que se conserven como un archivo de auditoría posterior.

¿Pueden los kernels AVO entrar en una canalización estándar de compilación CUDA?

En principio, un kernel generado puede entrar en una canalización de compilación de CUDA si es código fuente válido, tiene la licencia adecuada, es mantenible, probado e integrado con el proyecto circundante. Pero AVO no elimina la carga normal de ingeniería. Un equipo de producción todavía necesitaría revisión de código, puntos de referencia reproducibles, puertas de corrección, pruebas específicas del hardware, comportamiento de respaldo, revisión de seguridad y propiedad clara. Esto es un punto de control, no un final.

Publicaciones anteriores:

  • Para entender cómo AVO encaja en la idea más amplia de agentes que mejoran a través de la experiencia validada, lee Habilidades Evo y habilidades autoevolutivas, que examina cómo el comportamiento exitoso de un agente puede convertirse en una capacidad reutilizable en lugar de un resultado único.
  • Para la capa de memoria detrás de los bucles de agentes evolutivos, memoria del flujo de trabajo del agente explica cómo las ejecuciones previas, los patrones de tareas y la evidencia de validación pueden moldear el comportamiento futuro del agente.
  • Si deseas colocar NVIDIA AVO dentro de la pila de infraestructura de agentes más grande, Capas de pila del agente OpenHarness y GEP muestra cómo difieren la ejecución en tiempo de ejecución, los arneses y las capas de experiencia reutilizables.

Artículos relacionados

NVIDIA AVO: Cómo Funcionan los Operadores de Variación Agéntica - EvoMap Blog