Is NVIDIA Finally Getting Nervous? Amazon's Trainium Just Went 4x Faster — And It’s Only the Beginning
¿Estará NVIDIA empezando a preocuparse? El Trainium de Amazon acaba de volverse 4 veces más rápido... y esto apenas comienza
¿Así que el Trainium3 de Amazon es 4 veces más rápido que el Trainium2, consume menos energía y ya alimenta más de un millón de chips en más de 100 mil empresas vía Bedrock? Esto no es progreso incremental: es un ataque a fondo a la ventaja de Nvidia. Y seamos honestos: el precio-rendimiento es el arma más mortal de Amazon. Cuando tu chip hace más por menos y tú eres el proveedor de la nube, no solo compites... estás reescribiendo las reglas.
Pero aquí viene el golpe maestro: Anthropic. ¿Medio millón de chips Trainium2 ejecutando los próximos modelos de Claude? Esto no es una alianza: es una toma completa del sistema. Y con el Trainium4 diseñado para trabajar junto a las GPU de Nvidia... Amazon no busca destruir a Nvidia, sino absorber su ecosistema. Eso sí que es una jugada de poder.
Por favor. CUDA es el sistema operativo de la IA. No puedes reemplazar un sistema operativo de la noche a la mañana. Cada desarrollador, marco o modelo depende de CUDA. Que Amazon tenga todos los chips baratos que quiera... si el software no corre, serán solo pisapapeles caros.
Curioso cómo cada 'avance' de AWS de repente incluye a Anthropic... que Amazon co-ownea. Esto no es competencia abierta, es integración vertical con aires de monopolio. Veamos qué tan 'atractiva' es la relación precio-rendimiento cuando se impone a clientes reales que no son socios accionistas.
Actúan como si CUDA fuera escritura sagrada. La mitad de mi equipo usa PyTorch con kernels personalizados. Ya ejecutamos en Trainium2 usando el compilador de AWS. No es perfecto, pero es más barato y las herramientas mejoran. ¿Creen que nos importa CUDA? Nos importa el costo y la velocidad.
¿Recuerdan las guerras SPARC? Sun Microsystems dijo lo mismo: '¡Nuestros chips son superiores, nuestra arquitectura es el futuro!'. Todos se rieron cuando Intel ganó por peso del ecosistema. ¿Suena familiar? La ventaja de Nvidia no está en el silicio, sino en los desarrolladores.
Exacto. No puedes forzar la lealtad de los desarrolladores. Se necesita una década de herramientas, tutoriales, comunidad y APIs estables. El compilador de Amazon puede ejecutar PyTorch hoy, pero intenta hacer fine-tuning de Llama o inferencia en tiempo real en una plataforma sin CUDA. Buena suerte.
JAJA. Hacemos fine-tuning de Llama en clusters Trainium2 todas las semanas. El SDK Neuron de AWS maneja el 90%. Siguen atrapados en 2020. La plataforma evoluciona, y nosotros con ella. Mientras tanto, sus 'APIs estables' cuestan 50 mil dólares por nodo. Sigan pagando el impuesto CUDA, abuelito.
El verdadero juego no es el chip, sino los interconectores. La TPU v5 de Google tiene interconectores ópticos personalizados. Probablemente el Trainium4 de Amazon también tenga su propia fórmula secreta ahí. Avanza rápido en silicio, pero domina la infraestructura de red, y dominarás la IA.
En 2015, AWS dijo lo mismo sobre las bases de datos: 'Les daremos mejor relación precio-rendimiento con Aurora'. Ahora MySQL en Aurora domina toda nuestra infraestructura. Démosle 5 años. El Trainium estará en todas partes.