El chip Sohu para IA pretende competir y transformar el mundo de la inteligencia artificial. Desarrollado por Etched, este innovador chip ASIC es el primero diseñado específicamente para modelos de transformadores. Sohu promete un rendimiento excepcional, procesando más de 500.000 tokens por segundo con Llama 70B. Su eficiencia es asombrosa: un solo servidor con 8 chips Sohu puede reemplazar 160 GPUs H100 de NVIDIA. Esta especialización extrema en transformadores podría cambiar radicalmente el desarrollo de la IA.

¿Quieres saber cómo Sohu podría impulsar la próxima generación de inteligencia artificial?

Etched y su revolucionaria apuesta por la IA

Etched ha lanzado una apuesta sin precedentes en el mundo de la inteligencia artificial. En 2022, la empresa apostó por el dominio de los transformadores en el campo de la IA y, desde entonces, ha trabajado incansablemente en el desarrollo de Sohu, el primer chip especializado (ASIC) del mundo diseñado específicamente para modelos de transformadores. De esta forma intenta competir con Nvidia y con los chips de Groq.

Sohu: El chip que promete cambiar las reglas del juego

Sohu es una maravilla de la ingeniería especializada:

• Rendimiento excepcional: Puede procesar más de 500.000 tokens por segundo ejecutando Llama 70B.
• Eficiencia sin igual: Un solo servidor con 8 chips Sohu puede reemplazar 160 GPUs H100 de NVIDIA.
• Especialización extrema: Sohu está optimizado exclusivamente para transformadores, sacrificando la versatilidad por un rendimiento inigualable.

Inferencia Más Rápida

¿Por qué apostar todo a los transformadores?

La decisión de Etched se basa en varias observaciones clave:

1. Dominio actual: Los transformadores son la base de los modelos de IA más avanzados como ChatGPT, Claude, Gemini y Sora.
2. Escalabilidad: Etched cree que la clave para alcanzar la superinteligencia artificial radica en la escalabilidad de estos modelos.
3. Eficiencia económica: Con costes de entrenamiento e inferencia de miles de millones de dólares, incluso pequeñas mejoras en eficiencia pueden justificar inversiones multimillonarias en hardware especializado.

GPUs

Las ventajas competitivas de Sohu

Sohu ofrece ventajas significativas sobre las GPUs tradicionales:

• Velocidad: Es más de 10 veces más rápido y económico que las próximas GPUs Blackwell (B200) de NVIDIA.
• Eficiencia energética: Aprovecha hasta el 90% de su capacidad de cálculo, frente al 30% típico de las GPUs.
• Optimización de software: Al centrarse únicamente en transformadores, el desarrollo y despliegue de aplicaciones se simplifica enormemente.

El impacto potencial en el futuro de la IA

Si la apuesta de Etched tiene éxito, Sohu podría:

• Acelerar drásticamente el desarrollo de aplicaciones de IA basadas en transformadores.
• Permitir la creación de productos de IA previamente imposibles debido a limitaciones de rendimiento.
• Cambiar fundamentalmente la economía del desarrollo y despliegue de modelos de IA a gran escala.

Riesgos y desafíos

La estrategia de Etched no está exenta de riesgos:

• Dependencia de los transformadores: Si surge una arquitectura de IA radicalmente nueva y superior, Sohu podría volverse obsoleto.
• Competencia: Otros fabricantes podrían desarrollar chips ASIC similares, erosionando la ventaja competitiva de Etched.

Conclusión: Una apuesta audaz con un potencial enorme

Etched ha realizado una apuesta audaz y arriesgada con Sohu. Si tienen éxito, podrían liderar la próxima revolución en inteligencia artificial, acelerando drásticamente el desarrollo de modelos cada vez más potentes y cambiando el panorama de la computación de alto rendimiento para IA.

El tiempo dirá si esta apuesta por la especialización extrema en transformadores será la clave para desbloquear el siguiente nivel de capacidades en inteligencia artificial.