- Huawei escalando formatos 950dt FP8 dirigidos a la suposición de expertos en el objetivo sin daños a la precisión
- NVIDIA H 200 es un ecosistema de software maduro y GPU de la tolva en Power
- La paridad FP 64 de AMD Instinte MI 300 solicita un fuerte Contado Científico Estrés laboral
En los últimos años, la demanda de capacitación de IA e informática de inferencia ha obligado a los fabricantes de chips a inventar agresivamente: el ancho de banda de memoria, los formatos de datos, las habilidades entre conconexiones y de salida de cálculo total ahora se critican como un fracaso sin procesar.
Cada compañía tiene como objetivo exigir escenas como capacitación de IA y computación de alto rendimiento, donde el equipo de IA depende de aceleraciones rápidas para procesar enormes conjuntos de datos.
Múltiples marcas alcanzan el desafío con las características de diferentes plataformas de cálculo, por lo que hemos tratado de explicar estas diferencias y comparar estas diferencias y comparar los instintos 950 series, H 200 y Mi 300.
|
División |
Huawei escalada 950dt |
Nvidia H. 200 |
AMD Radian Instinst Mi 300 |
|---|---|---|---|
|
Familia / nombre de chips |
950 series de escalada |
H 200 (GH 100, Hopper) |
Radian Instinst Mi 300 (Aqua Vanzaram) |
|
Arquitectura |
Propiedad de Huawei Ai Acelerator |
Arquitectura de GPU de la tolva |
ADNc 3.0 |
|
Proceso / fundición |
Aún no confirmado públicamente |
5 nm (TSMC) |
5 nm (TSMC) |
|
Transistor |
No especificó |
80 mil millones |
153 mil millones |
|
Muriendo |
No especificó |
814 mm |
1017 mm |
|
Mejoramiento |
Estimación de decodificación y capacitación de modelos |
Aceleración de AI y HPC de propósito general |
Aceleración de contabilidad AI/HPC |
|
Formato compatible |
FP8, MXFP 8, MXFP 4, HIF 8 |
FP 16, FP32, FP 64 (a través de Tensor/Chuda Core) |
FP 16, FP 32, FP 64 |
|
Pick -Performance |
1 Pflops (FP 8 / MXFP 8 / HIF 8), 2 Pflops (MXFP 4) |
FP 16: 241.3 Tifflops, FP 32: 60.3 Tifflaps, FP 64: 30.2 Tifflops |
FP 16: 383 Tifflops, FP 32/FP 64: 47.87 Tifflops |
|
Procesamiento vectorial |
SIMD + SIMT Hybrid, granularidad de acceso a la memoria de 128 bytes |
Simt con chuda y tensor núcleo |
Simt + color matriz/tensor |
|
Tipo de memoria |
Hizq 2.0 propiedad de HBM (para variantes de decodificación y entrenamiento) |
HBM 3 E |
HBM 3 |
|
Memoria |
144 GB |
141 GB |
128 GB |
|
Ancho de banda de memoria |
4 TB/s |
4.89 TB/s |
6.55 TB/s |
|
Ancho del bus de memoria |
No especificó |
6144 bits |
8192 bit |
|
Cache L2 |
No especificó |
50 MB |
No especificó |
|
Ancho de banda inter -conexión |
2 TB/s |
No especificó |
No especificó |
|
Factor de forma |
Tarjeta, servidor superpod |
PCI 5.0 x16 (simplemente servidor/HPC) |
PCI 5.0 x16 (tarjeta de conteo) |
|
Reloj de base / impulso |
No especificó |
1365 /1785 MHz |
1000 /1700 MHz |
|
Núcleo / cobertizo |
No especificó |
Chuda: 16,896, Tensor: 528 (Cuarta Jane) |
14,080 cobertizadores, 220 Q, 880 Tensor Core |
|
Energía (TDP) |
No especificó |
600 W. |
600 W. |
|
Interfaz de bus |
No especificó |
PCI 5.0 x16 |
PCI 5.0 x16 |
|
Producción |
Nada (use servidor) |
Nada (simplemente servidor/HPC) |
Nada (tarjeta de conteo) |
|
Situación de objetivos |
Estimaciones de entrenamiento y decodificación de gran tamaño (LLM, AI del generador) |
Entrenamiento de IA, HPC, centro de datos |
Aceleración de contabilidad AI/HPC |
|
Liberación / disponibilidad |
Pregunta 4 2026 |
18 de noviembre de 2024 |
4 de enero de 2023 |
Enfoque de arquitectura y diseño
La serie Asand 950 de Huawei es una arquitectura de acelerador de AI propietario que es favorable para el entrenamiento, así como el entrenamiento modelo en lugar de una GPU tradicional.
Su diseño se mezcla con el estilo de procesamiento SIMD y SIMT con granularidad de acceso a la memoria de 128 bytes, lo que equilibra el THR-UP y la flexibilidad.
NVIDIA H 200 Hopper se basa en la arquitectura de la GPU e integra el núcleo CUDA de 16,896 junto con el 528 Tensor de cuarta generación.
Utiliza una GPU 100 de una sola Di GH creada en el proceso TSMC de 5 nm, manteniendo la compatibilidad con la pila de software NVIDIA y el extenso ecosistema.
AMD utiliza GPU Aqua Vanjaram con un diseño MCM basado en Chiplet que contiene AMD MI 300 Instinct ADNA 3.0 Arquitectura y 220 Matrix Core.
Este enfoque proporciona un fuerte enfoque en un enorme presupuesto de transistores y una informática de alto rendimiento.
El ascendente proporciona un rendimiento máximo de un estómago de forma estomacal con formatos de datos 950 FP8, MXFP 8 o HIF 8 y puede duplicar los dos estómagos al usar MXFP 4.
Destaca el enfoque de Huawei en formatos emergentes dependientes más bajos diseñados para mejorar las habilidades de los supuestos sin dejar la precisión.
Se proporciona NVIDIA H2 FP 16 A241.3 Tiraflope y FP 32 A 60.3 TIRAFLOP, mientras que el MI 300 FP 16 de AMD se proporciona alrededor de 483 Tiraflop y Fp32 y FP 64 para ambas cargas de trabajo.
La paridad FP 64 de FP3 con FP32 subraya su idoneidad para el cálculo científico, donde el doble dependiente es crítico, mientras que, por otro lado, el enfoque de Nvidia está recurriendo a la aceleración de la deficiencia mixta para la IA.
Arquitectura de memoria Los modelos de lenguaje grande están fuertemente influenciados por la capacitación.
Huawei Hizicue 2.0 propiedad de HBM con 144 GB de escalada 950, proporciona la velocidad de interconexión de 4 TB/s y 2 TB/s del ancho de banda.
Nvidia equipa la memoria HBM 3E y un ancho de banda de 4.89TB/S con el ancho de banda, un poco por delante del thruput crudo.
MI 300 HBM 3 de AMD se mantiene con 128 GB de 3 pero un bus mayor de 8192 bits y un ancho de banda de memoria superior de 6.55 TB/s.
Para un gran entrenamiento modelo o simulaciones intensivas en memoria, la instalación AMD de Widwid puede traducir su capacidad de memoria total al movimiento de datos más rápido de Huawei.
H200 y MI300 compartieron una potencia de diseño térmico de 600W, se adapta al PCI 5.0 x16 en la configuración sin ninguna salida de video, subraye su orientación del centro de datos.
Huawei no publicó la imagen oficial de TDP, pero proporciona tanto el formato de la tarjeta como el servidor SuperPod integrado, lo que sugiere la flexibilidad de la implementación en sus propias soluciones de infraestructura de IA.
El centro de datos de ancho de banda interconectado de 2 TB/s puede ser una razón importante para la escala múltiple en el entorno, aunque los detalles sobre el tamaño de DI y el cálculo del transistor no tienen coincidencia.
NVIDIA se beneficia de un ecosistema NVLank e Infinand maduro, mientras que el objetivo del diseño del módulo múltiple de AMD es reducir la demora en el cálculo de los dados.
Huawei obviamente dirigió el entrenamiento 950 a gran escala de su suposición de subida y decodificación para la IA del generador, un mercado donde Nvidia ha sido durante mucho tiempo la prioridad.
Su cuarto trimestre de 2026 significa Nvedia H 200, publicado a fines de 2024, y el MI 300 de AMD, 2023 está disponible, ya hay una instalación de tiempo.
Al escalar 950 clientes de hardware, ambos concursantes pueden repetir en sus plataformas.
Sin embargo, el énfasis en los formatos calificados de menor dependiente de Huawei y su hardware de red puede atraer a los compradores de sellado alternativos de proveedores estadounidenses en una integración estricta.
Se dijo que estos aceleradores reflejan diferentes puntos de vista de múltiples marcas.
AMD prioriza el poder del ancho de banda de memoria y la doble dependencia de las cargas de trabajo HPC, mientras que NVDIA gana la madurez y la asistencia de software del ecosistema para mantener la dominación en la capacitación de IA.
Huawei está tratando de desafiar tanto el rendimiento ofensivo FP 8 y la memoria de alta potencia.
A través de Huawei, Nvidia, TechPowerup
