Strix Halo es el nombre en clave de la serie Ryzen AI Max de AMD, el primer chip para PC con suficiente memoria unificada para cargar modelos que antes exigían un armario de tarjetas gráficas. Nuestra máquina es un Framework Desktop: 16 núcleos, una Radeon 8060S integrada y 128 GB de LPDDR5X compartidos entre procesador y gráficos. Es una configuración habitual, de algo más de 2 000 euros, y la pregunta sobre ella es siempre la misma: qué puede ejecutar y a qué velocidad.

Podemos responder con mediciones y no con estimaciones, porque el propio baremo generó miles de textos en ella. La tabla da, para cada archivo de modelo probado, la mediana de tokens por segundo sobre las respuestas válidas generadas en esta máquina, tokens de razonamiento incluidos, junto al tamaño del archivo, la memoria necesaria con un contexto de 128 000 tokens lleno y la puntuación de escritura del modelo en la clasificación de esta edición.

Velocidad de los LLM en Strix Halo
ModeloTok/s medianaArchivo (GB)+128K (GB)ParámetrosPuntuaciónRespuestas
Gemma 4 26B A4B Q8_0 💡 on* 🏠39,828,131,026,0 B (4,0 B activos)48,0465
Gemma 4 E2B Q4_K_M 💡 on* 🏠39,43,45,35,1 B10,4224
Gemma 4 E4B Q8_0 💡 on* 🏠35,98,011,98,0 B13,4542
Gemma 4 E2B Q6_K 💡 on* 🏠33,23,95,85,1 B12,9216
Ling 3.0 Flash Q4_K_M 💡 high 🏠31,677,078,2124,0 B (5,1 B activos)20,5277
Ling 3.0 Flash Q4_K_M ↯ 🏠30,577,078,2124,0 B (5,1 B activos)16,0240
Gemma 4 E2B Q8_0 💡 on* 🏠29,25,06,95,1 B13,1224
Gemma 4 26B A4B QAT-Q4_0 💡 on* 🏠27,915,618,626,0 B (4,0 B activos)55,3118
Qwen3.6 35B A3B Q4_K_M 💡 on* 🏠26,622,124,835,0 B (3,0 B activos)42,1347
Nemotron 3 Nano Omni 30B A3B Q4_K_M 💡 on* 🏠25,126,127,030,0 B (3,0 B activos)7,0960
Gemma 4 E4B Q4_K_M 💡 on* 🏠22,46,310,28,0 B6,9221
Qwen3.6 35B A3B Q8_0 💡 on* 🏠22,137,840,635,0 B (3,0 B activos)36,8312
Nemotron 3 Nano Omni 30B A3B Q8_0 💡 on* 🏠21,235,236,130,0 B (3,0 B activos)6,2391
Nemotron 3 Super 120B A12B Q4_K_M 💡 full 🏠21,186,187,5120,0 B (12,0 B activos)21,5413
Gemma 4 26B A4B Q6_K 💡 on* 🏠20,223,826,826,0 B (4,0 B activos)49,1539
Gemma 4 E4B Q6_K 💡 on* 🏠18,66,210,18,0 B10,0218
Granite 4.2 8B Q4_K_M 💡 full 🏠16,95,326,88,0 B5,036
Gemma 4 12B Q8_0 💡 on* 🏠14,612,715,312,0 B43,5124
Gemma 4 12B QAT-Q4_0 💡 on* 🏠11,07,29,812,0 B35,3752
Gemma 4 31B QAT-Q4_0 💡 on* 🏠10,017,729,631,0 B49,9548
Gemma 4 12B Q6_K 💡 on* 🏠9,09,812,412,0 B37,8216
Qwen3.8 27B Q4_K_M 💡 xhigh** 🏠8,917,726,527,0 B39,4546
Muse Glimmer 30B K-Quant 17GB 💡 high 🏠8,818,220,029,6 B57,8394
Qwen3.8 27B Q8_0 💡 xhigh** 🏠8,430,038,727,0 B62,5498
Muse Glimmer 30B K-Quant Dynamic 💡 high 🏠8,021,122,929,6 B48,1397
Granite 4.2 30B Q4_K_M 💡 full 🏠7,617,752,130,0 B6,1423
Qwen3.6 27B Q8_0 💡 on* 🏠7,528,637,327,0 B40,3190
Qwen3.8 27B Q6_K 💡 xhigh** 🏠7,023,432,127,0 B52,8504
Granite 4.2 30B Q6_K 💡 full 🏠6,624,058,430,0 B8,6397
Gemma 4 31B Q6_K 💡 on* 🏠5,826,438,431,0 B57,2527
Qwen3.6 27B Q4_K_M 💡 on* 🏠5,216,525,327,0 B38,3588
Granite 4.2 30B Q8_0 💡 full 🏠4,931,165,530,0 B6,8447
Gemma 4 31B Q8_0 💡 on* 🏠4,833,845,831,0 B59,9316

Mediana de tokens por segundo sobre las respuestas válidas del baremo generadas en esta máquina, tokens de razonamiento incluidos; la cifra abarca el procesamiento del prompt y la generación, que se miden por separado; archivo y memoria como en la página IA local; puntuación de la clasificación principal de esta edición. Véase también: mediciones publicadas por la comunidad para el Ryzen AI Max+ 395.

La regla general: ancho de banda, no cómputo

Cuando un modelo genera texto, cada token exige leer una vez todos los pesos activos. En Strix Halo la memoria entrega unos 256 GB por segundo, así que un modelo denso guardado en 30 GB (Qwen3.8 27B en Q8_0) no puede superar unos 8,5 tokens por segundo, y medimos 8,4. Gemma 4 31B Q8_0, de 34 GB, se queda en 4,8. Reducir el archivo a la mitad con una cuantización Q4 duplica aproximadamente la velocidad, al coste documentado en nuestro análisis de cuantizaciones.

Los modelos de mezcla de expertos escapan a la regla: guardan muchos parámetros pero activan pocos por token. Gemma 4 26B A4B lee 4 000 millones de parámetros por token y alcanza 40 tokens por segundo en Q8_0; Qwen3.6 35B A3B llega a 22; Ling 3.0 Flash, un archivo de 77 GB, aún produce 30 tokens por segundo porque solo trabajan 5 000 millones de parámetros a la vez. En este hardware, el mejor compromiso para escribir es un modelo de expertos en Q8, no un modelo denso en Q4.

Lo que compran de verdad los 128 GB

Memoria, no velocidad. Nemotron 3 Super 120B en Q4_K_M es un archivo de 86 GB que ninguna tarjeta gráfica de consumo puede alojar; aquí corre a 21 tokens por segundo. Ling 3.0 Flash, de 77 GB, carga con margen para un contexto largo. Un modelo denso de 70 000 millones de parámetros en Q4 también cabe, pero a unos 5 tokens por segundo es una herramienta para escritores pacientes. Los benchmarks de la comunidad dan al M4 Max de Apple más o menos el doble de velocidad que Strix Halo en esos modelos densos de 70B, por entre 1 800 y 2 200 dólares más; en los modelos de expertos la diferencia es mucho menor.

Cómo se midieron las cifras

El motor llama.cpp de LM Studio, ajustes por defecto, las mismas 240 consignas por idioma que el resto del baremo, razonamiento activado cuando el modelo lo permite. La mediana se toma sobre respuestas completas, así que incluye la fase de razonamiento y el procesado de la consigna; una consigna corta con un razonamiento largo baja la cifra, que es justo lo que vive quien escribe. Las velocidades varían con la longitud del contexto, el backend (Vulkan o ROCm) y las versiones de los controladores: léelas como una ordenación de los modelos entre sí en una máquina, no como una promesa absoluta. La calidad procede de la clasificación de IA local, que usa los mismos archivos.

Fuentes y lecturas