Local y open source

PyTorch 2.15 acelera los modelos en Mac: una mezcla de expertos pasa de 9,4 a 61,3 tokens por segundo

El equipo de PyTorch de Hugging Face publicó el 20 de octubre lo que cambia en la versión 2.15 para quien ejecuta modelos en un Mac. Lo más llamativo son los modelos de mezcla de expertos, que según sus medidas decodifican entre 5 y 6,5 veces más rápido que en la 2.14: Qwen3.6-35B-A3B pasa de 9,4 a 61,3 tokens por segundo en un M3 Ultra. Llega además FP8 al Mac, que guarda los valores en la mitad de espacio que BF16.

ActualizaciónDisponibleSin confirmar si afecta al plan gratuito

Qué significa para ti

Afecta directamente a quien usa transformers, diffusers o ComfyUI en un Mac. Los modelos densos también ganan, con un softmax ocho veces más rápido para el muestreo, y hay un caso extremo en vídeo: la decodificación del VAE de Wan2.2 baja de un pico de 270 GiB de memoria a 8 GiB. Conviene mirar los requisitos antes de actualizar, porque han subido: MPS exige ya macOS 15 o posterior y PyTorch 2.15 pide Python 3.11. Todas las cifras son medidas suyas.

Fuentes

Todo lo anterior sale de estas páginas. Si alguna contradice lo que publicamos, gana la fuente y lo corregimos.

Seguir leyendo

  • Local y open source

    Meta abre los pesos de Muse Spark, de 816.000 millones, y la configuración de referencia pide cuatro GPU GB300

    Hugging Face publicó el 15 de octubre la llegada de Muse Spark Open, el modelo de pesos abiertos de Meta: una mezcla de expertos de unos 816.000 millones de parámetros con unos 42.000 millones activos por token, que acepta texto, imágenes, audio y vídeo y devuelve texto, con hasta un millón de tokens de contexto. Meta lo entrenó para programar de forma agéntica: leer un repositorio, escribir y depurar código, y llamar a herramientas.

    LanzamientoDisponible

  • Local y open source

    Mistral publica Timestral, modelos de previsión de series temporales que corren en CPU y con licencia MIT modificada

    Mistral publicó el 15 de octubre Timestral, su primera familia de modelos fundacionales para series temporales. Sostiene que el mayor, de sólo 209 millones de parámetros, queda primero en las tres pruebas públicas principales del campo —GIFT-Eval, TIME y fev-bench— superando al estado del arte anterior con dos tercios de sus parámetros. La familia tiene cuatro tamaños, de 5 a 209 millones, se despliega en local o en entornos aislados y sale con licencia MIT modificada.

    LanzamientoDisponible

  • Local y open source

    Liquid AI abre un modelo de razonamiento de 24.000 millones que sólo activa 2.000 por token

    Liquid AI publicó el 13 de octubre LFM2.5-24B-A2B, un modelo de razonamiento de 24.000 millones de parámetros que sólo activa 2.000 millones por token, pensado para agentes rápidos y privados en el propio dispositivo. Los pesos están abiertos y en Hugging Face desde ese mismo día, tanto el modelo como su versión base. A diferencia del anterior, es sólo de razonamiento: produce una cadena de pensamiento explícita antes de dar la respuesta.

    LanzamientoDisponible