Programación

TorchTPU convierte las TPU de Google en un dispositivo más de PyTorch, sin pasar por XLA ni aprender JAX

Hugging Face publicó el 20 de octubre que TorchTPU, un backend nativo de PyTorch, deja usar las TPU de Google como cualquier otro dispositivo. Transformers, Diffusers y Kernels funcionan ya de forma nativa: se coge un modelo del Hub y se le manda a la TPU. Hasta ahora había que pasar por PyTorch/XLA, con tensores perezosos que hacían que el código no siempre se ejecutara cuando uno creía, y recompilaciones del grafo al menor cambio.

LanzamientoDisponibleSin confirmar si afecta al plan gratuito

Qué significa para ti

Para quien escribe código esto quita una barrera entera: la instalación es una orden de pip y Optimum TPU deja de ser necesario. Un modelo que no cabe en un chip se reparte entre varios al cargarlo. Con un núcleo del Hub y lote de 64 dicen medir decodificaciones 21,5 veces más rápidas en Qwen3-30B-A3B. Dos avisos, uno suyo y uno nuestro: de las pruebas que corren en TPU pasa el 96,5 %, y ellos mismos escriben que no está todo en verde; y las TPU viven en Google Cloud, así que esto no es ejecutar en casa.

Fuentes

Todo lo anterior sale de estas páginas. Si alguna contradice lo que publicamos, gana la fuente y lo corregimos.

Seguir leyendo

  • Programación

    AnyLanguageModel llega a la 1.0: una sola API para el modelo del sistema de Apple, los locales y los de la nube

    Hugging Face publicó el 20 de octubre la versión 1.0 de AnyLanguageModel, junto a swift-huggingface 1.0 y swift-xet 1.0. Es un sustituto directo del marco de modelos de Apple que deja elegir qué modelo y qué proveedor usa la aplicación: basta cambiar la línea de importación y el mismo código de sesión sigue valiendo, ya sea con el modelo del sistema, con modelos de pesos abiertos a través de llama.cpp, MLX o Core ML, o con proveedores alojados.

    LanzamientoDisponible

  • Programación

    Migrar a Claude Haiku 5.5 rompe código, y Anthropic publica la lista de lo que hay que cambiar

    Anthropic avisó el 7 de octubre de que el código escrito para Claude Haiku 4.5 puede romperse en 5.5, y su guía de migración lo detalla punto por punto. Enviar el pensamiento con un presupuesto de tokens devuelve un error 400 y hay que pasarlo al modo adaptativo. Hay que quitar de las peticiones los parámetros temperature, top_p y top_k. Y si los mensajes acababan con un turno del asistente para que el modelo siguiera, ahora tienen que acabar con un turno de usuario.

    ActualizaciónDisponible

  • ProgramaciónParcial

    Accomplish describe dos formas de salir del sandbox de Codex, una de ellas desde el modo de sólo lectura

    Accomplish publicó el 15 de septiembre dos fallos que permitían escapar del sandbox de OpenAI Codex. Dice haberlos comunicado a OpenAI el 12 de agosto y que «both were fixed inside of eight days». El primero, Overpatch, está en la CLI de código abierto: la herramienta de parches concede permiso de escritura a la carpeta padre de cada ruta del parche, así que nombrar /tmp abre la raíz del disco. El segundo, Heapjack, afecta a la herramienta de JavaScript que instala Codex Desktop.

    AnuncioDisponibilidad sin confirmar

    Herramientas:OpenAI Codex