Hugging Face stellt Pallas vor, eine experimentelle JAX-Erweiterung, die Entwicklern ermöglicht, maßgeschneiderte Kernel für GPUs und TPUs zu schreiben – ohne tiefe Kernel-Programmierungskenntnisse zu benötigen. Pallas behält die vertraute JAX-Syntax bei, zwingt aber zum Denken auf einer tieferen Ebene: Statt nur zu fragen "welche Array-Operation will ich?", muss man sich überlegen, welchen Speicherblock die eigene Instanz verarbeitet. Das Tool lowert derzeit zu Mosaic (TPU) und Mosaic GPU (NVIDIA Hopper+), eine Triton-GPU-Unterstützung existiert aber nur experimentell.
📢 Pressemitteilung
Pallas: JAX-Programmierung näher an der Hardware
4. Mai 2026·Quelle: Hugging Face Blog
Unsere Einordnung
Pallas adressiert eine echte Marktlücke: Die Nachfrage nach Hardware-optimiertem Code wächst, doch traditionelle CUDA-Programmierung schreckt viele ab. Mit JAX-ähnlicher Syntax könnte Pallas mehr Forschern Zugang zu optimierten Kerneln geben – wenn die Dokumentation und das Tooling reifen. Entscheidend wird, ob Mosaic GPU tatsächlich zur Standard-Alternative zu Triton wird.
Schlüsselfakten
- Pallas ist eine experimentelle JAX-Erweiterung für GPU- und TPU-Kernel-Entwicklung
- Kernel arbeiten auf Speicherblöcken statt ganzen Arrays, erfordern explizites Denken über Speicherlayout und Tiling
- Unterstützt Mosaic (TPU) und Mosaic GPU (NVIDIA Hopper und neuere), Triton-Backend nur auf Best-Effort-Basis
- Verwendet Refs (mutable Speicher-Referenzen) statt normaler JAX-Arrays, Kernel schreiben Ergebnisse direkt in Output-Buffer