llama.cpp ve Windows zapíná rychlé jádro na Intel Xe2 a Xe3 od verze 8860

llama.cpp dosud na grafikách Intel s ovladačem Intelu pro Windows nepouštěl jedno ze specializovaných výpočetních jader rozhraní Vulkan. Vydání b10215 z 31. července plošnou brzdu nahradilo kontrolou verze. Zařízení s Xe2 a Xe3 dostanou rychlejší cestu od ovladače 32.0.101.8860, se starším program pokračuje bez ní.

Změna se netýká načítání modelu ani formátu GGUF. Leží ve vulkanovém backendu, tedy v části, která posílá výpočty na grafickou kartu. Nedopadá na běh přes CUDA, HIP, OpenVINO nebo Metal.

Plošný zákaz nahradily tři podmínky

Jádro se v kódu jmenuje fwht_f32 podle rychlé Walshovy-Hadamardovy transformace. Obsluhuje operaci MUL_MAT_HADAMARD. Před změnou platila jednoduchá podmínka: na vlastním ovladači Intelu pro Windows se jeho výpočetní pipeline vůbec nevytvořila. Důvodem byl dříve pozorovaný pád na integrované grafice Intel Arc B390.

Návrh změny 25192, sloučený 31. července, místo značky výrobce kontroluje ovladač, operační systém a architekturu karty. Omezení zůstává jen pro vlastní ovladač Intelu ve Windows a pro zařízení, která backend řadí do skupiny Xe2. Autor do ní v popisu zahrnuje i Xe3. Linuxový ovladač Mesa touto bránou neprochází.

U Xe2 a Xe3 se z číselné hodnoty ovladače oddělí hlavní a vedlejší část. Kontrola porovnává hlavní část 101 a vedlejší část 8860, tedy verzi 32.0.101.8860. Když je verze nižší, llama.cpp se neukončí a model neodmítne. Jen nepřipraví pipeline fwht_f32 a výpočet zůstane na obecnější cestě.

Ovladač 8860 je certifikovaný, nejnovější je 8864

Hranice není číslo budoucího balíku. Stránka ovladače Intelu datovaná 20. července vede verzi 32.0.101.8860 jako certifikovanou WHQL. Za ní už uvádí 32.0.101.8861 a jako nejnovější 32.0.101.8864.

Aktuální instalační balík má 877,4 MB a Intel ho nabízí pro Arc řady B a A i procesory Core Ultra s grafikou Arc. Výrobce současně varuje, že jeho obecný ovladač může přepsat úpravy od výrobce notebooku. U takového počítače proto není správným závěrem „nainstalovat nejnovější za každou cenu“; nejdřív má smysl porovnat verzi na stránce výrobce zařízení.

Test ukázal až 494,90 GFLOPS, ne rychlost celého modelu

Čísla k výkonu pocházejí od autora změny, ne z nezávislého měření. Uživatel GitHubu rillomas je získal na systému UX7-368H s integrovanou grafikou Intel Arc B390, ovladačem 32.0.101.8860 a rozpracovaným commitem df5b988. Spustil test test-backend-ops perf -o MUL_MAT_HADAMARD.

Ve čtyřech velikostech operace naměřil po zapnutí specializovaného jádra vyšší výkon. Největší rozdíl byl u varianty s rozměry m=128, n=32 a k=128: obecná cesta dala 90,34 GFLOPS, fwht_f32 494,90 GFLOPS. Podíl je podle našeho přepočtu 5,48. U zbývajících tří případů vychází přibližně 1,42krát až 1,92krát.

Z těchto čísel nelze odvodit, že celý model začne generovat tokeny pětkrát rychleji. Test měří jedinou operaci a autor neuvedl měření úplné odpovědi modelu. Nezávislé zopakování výsledku v návrhu změny ani v poznámkách k vydání není.

Starší ovladače byly součástí zkoušky

Autor změnu zkoušel i na verzích pod novou hranicí: 32.0.101.8826 na Core Ultra 7 268V s Xe2 a 32.0.101.8804 na kartě Arc Pro B70. Tabulku uvádí jako seznam sestav, na kterých test po změně nespadl. To odpovídá chování kódu: starší ovladač nedostane nové jádro, ale dál použije dosavadní variantu.

V seznamu je také Arc A770 s ovladačem 8860 a několik sestav s Mesou. Výsledky však nejsou srovnáním všech těchto karet. Výkonová čísla autor zveřejnil jen pro Arc B390, a proto z tabulky nejde dělat pořadí ani slibovat stejné zrychlení samostatné kartě B580 z fotografie.

Co změna znamená při provozu doma

Praktický dopad má úzký rozsah: Windows, Vulkan a grafika Intel. Na Xe2 nebo Xe3 s ovladačem 8860 či novějším vydání b10215 zpřístupní specializované jádro. Se starší verzí zůstane aplikace funkční, jen tuhle cestu nepoužije. Na Linuxu, jiném výrobci grafiky nebo jiném backendu se nová kontrola vůbec neuplatní.

Změna tak řeší dvě opačná rizika jednou podmínkou. Starý ovladač nedostane kód, u kterého projekt pozoroval pád, zatímco nový už není brzděný zákazem pro všechny grafiky Intel. Jestli se to projeví v rychlosti konkrétního modelu, musí ukázat až měření generování na dané kartě; zveřejněný test zatím měří jen samotnou transformaci.

Zdroje: poznámky k vydání llama.cpp b10215, návrh změny 25192 včetně testovacích sestav a měření, sloučený zdrojový kód kontroly a přehled ovladačů Intelu. Datum vydání a sloučení jsme ověřili přes veřejné rozhraní GitHubu 1. srpna 2026.