星期日, 1月 28, 2024

千呼萬喚始出來: AMD XDNA Linux Driver

隨著 AI 的各種應用如雨後春筍般冒出,各種終端裝置也開始強調運算 AI 的能力。比如 Intel 最新發布的 Core Ultra 系列處理器加入了 NPU, AMD 最新發布的 APU 處理器皆加入了 XDNA。

相比 Intel 已經在 Linux 添加了驅動支持,AMD 腳步顯然慢得多。雖然在 github 上早早的公開了其 XDNA 的相關工具 RyzenAI-SW,但卻缺失了 Linux 相關的資源,導致在 issue tracker 上 Linux?中有大量的人在請求相關的資源。

在數天前,AMD 忽然在 github 上公佈了其 Linux Driver AMD XDNA™️ Driver for Linux®️

但目前這個 Driver 尚未整合到 mainline kernel, 也不確定是否有整合計畫,但總歸是個好的開始。

隨著這個 driver 被放出,在 llama.cpp 中的 issue [Feature request] Any plans for AMD XDNA AI Engine support on Ryzen 7x40 processors? 也開始有開發者在等待開發環境的成熟。

只是... AMD 沒有考慮直接將其整合到 ROCM 平台嗎...

沒有留言: