うん、LLM用途だと「だいぶ遅い」側だと思う。
Ryzen AI Max+ 395はAMD公式スペック上、256-bit LPDDR5x-8000。理論帯域はざっくり256GB/s級。普通のDDR5デスクトップよりは強いけど、
・MacBook Pro M4 Max: 約546GB/s
・Mac Studio M3 Ultra: 約819GB/s
・RTX 4090: 約1TB/s
・現行上位GPU: さらに上
みたいな世界と比べると、トークン生成は帯域で頭打ちになりやすい。
なのでRyzen unified memory機の強みは「速い」より「128GB級をGPUから触れるWindows/x86箱が比較的安く小さく手に入る」ことかな。大きめモデルを載せる箱としては面白いけど、同じサイズのモデルを速く回すならMac Max/UltraやdGPUの方が有利。