AMD Ryzen™ AI Max+ PRO 495と395の違いは?EVO-X5 Proで活かす192GBメモリ

AMD Ryzen™ AI Max+ PRO 495と395の違いは?EVO-X5 Proで活かす192GBメモリ

ローカルLLMを使っていて、「もう少し大きなモデルを試したい」「長い資料を読み込ませるとメモリが足りない」と感じたことはありませんか。そんなときは、プロセッサーの速さに加えて、モデルや作業データにどれだけメモリを使えるかが重要です。

GMKtec EVO-X5 Proは、AMD Ryzen™ AI Max+ PRO 495と192GBのメモリを搭載したミニPCです。SSDは2TBと4TBから選べます。この記事では、Ryzen™ AI Max+ 395との仕様差を比較しながら、128GBで十分なケースと、192GBが役立つケースを紹介します。

Ryzen AI Max+ PRO 495と395の仕様比較

どちらもZen 5世代の16コア/32スレッド構成で、内蔵GPUは40コンピュートユニットを備えています。主な仕様の違いは次のとおりです。

比較項目 Ryzen AI Max+ PRO 495 Ryzen AI Max+ 395
CPU Zen 5、16コア/32スレッド Zen 5、16コア/32スレッド
最大ブーストクロック 最大5.2GHz 最大5.1GHz
内蔵GPU Radeon™ 8065S、40 CU Radeon™ 8060S、40 CU
NPU AMD XDNA™ 2 AMD XDNA™ 2
GMKtec搭載機のメモリ構成例 EVO-X5 Pro:192GB EVO-X3:128GB


表のクロックは仕様上の最大値です。実際の処理速度は、ソフトウェア、電力設定、冷却設計によって変わります。ローカルLLM向けにEVO-X5 ProとEVO-X3を比較するなら、まず見たいのは192GBと128GBの容量差で、どこまで作業の幅が広がるかです。

ローカルLLMでは、モデルの重み以外にもメモリが必要

ローカルLLMの実行時には、モデルの重みに加えて、推論ソフトの作業領域やKVキャッシュがメモリを使います。KVキャッシュは、処理済みのトークンの情報を再利用するために保存しておくデータです。長い文書や会話履歴を扱うほど、モデルの重みとは別に、この領域も見込んでおく必要があります。

たとえば、70B(700億パラメータ)のモデルを4bitで量子化すると、重みの容量は単純計算で約35GBです。実際には、量子化形式に伴う追加データ、KVキャッシュ、推論ソフトの作業領域、OSやほかのアプリが使う分も加わります。この35GBは、あくまでモデルの重みだけを見積もった値です。

192GBのメリットは、こうした領域を確保したうえで、より大きなモデルを選んだり、長いコンテキストを使ったり、別のアプリを同時に開いたりしやすくなることです。すでに十分なメモリがある処理では、容量を増やしても生成速度が比例して上がるわけではありません。

128GBと192GB、どちらを選ぶべき?

主な使い方 構成を選ぶ目安
量子化したLLMを1つずつ動かし、短めの会話や文章生成に使う モデルと設定によっては、128GBで十分な場合があります。
長い仕様書や複数の資料を読み込ませ、長いコンテキストで推論する モデルの重みに加えてKVキャッシュの領域も必要になるため、192GBを検討する理由があります。
LLMを動かしながら、画像生成ツールや開発環境も併用する 各アプリのメモリ使用量が重なるため、192GBの余裕を活かしやすい用途です。
より大きなモデルや、異なる量子化形式を試したい 192GBなら、モデルや設定の選択肢が広がります。

すでにRyzen AI Max+ 395搭載機を使っていて、目的のモデルやアプリが余裕を持って動いているなら、その構成を使い続けるのも合理的です。モデルを小さくしたり、コンテキストを短くしたり、別のアプリを閉じたりすることが増えたなら、192GBを検討するタイミングです。

AMD Ryzen™ AI Max+ 395

EVO-X3

GMKtec EVO-X3 ミニPC
  • 128GBメモリ + 2TB SSD
  • 128GBメモリ + 4TB SSD
詳細を見る

AMD Ryzen™ AI Max+ PRO 495

EVO-X5 Pro

GMKtec EVO-X5 Pro ミニPC
  • 192GBメモリ + 2TB SSD
  • 192GBメモリ + 4TB SSD
詳細を見る

EVO-X5 Proの192GBモデルで選べる2つのSSD構成

GMKtec EVO-X5 Proは、Ryzen AI Max+ PRO 495、Radeon 8065S、192GBメモリを搭載しています。冷却にはベイパーチャンバーと3基のファンを採用し、長時間の推論やレンダリングといった連続負荷を想定した設計です。

SSD構成 こんな使い方に
192GBメモリ+2TB SSD よく使うモデルを絞り、作業データを外部ストレージなどにも保管する方に。
192GBメモリ+4TB SSD 複数のLLMや量子化違いのモデル、画像生成用のモデル、データセットを本体にまとめて保管したい方に。

SSDはモデルやデータを保存する容量、メモリはそれらを実行時に使う容量です。2TBと4TBで迷ったら、手元に置いておきたいモデルとデータの合計容量を基準にすると選びやすくなります。

購入前によくある質問

Q:192GBのメモリをすべてAIモデルに使えますか?

A:192GBはシステム全体のメモリ容量です。OSやほかのアプリ、KVキャッシュ、推論時の作業領域にも使われます。GPU側で利用できる容量は、OSや設定、推論ソフトによっても変わるため、モデルのファイルサイズだけで動作可否を判断せず、利用予定の環境で確認してください。

Q:CUDAを前提としたソフトは使えますか?

A:CUDA専用のソフトをRadeon GPUで使うには、AMD GPUに対応した別の実行方式が必要です。使いたいツールが、予定しているOSとGPUの組み合わせに対応しているかを確認してください。推論速度を比較する際も、モデル、量子化形式、コンテキスト長、実行方式がそろった結果を見ると判断しやすくなります。

Q:法人導入ではAMD PRO Technologiesも確認すべきですか?

A:社内の調達基準に管理機能やセキュリティ機能の指定がある場合は、必要な機能が搭載機で利用できるかをご確認ください。利用可否は、プロセッサーの名称だけでなく、機器側の実装や運用環境にも関わります。

Q:大きなモデルや長い文書を扱うなら、EVO-X5 Proの192GB構成へ

A:ローカルLLMで扱いたいモデルが大きくなったとき、長い資料をまとめて処理したいとき、あるいは推論とほかの作業を並行したいとき。EVO-X5 Proの192GBメモリは、モデルや作業環境を選ぶ余裕を広げます。 複数のモデルやデータセットを本体にまとめたい方は、4TB SSD構成もご覧ください。

前 次

コメントを残す

0 件のコメント