日本から注文して約1週間で到着しました。
購入後はOSをUbuntu 26.04に入れ替え、ローカルAI専用マシンとして運用しています。
Qwen3.6-35B-A3B-UD-Q8_K_XLをllama.cpp環境で動かしていますが、約45トークン/秒と非常に高速です。さらにQwen2.5-VLによる画像解析も同時に実行できており、128GBメモリの余裕を実感しています。
FireCrawlをMCPサーバーとして導入し、ローカルLLMからWeb検索も利用しています。高負荷時でもファンはとても静かで、長時間運用でも気になりません。コンパクトな筐体でここまでのAI性能を実現しているのは驚きです。今後はさらに大規模なモデルの動作検証も予定しており、このマシンのポテンシャルに期待しています。大きなモデルを活用したい方におすすめできる一台です。
