Tech Pulse JP - AI・ガジェット・新技術をサクッと解説。

最新AIトレンドや話題のガジェット、世界の新技術をサクッと分かりやすく解説

格安で手に入れた業務用AIサーバーを“家庭用AIマシン”に改造した話なのだ

データセンター向けの超強いAIサーバーを、なぜか“割と現実的な値段”で手に入れて、自宅で動くAIマシンに改造してしまった人がいるのだ。主役はNVIDIAの「Grace Hopper(GH200)」系の構成で、CPUもGPUもメモリも桁違い。ただし、買って終わりじゃなくて、電源・冷却・騒音・ファン制御など“サーバーの壁”がガチで立ちはだかるのだ。この記事では、何が起きたのかをやさしく整理するのだ。

結論:家に“業務用AI級”を持ち込める、でも覚悟がいる

今回の話の結論はシンプルで、「運と根性があれば、データセンター級のAI計算機を家で動かせる」なのだ。ただし代償も大きくて、電源は太くしたくなるし、冷却は水冷クラスが欲しくなるし、サーバー特有の“ファン全開で爆音”みたいな罠も踏みやすいのだ。だから、ロマンを買う話として読むのがちょうどいいのだ。

そもそもGH200って何?

GH200(Grace Hopper)は、ざっくり言うと「CPU(Grace)とGPU(Hopper)を、めちゃ太い専用接続でくっつけた強いユニット」なのだ。普通のPCだとCPUとGPUはPCIeでつながるけど、ここはNVLink-C2Cという仕組みで、CPUとGPUの距離をかなり近づけているのが特徴なのだ(だから大きいAIやHPCが得意になるのだ)。

もう少しだけ具体的に言うと、NVIDIAの資料ではGH200/NVL2構成の目安として「CPU側は最大144コア」「CPUメモリは最大960GB」「GPU側はHBM3/HBM3eで大容量」みたいな表が出ているのだ。こういう“桁の違い”が、家庭用PCとは別世界なのだ。

何を買った?「改造済みAIサーバー」が安かった理由

元記事の作者さんは、もともと“こっそりAIサーバーを作って売ろうとしてたっぽい”機材を入手したのだ。中身は「GH200が2つ(=CPUもGPUも2枚分)」という強い構成で、普通に考えると個人が触るものじゃないのだ。でも、その機材は既に改造されていて、そのせいで転売しにくい(=買い手が少ない)状態だったらしく、そこで価格に“歪み”が生まれたっぽいのだ。

到着したAIサーバーの様子(出典:dnhkng.github.io)
到着した機材(出典:David Noel Ng「Building a High-End AI Desktop」)

サーバーをデスクトップ化:電源・冷却・配線の現実

サーバーを家で使うときに最初にぶつかるのが、電源と冷却なのだ。元記事では、ケースや水冷パーツを使って“机の下に置ける形”に持っていくのだけど、ここが一番工作になるのだ。電源ユニットの取り回し、GPUクラスの発熱をどう逃がすか、ケーブルの長さやコネクタの都合、そういう「PC自作の延長だけど、圧が強い版」みたいな世界なのだ。

デスクトップ化したAIマシン(出典:dnhkng.github.io)
“デスクトップ化”後の姿(出典:David Noel Ng「Building a High-End AI Desktop」)

一番しんどい:ファン暴走(BMC)と温度センサー問題

家庭用PCとサーバーの決定的な違いがここなのだ。サーバーはBMC(管理用の仕組み)が「ファンが壊れたかも」「温度が変かも」と判断すると、安全側に倒して、いきなりファンを100%にしてくることがあるのだ。すると爆音になって、家ではつらいのだ。

元記事でも、ファンのチェックやセンサーの挙動が絡んで、ファンが全開になったり、温度がありえない値を示したり、かなり泥臭いトラブルが出てくるのだ。こういう“サーバーのクセ”が、個人運用の難所なのだ。

性能はどう?ローカルLLMの実測(ざっくり)

じゃあ苦労の先に何があるの?というと、実測の気持ちよさなのだ。元記事では、ローカルLLMを回して、モデルによってはかなり速いトークン生成が出ているのだ。もちろん設定や量子化、使うソフトで変わるけど、「でかいモデルを、家で、現実的な速度で触れる」っていう体験は強いのだ。

  • 120B級のモデルで、数十tok/s級の結果が出ているケースがあるのだ
  • 235B級でも、条件次第で数tok/s台で回しているのだ(“動く”だけでもロマンなのだ)
  • CPUが強すぎて、ビルド(コンパイル)が90秒くらいで終わった、みたいな話も出てくるのだ

ここは数字が気持ちよく見えるところだけど、再現には環境依存があるのだ。元記事の条件(電力制限、冷却、ソフト、量子化など)を前提に読むのが安全なのだ。

費用感:結局いくらで“家庭用AI”になった?

元記事は、GPUサーバー本体だけじゃなくて、ストレージや水冷まわり、フレーム、細かい部品まで入れた「合計」を出しているのが親切なのだ。こういう改造は、買った後に“周辺が増えていく”のがあるあるなのだ。

結論から言うと、合計は 9,000ユーロ。日本円の目安として 1ユーロ=約183.83円 で換算すると、 約1,654,470円(約165.4万円) になるのだ。

※為替は日々動くので、ここでは「ざっくり把握」用の目安なのだ。実際に買うときは、その日のレートで計算し直すのが安心なのだ。

ざっくり内訳(ユーロ→円の目安)

項目 金額(€) 日本円目安(¥) 日本円目安(万円)
サーバー本体 7,500 1,378,725 137.9
ストレージ(中古 8TB NVMe) 250 45,958 4.6
水冷アダプタ類 700 128,681 12.9
AIO水冷クーラー 180 33,089 3.3
フレーム 200 36,766 3.7
そのほか小物(ガラス前面・フィラメント・ネジ類・清掃・電源・LEDなど) 170 31,252 3.1
合計 9,000 1,654,470 165.4

こういう改造は「買った後に周辺が増えていく」のがあるあるだから、最初から合計(約165万円)で見積もっておくと、あとで財布がびっくりしにくいのだ。

参考リンク

前の記事次の記事