AIに最適なDRAMの選び方

AIのワークロードがより高度になるにつれ、パフォーマンスを向上させるには適切なDRAM構成を選択することが重要となります。しかし、速度と容量のどちらがより重要でしょうか？本記事では、ゲーミング/AI PC上で5種類の異なるDRAMキットを評価し、最適なDRAM構成を見つけます。

Ollamaツールを使用して、異なるDRAM設定がテストされ、3つの大規模言語モデル（LLM）におけるトークン数とメモリ使用量が測定されます。

テストプラットフォームは、以下の構成要素で構成されています。

• CPU：IntelCore Ultra 9 285K
• GPU:PNY XLR8 RTX 4090 24GB
• マザーボード：ASRock Z890 Taichi
• SSD: CORSAIR MP700 2TB PCIe 5.0 (Gen 5) x4 NVMe M.2 SSD
• DRAM構成：
  • 2x16GB 6000 MT/s
    CMH32GX5M2B6000Z30K
  • 2x24GB 8400 MT/s
    CMHC48GX5M2X8400C40
  • 2x32GB 6000MT/s
    CMP64GX5M2B6000C30
  • 2x48GB 7000 MT/s
    CMH96GX5M2B7000C40
  • 4x48GB 5200 MT/s
    CMH192GX5M4B5200C38

異なるメモリ要件を持つさまざまなサイズの3つのLLM（大規模言語モデル）が評価されました。

• Llama 3.2 (3B)– ほとんどのAI PCに適した軽量モデル。
• Llama 3.1 (8B)– 速度と容量の両方のメリットを備えたミッドレンジモデル。
• DeepSeek-R1 (70B)– DRAMの限界に挑む大型モデル。

Ollamaユーティリティは、異なるモデルの読み込みに使用されました。Ollamaは、推論速度を測定するためのトークン/秒スコアを提供します。メモリ使用量を追跡し、異なるDRAM構成が各モデルをどのように処理するかを特定しました。テストされたプロンプトは以下の通りです。

• 「DDR5メモリはDDR4メモリと比べてどのような利点がありますか？」
• 「人間と機械が共存する世界におけるAI革命をテーマにした短編小説を書いてください。」
• 「ニューラルネットワークの概念と、その学習方法をわかりやすく説明しなさい。」
• 「強化学習の概念と、それが教師あり学習とどのように異なるかを、例を挙げて説明しなさい。」

最後に、Final Fantasy XIV Dawntrail ベンチマークをテストし、各 DRAM 構成のゲームパフォーマンスを測定しました。 目標は、パフォーマンスを損なうことなく、AI タスクとゲームを同時に処理できる DRAM 構成を見つけることです。

結果について、いくつかの重要な観察結果。

CPUのみ使用の場合、DeepSeek-R1（70B）モデルに32GBと48GBの構成が適合できませんでした。RTX 4090を使用しても、70bモデル使用時は32GBのDRAMが限界です。

8400 MT/sCUDIMMキットの高速性は、ゲームにおける他のDRAM構成を凌駕するが、RTX 4090で大規模なAIモデルを実行しても、利用可能なメモリはあまり多く残らない。

• AIワークロードのみ：GPUなしでLLMを実行する可能性はほとんどないため、最低でも64GBのDRAMキットが推奨されます。将来的により大規模なLLMが使用される可能性を考慮すると、96GBのDRAMキットが最適です。
• ゲーミング + AI：8400 MT/sがここでの明白な勝者です。64GBのDRAMキットはゲーミングではそれほど劣っていませんし、RTX 4090は追加のシステムメモリを提供しているため、ここでの優先選択肢となります。

AIを多用する作業負荷の場合、特に大型モデルでは、DRAM容量が重要な役割を果たします。しかし、ゲームとAIの両方を管理するハイブリッドシステムでは、速度とレイテンシの最適化も同様に重要です。LLMが継続的に異なるハードウェア向けに最適化され、要件が減少するにつれ、より正確な結果を得るために大型モデルをシステムで実行できるように、余分なメモリ容量を用意しておくことが最善でしょう。

以上の考察を踏まえて、選択されたDRAMキットはCMH96GX5M2B7000C40です。