Intel® GPU D-series

概要

• Intel GPU D270は、エージェント型AIや長文コンテキスト、高同時実行の推論サービングを想定したデータセンター向けGPUです。
• HBMではなくLPDDR5Xを採用し、1枚のカードに最大480GBのメモリを搭載できる構成を実現しています。
• 350Wの空冷PCIeカードとして設計され、導入時の電力やコストを抑えながら大規模モデルを扱える点が特徴です。

特徴

• Intel純正カードは160GB、パートナー製モデルでは最大480GBのメモリを搭載し、モデル重みやKVキャッシュを保持しやすくしています。
• メモリ帯域は1.5TB/s、FP8のピーク演算性能は1.3PFLOPSで、エージェント処理や長いコンテキストの推論に対応します。
• 最先端のHBMアクセラレーターより帯域幅は低い一方、1枚あたりの大容量メモリによるトークン単価が注目されます。

こんな人におすすめ

• 長いコンテキストを扱うLLMアプリケーションや、複数のAIエージェントを1台のGPUで同時稼働させたいチームに適しています。
• モデル本体とKVキャッシュをGPUメモリ上に保持し、メモリ容量を重視した推論基盤を構築したい人に向いています。
• 最高帯域の性能よりも、350Wの空冷設計と大容量メモリによる実運用時の電力・コスト効率を重視する場合に有力です。