米半導体大手、Intelは4月9日、顧客とパートナーを対象に開いたイベントで、生成AI向けアクセラレータの新製品「Gaudi 3」を発表した。

同社発表によると、同製品は5nmプロセスで製造され、前世代よりもBF16のAI演算処理が4倍、メモリ帯域幅が1.5倍に拡大した。また、70億パラメーター、130億パラメーターを持つ各Llama2モデル、1,750億パラメーターのGPT-3モデルをLLM(大規模言語モデル)として使用した場合、競合するNVIDIA 「H100」と比べて学習処理を平均50%高速化することができるとした。また、70億パラメーターと700億パラメーターのLlamaモデル、1,800億パラメーターのFalconモデルをLLMとする場合、「H100」と比べて推論スループットは平均50%、電力効率は平均40%高くなるとした。

また、オープンなコミュニティベースのソフトウェアと業界標準のイーサネット・ネットワーキングへの対応も同製品の特徴である。また、単一ノードからクラスター、スーパークラスター、そして数千ノード構成のメガクラスターまで柔軟に拡張できるため、企業は最大規模での推論、ファイン・チューニング、学習処理が可能である。

同社バイスプレジデントのJustin Hotard氏は、「進化し続ける AI 市場の状況において、現在の製品には大きなギャップが残っている」とし、「Intel Gaudi 3 は、価格性能、システム拡張性、時間対価値の優位性の魅力的な組み合わせを提示する生成AI向けの代替製品として際立っている」と述べ、同製品がこれまでのAI市場の課題を解決できると強調した。

同製品はDell Technologiesの「PowerEdge XE9680」サーバに搭載されることが4月9日に既に発表されているほか、2024年第2四半期にHPE、Lenovo、Supermicroをはじめとするシステム・メーカー各社へも量産品の提供開始が予定されている。また、Bharti Airtel、Bosch、CtrlS、IBM、IFF、Landing AI、Ola、NAVER、NielsenIQ、Roboflow、Seekrと数多くの顧客企業やパートナー企業が同製品の採用を発表している。

出典：Intel newsroom