NVIDIA L4 24GB 多用途 AI 推論カードのレビュー

Aug 03, 2023

今日は、NVIDIA L4 についての楽しいレビューをお届けします。 決して NVIDIA の最速 GPU ではありませんが、L4 は人気のあるカードになるでしょう。 これは、2019 年にレビューした NVIDIA Tesla T4 (当時はまだ「Tesla」ブランドでした) の実質的なアップデートであるため、これはわかっています。NVIDIA T4 は非常に人気があり、L4 も同様に人気が高いと予想されます。実績のあるフォーマット。

レビューに入る前に、実際にレビュー用のカードを入手してくれた PNY に簡単に感謝したいと思います。 NVIDIA GPU は非常に人気があり、PNY は NVIDIA のプロフェッショナル カードの主要パートナーです。 それでは、ハードウェアに移りましょう。

NVIDIA L4 は、ロープロファイル、ハーフハイトの GPU です。 これは、カードをあらゆる種類のサーバーにインストールできるため、おそらくカードの最も重要な仕様です。

バックプレートも小さいながらも重要な機能です。 これらは、保守のために取り外されるライザーに取り付けられることがよくあります。 バックプレートがあると、サービス中にカードを安全に保つことができます。

NVIDIA の Ampere 以降のデザイン要素により、ゴールド カードは簡単に認識できます。 低電力カードのパッシブ冷却は、シャーシのエアフローのみを使用できるため、幅広いシステムで確実に使用できるようにするのにも役立ちます。

これは主に AI 推論用に設計された GPU であるため (ただし、サービスを提供する他のデータセンター GPU のユースケースもいくつかあります)、ディスプレイ出力はありません。 これらのカードはサイズが小さいためサーバーに高密度に実装されるため、何年も前に 8x GPU システムを実行していたときに判明したように、一部の OS ではより多くのディスプレイ出力が問題になる可能性があります。

新しいデザインでは、カードの前面に保持ブラケットの取り付け穴があります。 存在しない項目の 1 つは GPU 電源コネクタです。 PCIe スロットのみで動作することも、このクラスの GPU をさまざまなタイプのサーバーに簡単に統合できるもう 1 つの特徴です。

次に、NVIDIA (Tesla) T4 の人気を考慮して、サーバーへの統合の容易さが主要な機能であることを考慮して、違いを確認できるように簡単に並べてみたいと思いました。

こちらがその2枚のカードです。 ロープロファイルブラケットを備えた T4 はありませんでした。 私たちが見つけた 4 つはすべて完全な高さでした。 薄型ブラケットはすべてデータセンターに設置されました。

こちらが裏側です。 NVIDIA L4 には、古い「NVIDIA Tesla T4」に比べて NVIDIA ブランドがはるかに少ないことがわかります。

どちらも同じようなサイズですが、L4 のリブによりカードの前面がわずかに広くなっているように見えます。

これが役立つ場合は、エアフロービューを見てください。 新しいカードには改善された熱ソリューションが搭載されていることがわかります。

次に、主要な仕様、そしてパフォーマンスとパワーについて説明します。