最適化されたモデルを提供する推論マイクロサービス NVIDIA NIM のダウンロードが可能に

2024年6月2日(現地時間) – Nvidia は、世界の2,800万人の開発者がNVIDIA NIMをダウンロードできるようになったことを発表しました。

NVIDIA NIM™は、最適化されたコンテナとしてモデルを提供する推論マイクロサービスです。開発者は、NVIDIA NIMをダウンロードして、クラウド、データセンター、ワークステーション上にデプロイすることができるようになりました。これにより、コパイロット、チャットボットなどの生成AIアプリケーションを数分で簡単に構築できるようになります。

新しい生成AIアプリケーションはますます複雑になってきており、テキスト、画像、動画、音声などを生成するための異なる機能を持つ複数のモデルを利用することがよくあります。NVIDIA NIMは、生成AIをアプリケーションに追加するためのシンプルで標準化された方法を提供することで、開発者の生産性を劇的に向上させます。

また、企業はNIMによってインフラ投資を最大限に活用することが可能となります。例えば、NIMでMeta Llama 3-8Bを実行すると、NIMを使用しない場合と比べて、高速化されたインフラ上で最大3倍の生成AIトークンを生成します。これにより、企業は効率を高め、同じ量の計算インフラを使用して、より多くのレスポンスを生成することができます。

現在、Cadence、 Cloudera、Cohesity、DataStax、NetApp、Scale AI、Synopsysを含む約200社のテクノロジーパートナーが、コパイロット、コードアシスタント、デジタルヒューマンアバターなど、特定の分野に特化したアプリケーション向けの生成AIのデプロイメントを高速化するために、自社のプラットフォームにNIMを統合しています。

NVIDIAの創設者兼CEOであるJensen Huangは次のように述べています。

「あらゆる企業が業務に生成AIを加えようとしていますが、すべての企業がAI研究者の専門チームを持っているわけではありません。NVIDIA NIMは、あらゆるプラットフォームに統合され、あらゆる開発者がアクセスでき、あらゆる場所で稼働し、テクノロジー産業が生成的AIをあらゆる組織で利用できるようにする手助けをします。」

NIMコンテナは、GPU加速推論のためのモデル展開を高速化するためにあらかじめ構築されており、NVIDIA CUDA®ソフトウェア、NVIDIA Triton Inference Server™、NVIDIA TensorRT™-LLM softwareを含むことができます。開発者は企業は、NVIDIA NIMを利用して次のようなことが可能です。

ai.nvidia.comでは、Databricks DBRX、Google のオープンモデル Gemma、Meta Llama 3、Microsoft Phi-3、Mistral Large、Mixtral 8x22B、Snowflake Arctic など、40 を超える NVIDIA およびコミュニティモデルを NIM エンドポイントとして体験できます。
開発者は Hugging Face AIプラットフォームからMeta Llama 3モデル用のNVIDIA NIMマイクロサービスにアクセスできるようになりました。これにより開発者は、好みのクラウド上でNVIDIA GPUを搭載したHugging Face Inference Endpointsを使い、数クリックで簡単にLlama 3 NIMにアクセスし、実行することができます。
企業はNIMを使って、テキスト、画像、ビデオ、音声、デジタルヒューマンを生成するアプリケーションを実行することができます。
デジタル生物学のためのNVIDIA BioNeMo™NIMマイクロサービスを利用すると、研究者は新しいタンパク質構造を構築し、創薬を加速することができます。
数多くのヘルスケア企業がNIMを導入し、手術計画、デジタルアシスタント、創薬、臨床試験の最適化など、さまざまなアプリケーションにわたって生成的AI推論を強化しています。
新しいNVIDIA ACE NIMマイクロサービスを使うと、開発者は、顧客サービス、遠隔医療、教育、ゲーム、娯楽などのアプリケーションにおいて、対話形式で本物そっくりのデジタルヒューマンを簡単に構築し、操作することができます。