Cloud Run ジョブで GPU を使用してバッチ推論を実行する

Cloud Run ジョブで Meta の Llama 3.2-1b LLM と vLLM を使用してバッチ推論を実行し、その結果を Cloud Run ボリューム マウントを使用して Cloud Storage に直接書き込むことができます。

Cloud Run ジョブでバッチ推論を実行する方法で、手順ガイドの Codelab をご覧ください。