Amazon SageMakerにおけるLlama 2のベンチマーク
要約を読む要約を閉じる
Hugging FaceがAmazon SageMaker上でLlama 2モデルのベンチマークを実施しました。
SageMakerの異なるインスタンスタイプでのLlama 2の推論性能とコスト効率を評価しました。
企業や開発者はSageMakerでLlama 2を効率的に運用するための最適な構成を把握できます。
結果は、モデルサイズとインスタンスタイプによって性能とコスト効率が大きく異なることを示しています。