# モデルトークンの制限を管理するためのヒント
<a name="tips-for-managing-model-token-limits"></a>

注記: このソリューションでは、さまざまな LLM によるトークン制限の直接的な管理は行いません。プロンプトをテストして、モデルプロバイダーによって適用される制限の範囲内であることを確認してください。

プロンプトのサイズを管理するには、次の方法を試してください。

1. 使用したいモデルでの制限をよく理解しておきます。これらの値はモデルによって大きく異なる可能性があるため、始める前に利用可能な予算を把握しておくことが重要です。

1. その予算を念頭に置いて最初のプロンプトを作成し、プロンプトの動的な要素のためにどれだけ確保すべきかを検討してください。例えば、ユーザー入力、チャット履歴、ドキュメントの抜粋などがあります。

1. プロンプト設定ページで、**[Size of trailing history]** の制限を設定して、プロンプトに含まれる会話ターンの数を制限します。

1. ナレッジベース設定ウィザードでドキュメントの検索結果制限を設定します。タスクの実行に十分なコンテキストを LLM に提供する一方で、トークンの制限を超えたり、レイテンシーに悪影響を及ぼしたりしないよう、適切なバランスをとる必要があります。

1. いくらかバッファーを設けておきます。一般的なケースに予算を組むのではなく、長い入力クエリ、大きなドキュメントの抜粋、長い会話などのエッジケースを考えて実験してください。