インターフェース: TextGenerationStreamDetails

プロパティ

シーケンスの最良

• Optional best_of_sequences: TextGenerationStreamBestOfSequence[]

best_ofパラメータを使用する場合の追加シーケンス

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:68

---

finish _ reason

• finish_reason: TextGenerationStreamFinishReason

生成終了理由

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:58

---

生成されたトークン

• generated_tokens: number

生成されたトークンの数

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:60

---

prefill

• prefill: TextGenerationStreamPrefillToken[]

プロンプトトークン

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:64

---

seed

• Optional seed: number

サンプリングが有効化されている場合、サンプリングのシード

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:62

---

トークン

• トークン: TextGenerationStreamToken[]

定義場所

inference/src/tasks/nlp/textGenerationStream.ts:66

Update on GitHub