SFR-v2-small 組み込みモデルリファレンス
SFR-v2-small 組み込みモデルでは、8,000 トークンの拡張コンテキストウィンドウが提供され、ユーザーエクスペリエンスとモデル機能が大幅に向上します。
必要なエディション
| 使用可能なエディション: Data Cloud でサポートされているすべてのエディション。Data Cloud エディションの使用可能状況を参照してください。 |
SFR-v2-small 埋め込みモデルに関する技術情報を次に示します。
メモ 中国のエンティティによって開発された LLM に影響する規制の変更により Salesforce がこのモデルを削除した場合は、90 日未満の通知または適用される法律で許容される最大期間のいずれか短い方の期間で、代替モデルで検索インデックスを再構築できます。
| MoDel 情報 | 詳細 |
|---|---|
| モデル種別 | テキストを入力として受け入れ、1024 次元の連続埋め込みベクトルを生成するテキスト埋め込みモデル。クエリとドキュメントのペアで対照的な損失でトレーニングされます。 |
| モデルアーキテクチャ | 434M パラメーター言語モデル |
| コンテキストウィンドウ | 8192 |
| モデルの系統 | 以前の本番モデルなし |
| 言語 | 英語 |
| モデルから微調整 | gte-large-en-v1.5 |
| モデルから定量化 | なし |
| 免責事項と著作権表示 | Apache ライセンス 2.0 |
技術仕様
- レイヤー数: 24
- 埋め込みディメンション: 1024
- パラメーター数: 434,000,000
- モデルコンテキストサイズ: 8,000
- サポート言語: 英語
パフォーマンスと評価
次の図は、公開ベンチマークスコアと他の組み込みモデルとの比較を示しています。
- e5-large-v2 と比較して取得パフォーマンスが +7.5% (相対 15%) 向上
- トークンのコンテキスト長が512トークンから8,000トークンに延長され、より柔軟なKnowledge処理が可能
| MoDel 情報 | MTEB (56 ToDo) | 取得 (15 ToDo) | モデルサイズ | ディメンションの埋め込み | コンテキスト長 |
|---|---|---|---|---|---|
| e5-large-v2 | 62.2 | 50.6 | 335 百万 | 1024 | 512 トークン |
| SFR-v2-small | 65.9 | 58.1 | 434 百万 | 1024 | 8192トークン |
この記事で問題は解決されましたか?
ご意見をお待ちしております。
