PaLM 2 模型

PaLM 2 是一系列的語言模型,經過最佳化調整,適合開發人員用於重要的開發人員用途。模型系列包含 PaLM 模型,當中包含用於產生文字和聊天的變化版本,以及文字嵌入。本指南提供每個變化版本的相關資訊,協助您判斷最適合您的用途。

模型大小

模型尺寸由動物名稱描述。下表列出可用的大小,以及這些大小彼此相對的意義。

模型大小 說明 服務
野牛 功能最強大的 PaLM 2 模型大小。
  • text
  • 即時通訊
壁虎 最小、效率最高的 PaLM 2 模型大小。
  • 嵌入

模型變化版本

不同的 PaLM 模型可用於特定用途,並經過最佳化調整。下表說明各個選項的屬性。

變化版本 屬性 說明
野語文字 模型上次更新時間 2023 年 5 月
型號代碼 text-bison-001
模型功能
  • 輸入:文字
  • 輸出:文字
  • 針對語言工作完成最佳化,例如:
    • 產生程式碼
    • 產生文字
    • 文字編輯
    • 解決問題
    • 產生建議
    • 資訊擷取
    • 資料擷取或產生
    • AI 虛擬服務專員
  • 可處理零個、單一和少量樣本工作。
模型安全性 開發人員可調整 6 個維度的傷害調整安全設定。 詳情請參閱安全性設定主題。
頻率限制 每分鐘 90 個要求
Bison Chat 模型上次更新時間 2023 年 5 月
型號代碼 chat-bison-001
模型功能
  • 輸入:文字
  • 輸出:文字
  • 以對話格式產生文字。
  • 針對對話語言工作完成最佳化,例如聊天機器人或 AI 代理程式的實作。
  • 可處理零個、單一和少量樣本工作。
模型安全性 沒有可調整的安全設定。
頻率限制 每分鐘 90 個要求
Gecko 嵌入 模型上次更新時間 2023 年 5 月
型號代碼 embedding-gecko-001
模型功能
  • 輸入:文字
  • 輸出:文字
  • 為輸入文字產生文字嵌入。
  • 已針對最多 1024 個符記的文字建立嵌入最佳化。
模型安全性 沒有可調整的安全設定。
頻率限制 每分鐘 1,500 個要求

模型中繼資料

使用 ModelService API 取得最新模型的其他中繼資料,例如輸入和輸出權杖限制。下表列出 text-bison-001 模型變化版本的中繼資料。

屬性
顯示名稱 傳簡訊給 Bison
型號代碼 models/text-bison-001
說明 指定用於生成文字的模型
輸入權杖限制 8196
輸出符記限制 1024
支援的產生方法 generateText
隨機性參數 0.7
top_p 0.95
top_k 40

模型屬性

下表說明 PaLM 2 所有模型變化版本通用的屬性。

屬性 說明
訓練資料 PaLM 2 的知識截止時間為 2021 年中。這段時間後的活動知識有限。
支援的語言 英文
可設定的模型參數
  • 可能性總和為 P
  • 前 K 個
  • 隨機性參數
  • 停止序列
  • 輸出長度上限
  • 候選回覆數量

請參閱 LLM 簡介指南中的「模型參數」一節,瞭解每個參數的相關資訊。