Mô hình PaLM 2

PaLM 2 là một bộ mô hình ngôn ngữ, được tối ưu hoá để dễ sử dụng trong các trường hợp sử dụng chính của nhà phát triển. Bộ mô hình PaLM bao gồm các biến thể được huấn luyện để tạo văn bản và cuộc trò chuyện, cũng như tính năng nhúng văn bản. Hướng dẫn này cung cấp thông tin về từng biến thể để giúp bạn quyết định biến thể nào phù hợp nhất với trường hợp sử dụng của mình.

Kích thước mô hình

Kích thước của mô hình được mô tả bằng tên động vật. Bảng sau đây trình bày các kích thước có sẵn và ý nghĩa của các kích thước đó khi so sánh với nhau.

Kích thước mô hình Nội dung mô tả Dịch vụ
Thịt bò rừng bison Kích thước mô hình PaLM 2 có khả năng đáp ứng cao nhất.
  • text
  • trò chuyện
Tắc kè Kích thước mô hình PaLM 2 nhỏ nhất, hiệu quả nhất.
  • nhúng

Biến thể mô hình

Có nhiều mô hình PaLM được cung cấp và tối ưu hoá cho các trường hợp sử dụng cụ thể. Bảng sau đây mô tả các thuộc tính của từng mục.

Nội dung đa dạng Thuộc tính Nội dung mô tả
Văn bản bò rừng Mô hình được cập nhật lần gần đây nhất Tháng 5 năm 2023
Mã kiểu máy text-bison-001
Chức năng của mô hình
  • Dữ liệu đầu vào: văn bản
  • Kết quả: văn bản
  • Được tối ưu hoá cho các nhiệm vụ ngôn ngữ như:
    • Tạo mã
    • Tạo văn bản
    • Chỉnh sửa văn bản
    • Giải quyết vấn đề
    • Tạo đề xuất
    • Trích xuất thông tin
    • Trích xuất hoặc tạo dữ liệu
    • Tác nhân AI
  • Có thể xử lý các tác vụ số không, một tác vụ và một vài ảnh.
Độ an toàn của mô hình Nhà phát triển có thể điều chỉnh các chế độ cài đặt an toàn cho 6 phương diện gây hại. Xem chủ đề cài đặt an toàn để biết thông tin chi tiết.
Giới hạn tốc độ 90 yêu cầu mỗi phút
Trò chuyện với bò rừng Mô hình được cập nhật lần gần đây nhất Tháng 5 năm 2023
Mã kiểu máy chat-bison-001
Chức năng của mô hình
  • Dữ liệu đầu vào: văn bản
  • Kết quả: văn bản
  • Tạo văn bản ở định dạng trò chuyện.
  • Được tối ưu hoá cho các nhiệm vụ về ngôn ngữ hộp thoại, chẳng hạn như triển khai bot trò chuyện hoặc nhân viên hỗ trợ trí tuệ nhân tạo (AI).
  • Có thể xử lý các tác vụ số không, một tác vụ và một vài ảnh.
Độ an toàn của mô hình Không có chế độ cài đặt an toàn nào có thể điều chỉnh được.
Giới hạn tốc độ 90 yêu cầu mỗi phút
Nhúng Tắc kè Mô hình được cập nhật lần gần đây nhất Tháng 5 năm 2023
Mã kiểu máy embedding-gecko-001
Chức năng của mô hình
  • Dữ liệu đầu vào: văn bản
  • Kết quả: văn bản
  • Tạo các chế độ nhúng văn bản cho văn bản đầu vào.
  • Được tối ưu hoá để tạo các bản nhúng cho văn bản có tối đa 1024 mã thông báo.
Độ an toàn của mô hình Không có chế độ cài đặt an toàn nào có thể điều chỉnh được.
Giới hạn tốc độ 1500 yêu cầu mỗi phút

Siêu dữ liệu về mô hình

Sử dụng API ModelService để nhận thêm siêu dữ liệu về các mô hình mới nhất, chẳng hạn như giới hạn của mã thông báo đầu vào và đầu ra. Bảng sau đây hiển thị siêu dữ liệu cho biến thể mô hình text-bison-001.

Thuộc tính Giá trị
Tên hiển thị Chữ Bison
Mã kiểu máy models/text-bison-001
Nội dung mô tả Mô hình được nhắm mục tiêu để tạo văn bản
Giới hạn mã thông báo đầu vào 8196
Giới hạn mã thông báo đầu ra 1024
Phương thức tạo được hỗ trợ generateText
Nhiệt độ 0.7
top_p 0,95
top_k 40

Thuộc tính của mô hình

Bảng dưới đây mô tả các thuộc tính của PaLM 2 chung cho mọi biến thể của mô hình.

Thuộc tính Nội dung mô tả
Dữ liệu huấn luyện Hạn chót nhận thức của PaLM 2 là giữa năm 2021. Kiến thức về các sự kiện sau thời gian đó bị hạn chế.
Ngôn ngữ được hỗ trợ Tiếng Anh
Thông số mô hình có thể định cấu hình
  • Điểm trên cùng
  • K trên cùng
  • Nhiệt độ
  • Dừng trình tự
  • Chiều dài đầu ra tối đa
  • Số lượng ứng viên trả lời

Hãy xem phần tham số mô hình trong hướng dẫn Giới thiệu về các LLM để biết thông tin về từng tham số này.