מודלים של PaLM 2

PaLM 2 היא משפחה של מודלי שפה, שעברו אופטימיזציה כדי להקל על השימוש בתרחישי מפתח לדוגמה. משפחת המודלים של PaLM כוללת וריאציות שאומן ליצירת טקסט וצ'אט, וגם להטמעות טקסט. במדריך הזה מפורט מידע על כל גרסה, כדי לעזור לכם להחליט איזו מהן הכי מתאימה לתרחיש לדוגמה שלכם.

מידות הדגם

גודלי המודלים מתוארים לפי שם בעל חיים. בטבלה הבאה אפשר לראות את המידות הזמינות ואת המשמעות שלהן ביחס זה לזה.

גודל הדגם תיאור שירותים
Bison גודל מודל PaLM 2 בעל יכולת מתאימה ביותר.
  • טקסט
  • צ'אט, צ'ט, צאט, צט
שממית גודל מודל PaLM 2 הקטן והיעיל ביותר.
  • הטמעות (embeddings)

וריאציות של דגמים

יש מודלים שונים של PaLM שזמינים ועברו אופטימיזציה לתרחישים ספציפיים. בטבלה הבאה מתוארים המאפיינים של כל אחד מהם.

גרסה מאפיין תיאור
טקסט ביזון המודל עודכן לאחרונה מאי 2023
קוד המודל text-bison-001
יכולות המודל
  • קלט: טקסט
  • פלט: טקסט
  • אופטימיזציה למשימות שפה כמו:
    • יצירת קוד
    • יצירת טקסט
    • עריכת טקסט
    • פתרון בעיות
    • יצירת המלצות
    • חילוץ מידע
    • חילוץ או יצירת נתונים
    • סוכן AI
  • הוא יכול להתמודד עם משימות של אפס, אחת או עם כמה שוטים.
בטיחות הדגם הגדרות בטיחות ניתנות להתאמה עבור 6 ממדים של נזק הזמינים למפתחים. לפרטים נוספים, אפשר לעיין בנושא הגדרות בטיחות.
מגבלת קצב של יצירת בקשות 90 בקשות לדקה
Bison Chat המודל עודכן לאחרונה מאי 2023
קוד המודל chat-bison-001
יכולות המודל
  • קלט: טקסט
  • פלט: טקסט
  • יוצר טקסט בפורמט שיחה.
  • אופטימיזציה למשימות שפה של דו-שיח, כמו הטמעה של צ'אט בוטים או סוכני AI.
  • הוא יכול להתמודד עם משימות של אפס, אחת או עם כמה שוטים.
בטיחות הדגם אין הגדרות בטיחות שניתן לשנות.
מגבלת קצב של יצירת בקשות 90 בקשות לדקה
הטמעת שממית המודל עודכן לאחרונה מאי 2023
קוד המודל embedding-gecko-001
יכולות המודל
  • קלט: טקסט
  • פלט: טקסט
  • יוצרת הטמעות טקסט עבור טקסט הקלט.
  • מותאם ליצירת הטמעות לטקסט של עד 1,024 אסימונים.
בטיחות הדגם אין הגדרות בטיחות שניתן לשנות.
מגבלת קצב של יצירת בקשות 1,500 בקשות לדקה

מטא-נתונים של המודל

באמצעות ה-API של ModelService ניתן לקבל מטא-נתונים נוספים על המודלים העדכניים ביותר, כמו מגבלות על אסימוני קלט ופלט. בטבלה הבאה מוצגים המטא-נתונים של וריאנט המודל text-bison-001.

מאפיין Value
השם המוצג טקסט ביזון
קוד המודל models/text-bison-001
תיאור המודל מטורגט ליצירת טקסט
מגבלת אסימונים להזנת קלט 8196
מגבלת אסימון פלט 1024
שיטות יצירה נתמכות generateText
טמפרטורה 0.7
top_p 0.95
top_k 40

מאפייני המודל

בטבלה שבהמשך מתוארים המאפיינים של PaLM 2 שמשותפים לכל הווריאציות של המודל.

מאפיין תיאור
נתוני אימון המועד האחרון להזמנה ב-PaLM 2 הוא אמצע 2021. הידע על אירועים לאחר מועד זה מוגבל.
שפה נתמכת אנגלית
פרמטרים של מודל שניתן להגדיר
  • P מוביל
  • K המובילות
  • טמפרטורה
  • הפסקת רצף
  • אורך מקסימלי של הפלט
  • מספר המועמדים

למידע על כל אחד מהפרמטרים האלה, עיינו בקטע פרמטרים של מודל במדריך המבוא למודלים מסוג LLM.