GPT-4 Turbo מרחיב את אורך ההקשר ל-128,000 אסימונים

אורך ההקשר המורחב דומה לספר בן 300 עמודים.

OpenAI הכריזה זה עתה על GPT-4 Turbo, לראשונה אי פעם אירוע OpenAI DevDay. GPT-4 טורבו מרחיב את אורך ההקשר ל-128,000 אסימונים.

החברה אומרת ש-128,000 האסימונים דומים לספר בן 300 עמודים, כך שלמשתמשים יהיה כעת הרבה יותר מקום לקיים אינטראקציה עם ChatGPT בדיון אחד.

אמנם אורך הקשר בלתי מוגבל עדיין בפיתוח, מכיוון שכיסינו סיפור מוקדם יותר השנה שבו מיקרוסופט מנסה להשיג את זה, GPT-4 מאריך את אורך ההקשר שלו לרמה כזו יהיה יותר מ מוֹעִיל.

GPT-4 Turbo מסוגל יותר ויש לו ידע על אירועים עולמיים עד אפריל 2023. יש לו חלון הקשר של 128k כך שהוא יכול להתאים לכמות המקבילה ליותר מ-300 עמודי טקסט בהנחיה אחת. עשינו אופטימיזציה לביצועים שלו כך שנוכל להציע GPT-4 Turbo ב-a זול פי 3 מחיר לאסימוני קלט ומחיר זול פי 2 לאסימוני פלט בהשוואה ל-GPT-4.

OpenAI

GPT-4 Turbo זמין כעת במצב תצוגה מקדימה, אך OpenAI מבטיח לשחרר את הגרסה היציבה שלו בשבועות הבאים.

GPT-4 Turbo: הנה כל מה שאתה צריך לדעת עליו

ל-GPT-4 Turbo תהיה הוראה משופרת הבאה, ולפי OpenAI, גרסת GPT זו תכלול גם שיפורים חדשים לקריאת פונקציות.

אנו מפרסמים מספר שיפורים היום, כולל היכולת להתקשר למספר פונקציות בהודעה אחת: משתמשים יכולים לשלוח הודעה אחת בקשת פעולות מרובות, כגון "פתח את חלון המכונית וכבה את המזגן", מה שהיה דורש בעבר מספר נסיעות הלוך ושוב עם דגם (למד עוד). אנו גם משפרים את דיוק קריאת הפונקציות: סביר יותר ש-GPT-4 Turbo יחזיר את פרמטרי הפונקציה הנכונים.

OpenAI

המודל יהיה גם מסוגל לשחזר פלטים, שלפי דבריו של OpenAI עצמו, הוא בעל ערך רב למפתחים.

תכונת בטא זו שימושית למקרי שימוש כגון הפעלה חוזרת של בקשות לניפוי באגים, כתיבת בדיקות יחידה מקיפות יותר, ובאופן כללי רמה גבוהה יותר של שליטה על התנהגות המודל. אנו ב-OpenAI השתמשנו בתכונה זו באופן פנימי עבור בדיקות היחידה שלנו ומצאנו שהיא חשובה מאין כמותה.

OpenAI

יחד עם GPT-4 Turbo, מגיע גם GPT 3.5 Turbo, והוא ישוחרר עם מספר תכונות חדשות.

ה-3.5 Turbo החדש תומך במעקב אחר הוראות משופר, מצב JSON וקריאת פונקציות מקבילות. לדוגמה, ההערכות הפנימיות שלנו מציגות שיפור של 38% בפורמט בעקבות משימות כמו יצירת JSON, XML ו-YAML. מפתחים יכולים לגשת לדגם החדש הזה על ידי קריאה ל-gpt-3.5-turbo-1106 ב-API. אפליקציות המשתמשות בשם gpt-3.5-turbo ישודרגו אוטומטית לדגם החדש ב-11 בדצמבר. דגמים ישנים יותר ימשיכו להיות נגישים על ידי העברת gpt-3.5-turbo-0613 ב-API עד 13 ביוני 2024.

OpenAI

מה דעתך על ה-GPT-4 Turbo החדש?