מודל ה-AI הטוב ביותר לכל משימה, עם אוטומטי

אוטומטי הוא נתב מודלים שקורא כל משימה ושולח אותה למודל שמאזן בצורה הטובה ביותר בין איכות, מהירות ועלות. עבור כל משימה, אוטומטי בוחר מודל מתוך מספר ספקי AI, בהתבסס על ההערכות של Notion ועל המודלים שסביבת העבודה שלכם מאפשרת. הוא משתמש במודלים מהירים יותר לשאלות ועריכות מהירות, ובמודלים בעלי יכולת גבוהה יותר לעבודה מורכבת.

אוטומטי מופעל כברירת מחדל בבורר המודלים, בצ'אט של סוכן Notion ובהגדרות של סוכן בהתאמה אישית. כשאתם משתמשים באוטומטי, Notion בוחרת את המודל הטוב ביותר לכל משימה. כך זה עובד:

• אוטומטי מתאים את המודל למשימה. שאלות מהירות, עריכות וסיכומים עוברים למודלים מהירים ויעילים. משימות מורכבות יותר, כגון מחקר מעמיק, כתיבת קוד או בניית סוכנים בהתאמה אישית, יכולות לעבור למודלים בעלי יכולת גבוהה יותר.

• אוטומטי יכול להסתגל תוך כדי משימה. במהלך משימה מרובת שלבים, אוטומטי יכול לעבור למודל בעל יכולת גבוהה יותר עבור שלבים תובעניים, ואז לחזור למודל הקודם לעבודה פשוטה יותר.

• אוטומטי מתעדכן במודלים חדשים. Notion בוחנת מודלים חדשים מבחינת איכות, מהירות, עלות ואמינות לפני שהיא הופכת אותם לזמינים. המודלים הזמינים דרך אוטומטי עשויים להשתנות. כך Notion בוחנת מודלים במשימות נפוצות של עבודת ידע →

• אוטומטי פועל לפי הגדרות סביבת העבודה שלכם. הוא משתמש רק במודלים שסביבת העבודה שלכם מאפשרת ושעומדים בדרישות שלה, כולל בקרות מודלים והגבלות על ספקים. אם בעלים מגביל את המודלים שאוטומטי יכול להשתמש בהם, אוטומטי עובר למודל הבא בעל העלות הנמוכה ביותר שסביבת העבודה מאפשרת.

• כדי לפעול היטב, אוטומטי זקוק למספר מספיק של מודלים מופעלים. אם בעלים מכבה יותר מדי מודלים בסביבת העבודה, אוטומטי יהיה פחות יעיל. בעת שמירת שינוי שמפחית את האיכות הכוללת של אוטומטי, בעלי סביבת העבודה יראו אזהרה.

אפשר לבחור את המודל בעצמכם בכל שלב. כדאי לבחור מודל בעצמכם כש:

• אתם רוצים להשתמש באותו מודל לאורך כל הצ'אט, במקום לתת לאוטומטי לבחור או להחליף מודלים כשהעבודה משתנה.

• אתם מעדיפים מודל מסוים לסוג עבודה מסוים.

• אוטומטי לא נתן לכם את התוצאה שרציתם, ואתם רוצים לנסות מודל אחר.

כדי לבחור מודל

בצ'אט של סוכן Notion:

1. בוחרים ב-אוטומטי כדי לפתוח את בורר המודלים.

2. מרחפים מעל מודל כדי להשוות בין המהירות, היכולות והעלות שלו.

3. בוחרים מודל.

לאחר הבחירה, סוכן Notion ישתמש במודל הזה בצ'אט שלכם. כדי לחזור לאוטומטי, פותחים את בורר המודלים ובוחרים ב-אוטומטי.

בהגדרות של סוכן בהתאמה אישית:

1. פותחים את ההגדרות של הסוכן שלכם.

2. עוברים למקטע המודלים ופותחים את בורר המודלים.

3. בוחרים מודל.

4. בוחרים ב-שמירה.

לאחר הבחירה, הסוכן בהתאמה אישית ישתמש במודל הזה עד שתחליפו אותו.

בעלי סביבות עבודה קובעים אילו מודלים חברי סביבת העבודה יכולים לבחור. מודלים של ספקים שסביבת העבודה שלכם השביתה אינם מופיעים. מודלים שסביבת העבודה שלכם הגבילה מופיעים תחת מודלים מוגבלים ואי אפשר לבחור בהם. מידע נוסף על ניהול מודלי AI והוצאות הקרדיטים של חברי סביבת העבודה →

בתוכנית לעסקים ובתוכנית Enterprise, סוכן Notion משתמש בקרדיטים רגילים כשאתם משתמשים באוטומטי, ובקרדיטים נבחרים כשאתם בוחרים מודל בעצמכם. אם נגמרים לכם קרדיטים מאחד הסוגים, בעלי סביבת העבודה יכולים לאפשר לכם להמשיך להשתמש בתכונות AI באמצעות קרדיטים של Notion. מידע נוסף על ניהול הקרדיטים של AI שלכם →

ברוב המשימות היומיומיות ב-Notion, אוטומטי יכול לעזור לקרדיטים שלכם להספיק לעד פי 10 יותר משימוש במודל מוביל שבחרתם בעצמכם. אוטומטי מתאים את המודל למשימה וצורך פחות קרדיטים בכל משימה, כך שתוכלו להספיק יותר עם הקרדיטים שלכם. בבדיקות שלנו:

• העלות הממוצעת להרצה של אוטומטי הייתה נמוכה ב-87% מזו של Opus 5.5.

• ליטוש מסמך או אימייל צרך בערך פי 8 פחות קרדיטים מבניית מסמך אסטרטגיה מפורט או תוכנית רבעונית.

טבלה זו משווה את השימוש המשוער בקרדיטים עבור משימות נפוצות עם אוטומטי ו-Opus 5.5. השימוש בפועל עשוי להשתנות.

צריכת הקרדיטים משתנה בהתאם לתרחיש. לדוגמה, בקשה מסוכן Notion ללטש אימייל בשרשור ארוך עם מידע מורכב עשויה לצרוך יותר קרדיטים. גם עבור משימות שבדרך כלל צורכות יותר קרדיטים, אוטומטי הפיק תוצאות דומות למודלים מתקדמים.

הערכנו את אוטומטי על ידי הרצה חוזרת של אלפי משימות נפוצות מהעולם האמיתי בסביבת Notion מדומה, ולאחר מכן השווינו את הביצועים של מודלים שונים. כך זה עבד:

1. השווינו בין שני מודלים בכל פעם. הצגנו לקבוצת מודלים מובילים את העבודה של שני מודלים שונים, זה לצד זה.

2. קבוצת השופטים בחרה בתוצאה הטובה יותר בכל פעם, תוך שימוש במדריך ניקוד מוגדר.

3. נתנו לכל מודל ציון Elo על סמך כל ההתמודדויות הישירות האלה.

ציון Elo מדרג מיומנות לפי ביצועי שחקן מול אחרים בהתמודדויות רבות של אחד על אחד, בדומה לדירוג שחקני שחמט. זו דרך פשוטה ואמינה לדרג מודלים לפי הביצועים שלהם במשימות אמיתיות.

הרצת כל התמודדות באופן ידני היא יקרה, לכן אימנו שופט AI שיתאים ככל האפשר לדירוגים הללו, מה שמאפשר לנו להריץ השוואות רבות בבת אחת. הניקוד שלנו מגיע משיטה זו.