בירור | למה אתם משתמשים בskills?

[א.מ.ד.]

סקיל זה מיומנות, בדרך כלל הוא נטען דינמית לפי הצורך.
זה כמו מדריך הפעלה, לפעמים בשילוב קוד ביצוע, אבל זה שונה מהוראה בפרומפט - זו לא זרימת עבודה פשוטה, אלא מדריך שעוזר למודל לבחור בצמתים שונים מה לעשות ובאילו כלים להשתמש.
מאז שהוספתי לסמארטי לווינדוס שאני מפתח (עומד להשתחרר בקרוב ממש) תמיכה בסקילים, צריכת הטוקנים ירדה משמעותית למרות שלכאורה בגיל ארוך בהרבה מהנחיית משתמש.

[המלאך]

@א.מ.ד. כל זה נכון תאורטית,
במבחן המציאות מבדיקה שערכתי, סקיל שכולל הוראה על פה לוקח יותר טוקני שימוש.

[א.מ.ד.]

@המלאך כמובן שסקיל באורך של קונטרס הפעלה ייצרוך יותר טוקנים מהנחיה של שורה אחת, אבל עבור מקרי השימוש שבהם צריך להשתמש בסקילים, ומשתמשים בטעינה דינמית של סקילים וכלים, זה חוסך משמעותית.

[המלאך]

@א.מ.ד. כמובן.
זה אחרי הכל הייעוד.

[אברהם גלסר]

@עידו300

Spoiler

למה why או למה for what?

[עידו300]

בג'ימני (בכללי, ובפרט דרך API) יש אפשרות לשימוש בסקיל?

Spoiler

אגב, משום מה הוא מתעקש שהמודל המעודכן זה 1.5...

[א.מ.ד.]

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

בג'ימני (בכללי, ובפרט דרך API) יש אפשרות לשימוש בסקיל?

בכל מודל. זה כמו פרומפט פשוט מבחינת ה-API, מקסימום כמו הנחיית מערכת, בהתאם למיקום שאתה מכניס את הסקיל.

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

אגב, משום מה הוא מתעקש שהמודל המעודכן זה 1.5...

זה המודל החדש ביותר נכון לסף נתוני האימון.

[עידו300]

@א.מ.ד. אז צריך להכניס את הסקילבפרומפט? זה מגילה שלמה...

זה המודל החדש ביותר נכון לסף נתוני האימון.

זה ראש קטן, שיעשה בדיקה מהירה.

[א.מ.ד.]

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

@א.מ.ד. אז צריך להכניס את הסקילבפרומפט? זה מגילה שלמה...

לכן יש מושג שנקרא טעינה דינמית. יש לסוכן מאגר סקילים בתיקיה, וכשהסוכן רוצה לבצע משימה מסוימת הוא מבצע חיפוש עם RAG ושולף את הסקיל המתאים (אם ישנו) שמדריך אותו איך לבצע את המשימה.
סקיל משפר משמעותית את ביצועי הסוכן, אבל כמובן שאם תכניס אותו בכל משימה פשוטה הא יחנוק את ההקשר וישתה טוקנים לחינם. אין עניין בסקילים במשימות פשוטות, אלא רק בתהליכי עבודה מורכבים.

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

זה ראש קטן, שיעשה בדיקה מהירה.

הוא לא אמור לבדוק עובדות עדכניות על כל משפט שהוא כותב. יש לו מדיניות ברורה מתי לבצע חיפוש ברשת.

[עידו300]

@א.מ.ד. השאלה איך עושים את זה בAPI? איך מגלים לו שיש סקיל ואולי שווה להציץ שם?

[מתכנת חובב]

@א.מ.ד. כתב בבירור | למה אתם משתמשים בskills?:

הוא לא אמור לבדוק עובדות עדכניות על כל משפט שהוא כותב. יש לו מדיניות ברורה מתי לבצע חיפוש ברשת.

רק מחדד
עדיין יש ציפייה שכששואלים שאלה שתלויה בזמן הוא יבצע בדיקה
הוא לא אמור לחפש ברשת כל פעם שמבקשים ממנו מתכון לוופל בלגי אבל כן כששואלים מה המתכון האחרון לוופל בלגי שהועלה באתר מסויים
התשובה היא כמובן שיקולי עלות וממוצע זמן תגובה שלזה כנראה התכוונת

[א.מ.ד.]

@מתכנת-חובב כתב בבירור | למה אתם משתמשים בskills?:

רק מחדד
עדיין יש ציפייה שכששואלים שאלה שתלויה בזמן הוא יבצע בדיקה
הוא לא אמור לחפש ברשת כל פעם שמבקשים ממנו מתכון לוופל בלגי אבל כן כששואלים מה המתכון האחרון לוופל בלגי שהועלה באתר מסויים
התשובה היא כמובן שיקולי עלות וממוצע זמן תגובה שלזה כנראה התכוונת

כמובן, אבל כשהוא מציין דרך אגב שם של מודל, די טבעי שהוא לא יאמת אותו ברשת.

[מתכנת חובב]

Spoiler

@א.מ.ד. כתב בבירור | למה אתם משתמשים בskills?:

אבל כשהוא מציין דרך אגב שם של מודל, די טבעי שהוא לא יאמת אותו ברשת.

וכשמתעניינים על זה ספציפית או מתעקשים איתו כמו שקרה כאן?
אגב אצלי הוא מחונך טוב

[א.מ.ד.]

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

@א.מ.ד. השאלה איך עושים את זה בAPI? איך מגלים לו שיש סקיל ואולי שווה להציץ שם?

זה לא קשור ל-API. תתייחס ל-API כמשאב AI פשוט. אתה צריך לנהל בעצמך בקוד (ב"רתמה") את כל התהליך. זה מה שאני עושה עם סמארטי.
אתה צריך לבנות לוגיקה שמחליטה באמצעות המוח של המודל איך לבצע את המשימה, ואיך לטעון סקילים וכלים.
זה מאוד מורכב לפיתוח, אבל למשימות ספציפיות זה יותר פשוט.

[א.מ.ד.]

@מתכנת-חובב

Spoiler

כשאתה שואל איזה מודל הוא האחרון של ג'מיני, זו חד משמעית שאלה לחיפוש. אבל כשהוא סתם מציין כבדרך אגב שם של מודל, לדוגמא כשאתה מבקש ממנו סקריפט ששולח הודעה לג'מיני ב-API, רוב הסיכויים שהוא יכתוב ג'מיני 1.5.
אגב הדוגמא שלך זה בכלל לא חיפוש ברשת אלא חלק מהנחיית המערכת שלו, מה שלא מונע ממנו להזות בכל מקרה כנ"ל.

[מתכנת חובב]

Spoiler

@א.מ.ד. אני יודע ובדיוק לכן הבאתי את הצילום הזה - אם הוא רואה בהנחיות שלו איזה מודל הוא היה מתבקש שהוא יסיק את זה לכל הקשר כשמתעקשים איתו

[י. פל.]

@א.מ.ד. כתב בבירור | למה אתם משתמשים בskills?:

זה לא קשור ל-API. תתייחס ל-API כמשאב AI פשוט. אתה צריך לנהל בעצמך בקוד (ב"רתמה") את כל התהליך. זה מה שאני עושה עם סמארטי.

אתה לא כותב לו ברור, אז אני אסביר אותך.
הai לכשעצמו הוא רק מודל: את כל העבודה שלפני ואחרי - קוד רגיל מנהל: חלון ההקשר, מה ואיך להכניס, ניהול הכלים וכולי - זה ה״מעטפת״. זה בעצם קופיילוט, קלוד קוד, וכל השאר. זה החלק שאחראי על זה.
קראתי על זה איפשהוא מאמר יפה לאחרונה... אולי בגיקטיים? לא זוכר.

[עידו300]

@י.-פל. @א.מ.ד. אין לי בעיה לכתוב לו בעצמי שישתמש בסקיל, השאלה איפה מכניסים את הסקיל?
מבחינתי כל פעם שאני משתמש בו מהאפליקציה/קוד הספציפי הזה הוא צריך לטעון את הסקיל הזה, השאלה איך אפשר לקשר ביניהם בלי לשלוח את כל תוכן הסקיל כל פעם, זה המון טוקנים לדעתי.

[ע"ה דכו"ע]

@עידו300 כתב בבירור | למה אתם משתמשים בskills?:

מבחינתי כל פעם שאני משתמש בו מהאפליקציה/קוד הספציפי הזה הוא צריך לטעון את הסקיל הזה, השאלה איך אפשר לקשר ביניהם בלי לשלוח את כל תוכן הסקיל כל פעם, זה המון טוקנים לדעתי.

עד כמה שהבנתי מגעת לא לזה סקיל מיועד, אם זה אפליקציה או קוד לצורך ספציפי והסקיל מכיל הוראות או כלים שנצרכים בכל פעם, אין שום צורך בסקיל, צריך להכניס את ההוראות והכלים לתוך הפרומפט.

סקיל מיועד לכלים כלליים כמו נניח קלוד קוד, שפעם רוצים לעצב איתו אתר, ופעם לחשב את ההוצאות והכנסות של העסק, אז במקום להכניס בכל הפעמים בהנחיות מערכת הוראות שיכסו את כל האפשרויות של מה שירצו לעשות איתו, משתמשים בסקילים וכך כל פעם נכנס להוראות רק מה שצריך.

[א.מ.ד.]

@י.-פל. מה הסברת יותר ממני?