מדריך | דיבור נכון לאייג'נט | מה הסיבה שהסוכן לא מקשיב למה שכתבתם מפורשות.
-
כולם מכירים את זה.
האייג'נט לא מקשיב למה שאתם אומרים, אמרתם לו לשמור על קוד מודולרי יעיל ונקי, לא לכתוב באגים כדי לטפל בהם ולשמור על קוד ארגוני,
בסוף אתם מגלים שהוא שיכתב חצי מהמערכת, פירמט את המערכת הפעלה, בנה טלאי אחר טלאי, עשה קוד שילד בן 4 לא היה עושה, וכמובן דאג להשחיל ברדמי שבוצעו 200 בדיקות ויצא נקי.מתברר שיש לזה היגיון.
הכירו את שלושת בעיות הברזל של הllms.
1 - כולנו כותבים לו (בין אם הניסוח הוא לבד ובין אם בעזרת gpt) אל תעשה כך וכך ואל תעשה ואל ולא ולא ולא ולא וכו'.
מסתבר שבקשב של הllm היחס גבוה יותר לפעולות אקטיביות (לעשות כך וכך) מאשר שאין כאלה (לא לעשות..), המנגנון נותן יותר קשב, לכן המודל 'שוכח' את ההוראה שאסרתם לו לעשות ועושה אותה בדיוק.
2 - חלון הקשר, ההתמלאות של חלון ההקשר עושה נזק רב, אוטומטית פעולות שביקשנו לבצע הוא לא מבצע וכו', לרוב דברים כאלה נגרמים משמירה על צ'אט אחד להרבה זמן או ממילוי קונטקס סתם.
לא כל תיקון שורה ברדמי אמור להביא לאייג'נט את כל האלגוריתם על כל 14000 שורות הקוד שלו..
בקיצור לא להעמיס פעולות ולא לתת לו מעבר למה שהוא צריך לשיחה הנוכחית.
3 - קומפקטינג.
כן המנגנון שאמור לתת לכם טוקנים, מנגנון הדחיסה מתברר כבעייתי. העניין הוא שכמבוצעת דחיסה הנתונים שהבאתם בהתחלה (הכללים של מה לעשות ומה לא) מתאדים, האייג'נט לוקח את זה כעוד חתיכת מידע לא רלוונטית, הרי לא תשווה בין הוראה של מה לא לעשות לבין אילוץ כלשהוא שמנע מהאייג'נט לכתוב קוד במודול נפרד..בקיצור
שלושת הבעיות האלה מגיעות מנקודה אחת.
בשביל מורכבות צריך לגרום לאייג'נט להבין את מה שהוא צריך לעשות ושרק את זה הוא צריך לעשות. לא לומר לו מה 'לא לעשות'.
צריך לא להעמיס עליו את כל המערכת בשביל שינוי מודול ספציפי.
וצריך לגרום לו להבין את החשיבות של ההוראות.ניסיתי לעשות את כל זה אצלי בagy, אני יכול להעיד שאחרי שהשקעתי בפרומפט מורכב (פליז לא לבקש ממני אותו כי הוא כולל נקודות שקשורות לפיתוח שלי אישי..) הייעול עלה בהרבה ובכמות טוקנים קטנה יותר..
שימו לב בפוסט זה הסתמכתי בעיקר על הפוסט הזה:
https://discuss.ai.google.dev/t/the-pink-elephant-in-the-token-window-why-transformer-self-attention-hates-your-do-not-rules/187630האתר שלי: https://amlaach.github.io/personal-site/
-
כולם מכירים את זה.
האייג'נט לא מקשיב למה שאתם אומרים, אמרתם לו לשמור על קוד מודולרי יעיל ונקי, לא לכתוב באגים כדי לטפל בהם ולשמור על קוד ארגוני,
בסוף אתם מגלים שהוא שיכתב חצי מהמערכת, פירמט את המערכת הפעלה, בנה טלאי אחר טלאי, עשה קוד שילד בן 4 לא היה עושה, וכמובן דאג להשחיל ברדמי שבוצעו 200 בדיקות ויצא נקי.מתברר שיש לזה היגיון.
הכירו את שלושת בעיות הברזל של הllms.
1 - כולנו כותבים לו (בין אם הניסוח הוא לבד ובין אם בעזרת gpt) אל תעשה כך וכך ואל תעשה ואל ולא ולא ולא ולא וכו'.
מסתבר שבקשב של הllm היחס גבוה יותר לפעולות אקטיביות (לעשות כך וכך) מאשר שאין כאלה (לא לעשות..), המנגנון נותן יותר קשב, לכן המודל 'שוכח' את ההוראה שאסרתם לו לעשות ועושה אותה בדיוק.
2 - חלון הקשר, ההתמלאות של חלון ההקשר עושה נזק רב, אוטומטית פעולות שביקשנו לבצע הוא לא מבצע וכו', לרוב דברים כאלה נגרמים משמירה על צ'אט אחד להרבה זמן או ממילוי קונטקס סתם.
לא כל תיקון שורה ברדמי אמור להביא לאייג'נט את כל האלגוריתם על כל 14000 שורות הקוד שלו..
בקיצור לא להעמיס פעולות ולא לתת לו מעבר למה שהוא צריך לשיחה הנוכחית.
3 - קומפקטינג.
כן המנגנון שאמור לתת לכם טוקנים, מנגנון הדחיסה מתברר כבעייתי. העניין הוא שכמבוצעת דחיסה הנתונים שהבאתם בהתחלה (הכללים של מה לעשות ומה לא) מתאדים, האייג'נט לוקח את זה כעוד חתיכת מידע לא רלוונטית, הרי לא תשווה בין הוראה של מה לא לעשות לבין אילוץ כלשהוא שמנע מהאייג'נט לכתוב קוד במודול נפרד..בקיצור
שלושת הבעיות האלה מגיעות מנקודה אחת.
בשביל מורכבות צריך לגרום לאייג'נט להבין את מה שהוא צריך לעשות ושרק את זה הוא צריך לעשות. לא לומר לו מה 'לא לעשות'.
צריך לא להעמיס עליו את כל המערכת בשביל שינוי מודול ספציפי.
וצריך לגרום לו להבין את החשיבות של ההוראות.ניסיתי לעשות את כל זה אצלי בagy, אני יכול להעיד שאחרי שהשקעתי בפרומפט מורכב (פליז לא לבקש ממני אותו כי הוא כולל נקודות שקשורות לפיתוח שלי אישי..) הייעול עלה בהרבה ובכמות טוקנים קטנה יותר..
שימו לב בפוסט זה הסתמכתי בעיקר על הפוסט הזה:
https://discuss.ai.google.dev/t/the-pink-elephant-in-the-token-window-why-transformer-self-attention-hates-your-do-not-rules/187630בagy
אם יעול זה מה שאתה רוצה אתה יכול להשתמש בagy דרך 9routter בide אחר כגון opencode,
ועל הדרך גם לככוץ את הטוקנים לפני שהם מגיעים לשרתים של גוגל ולצמצם דברים כגון diffים בגיט וכדו'.כמובן שיש סיכון לחסימת החשבון עקב הפרה של tos של גוגל,
א"כ אנשים משתמשים בזה כיום ללא חסימות ממשיות. -
@cfopuser יש בcli תמיכה רשמית בחיבור לאייג'נט.
https://discuss.ai.google.dev/t/is-invoking-the-official-antigravity-cli-from-codex-allowed/186952מצד שני פה אני רואה לא ככה.
https://discuss.ai.google.dev/t/is-using-the-official-agy-cli-through-a-local-mcp-server-with-third-party-ai-agents-permitted/184829
אז אני לא יודע.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}