שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬

[Nils Sjoberg]

@ישראליק

בגלל שהטקסט נשלח בכל הודעה מחדש הוא מתייחס בכל פעם שאתה שואל על משהו שהדבק וכדומה
כהוראות הסינון של נטפרי

[א.מ.ד.]

@elch כתב:

@עידו300 לפי מה שהבנתי החוקרים עצמם לא יודעים מה גורם לסוכן לבחור נימוק כזה על פני נימוק אחר וכדומה אין הסבר ברור למה ההמודל "בוחר" משהו אחד על פני משהו אחר וזה במחקרים ישנם פילוסופים מרחיקי לכת שטוענים שהסוכן גם כן חווה חוויה וכביכול "מרגיש" ועל פיה הוא בוחר אבל לפי מה שהבנתי זה במחקרים

החוקרים יודעים די טוב, אין פה איזה מנוע נסתר ולא ברור שייתכן שיש לו תודעה...
הכל מאוד מדעי וברור: המודל חוזר על הדפוסים שלמד באימון. במקרה דנן הנתונים הם טקסט אנושי/קוד, אז המודל לומד לחזור על הדפוסים האלו. המודל לומד מנתוני האימון שכאשר ההקשר הוא א', הטוקן הבא סביר להניח שיהיה ב' או ג'. כמובן שלא כל השאלות והתשובות האפשריות בעולם קיימות באימון, אלא יש מונח שנקרא "יכולת ההכללה": המודל לומד להכליל גם לדברים שלא ראה באימון, ממש כמו ילד קטן שאמנם לא קרא את כל הטקסט האפשרי בעולם אבל הוא יכול להמציא טקסט מעצמו כי הוא למד את הכללים והדפוסים של טקסט.

@עידו300 אני לא יודע מה אתה מתכוון שהמודל סטטיסטי, אבל כדי לדעת לפרוץ לאתר מסוים חייב להיות שבנתוני האימון היו נתונים של פריצה לאתרים או משהו דומה שהוא למד להכליל אותו לזה, ויתכן שבמהלך למידת החיזוק המודל למד לנסות דרכים חדשות כדי לפרוץ לאתרים, אבל זה עדיין מבוסס במקור על הנתונים שבאימון המקדים או ב-SFT.

[elch]

@א.מ.ד. יש הבדל בין טקסט לבין התשובה שהוא בוחר המודל יוצר תשובות חדשות שלא היו לו בכלל באימון מלבד הטקסט שאת זה הוא בוחר לפי היסתברות הוא צריך גם לבחור איזה נימוק לתת על פני נימוק אחר או איזה פעולה עדיפה ויש גם פעולות שהוא לא ראה מעולם באימון

מודל ההכללה מסביר איך הוא מייצר טקסט שלא היה קיים לא למה הוא בחר בפעולה אחת על פני פעולה אחרת כך לפי עניות דעתי עכ"פ

[א.מ.ד.]

@elch כתב:

@א.מ.ד. יש הבדל בין טקסט לבין התשובה שהוא בוחר המודל יוצר תשובות חדשות שלא היו לו בכלל באימון מלבד הטקסט שאת זה הוא בוחר לפי היסתברות הוא צריך גם לבחור איזה נימוק לתת על פני נימוק אחר או איזה פעולה עדיפה ויש גם פעולות שהוא לא ראה מעולם באימון

מודל ההכללה מסביר איך הוא מייצר טקסט שלא היה קיים לא למה הוא בחר בפעולה אחת על פני פעולה אחרת כך לפי עניות דעתי עכ"פ

זה גם מאוד פשוט. יש רשימה של טוקנים שעשויים להיות הפלט הנוכחי בכל פעם, ואת מספרם מגדירים בפרמטר TOP_K. מתוכם יש עוד רשימה ארוכה של פרמטרים שמאפשרים לשלוט פחות או יותר בטוקן שייבחר לבסוף. אפשר גם לשלוט לגמרי בתשובה ולגרום לתשובה זהה לחלוטין לתשובה הקודמת באמצעות הגדרת זרע ("SEED").
אבל גם במרחב הבחירה שכן יש למודל, הוא לא באמת בוחר מעצמו ואין פה מנוע קסמים, אלא כל פעם לפי נתוני ההקשר ולמידת החיזוק הוא מנפק את הפלט המתאים ביותר, בהתבסס על מיליוני/מיליארדי/טריליוני הפרמטרים שלו שהם בעצם כללים ודפוסים שהוא למד מהאימון והכליל אותם.
אני משתדל לפשט את זה שיהיה מובן, אבל אם זה מעניין אותך תחקור את הנושא, איך עובד הכפלת מטריצות - שזה בעצם לקחת את הווקטור של טקסט הקלט (ההקשר) ולהעביר אותו שורה ארוכה של מכפלות על כל הפרמטרים הפעילים, כשכל פרמטר רלוונטי (שהושפע באימון מטקסט דומה, או עוצב בלמידת החיזוק בהקשר דומה) משנה מעט את הווקטור עד שמגיעים לפלט שאותו אתה רואה בדמות טוקן יחיד, וחוזר חלילה עבור ההקשר הישן + הטוקן החדש.

[עידו300]

@א.מ.ד. מה זה "למד לנסות דרכים חדשות"? זה כן נשמע שיש שם משהו חושב מאחורי זה. זה רק רצף של נוסחאות מתמטיות?

[רוצה לדעת 3]

@עידו300 מה שהכי חידד לי את זה שאין שם שום דבר מאחורה
זה ההבחנה שתאורתית אתה יכול לרשום את כל המודל על דף ולפתור את כל התרגילים האלו ולהגיע לאותה תוצאה בדיוק