@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:
המודל מקבל קלט.
הופך אותו לטוקנים.
מעביר ליצוגיים מספריים [ווקטורים].
הייצוג הוקטורי מקבל אינפורמציה נוספת על ההקשר שלו לדברים אחרים.
מתחיל תהליך שנקרא טרנספורמר, שבו המודל כל טוקן חוזה את הטוקן הבא.
[דרך אגב עיקר החידוש בשנה האחרונה היה שהמודלים יכולים להשתמש בטכנולוגיה שנקראת attention mechanism, שמאפשרת למודל לא לבצע טרנספורמר רגיל אלא חיזוי על סמך הבנה של כלל המשפט].
יצירת פלט.
אני די בטוח שמי שלא מונח ממש בתחום לא יבין חצי ממה שאמרתי.
אבל בגלל שביקשת.
ובכל מקרה לגופו של עניין.
אנחנו לא יודעים איך שניהם עובדים.
אבל אנחנו יודעים בוודאות שלמח יש איזשהו הבנה עליונה.
[לא רוצה להיכנס לתחום בגלל הסיבות שלעיל אבל זה מחלוקת ראשונים גדולה, האם זה הנשמה או שזה עוד חלק במח].
אתה מתאר תהליך, שאת רובו גם אתה לא מבין גם אם אתה יודע לצטט את המושגים. וכמו שכתבת בעצמך 'אנחנו לא יודעים איך שניהם עובדים' התחלת בלומר שזה חיזוי מתמטי ואז עכשיו הוספת מושגים כמו הבנה והקשר וכו'...
ברור שלמח ישנה הבנה עליונה, השאלות הן- כמה ולמה בדיוק הפער משמעותי, האם תוספת כח העיבוד והידע שקיים בAI לא מפצה אותו במקומות אחרים.
אתה להבנתי באת ואמרת שבגלל שלמח יש הבנה מסויימת שלAI אין אז זה אומר פחות או יותר שהעתיד של הAI נורא מוגבל ותמיד יצטרכו בני אדם, אני הקטן ורבים וטובים ממני אומרים ששתי הנקודות שטענתי יחד עם פיתוח עתידי ייגברו על ההבנה העמוקה של המוח האנושי לכל הפחות לשימושים הנצרכים. (אין צורך שהAI יהיה אנושי, הוא פשוט צריך לעשות את העבודה...)

