בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

NH.LOCAL

@המלאך כתב:

@123-דג-מלוח

ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?

AI מבין רגשות טוב יותר מכל אדם ממוצע. כולל ניואנסים או מה שלא תקרא לזה.

זה כבר הוכח בעשרות מחקרים, וזה אפילו לא משהו חדש, כמדומה שאפילו GPT-4o כבר היה ברמה גבוהה מאוד בנושא.

@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו.

מה זה בדיוק "חוש"?

אפשר לקרוא ל-AI מכונה, מחשבון משוכלל, תוכי הסתברותי או מה שלא תרצה, אבל זה לא משנה את העובדה שהוא מדמה התנהגות אנושית בצורה על אנושית.

מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.

י. פל.

@NH.LOCAL כתב:

שאפילו

במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.

NH.LOCAL

@י.-פל. כתב:

במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.

דווקא בהקשר דומה, בדיוק פרסמו בנצ'אמרק חוש שישי שמנתח יכולות של מודלים בדברים מהסוג הזה.
דוקא GPT Astra 6 קיבל את הציון הכי גבוה. 🧐
(לא שהבנתי מה זה בדיוק אומר, אבל לא נורא...)

https://labs.scale.com/leaderboard/hss

ישראל123

@NH.LOCAL האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות למשל כשתזכיר @המלאך (סליחה על התיוג אבל אולי זה יעניין אותך) יש אצלך כבר ציור אחד (לא אלפי וקטורים/טוקנים/פרמטרים) שבו דחוס כל המידע הרב מימדי עליו כולל כנראה מיליוני פרטים וחיבורים
בדרך כלל האדם לא מודע כמעט לפרטים שהוא קולט (יש אנשים שהעיבוד שלהם הרבה יותר רגיש ועמוק ויש כאלו שפחות ומלבד זאת יש רמת מודעות ואכמ"ל)
אותו דבר בכל סוג קלט
הם מנסים לחקות ולדמות את היכולת הזו על ידי זמן עיבוד נוסף, פרמטרים נוספים ועוד (אדם לא צריך את זה!! הוא רואה סצנה כבר יש את זה אצלו והוא רק צריך להתבונן בזה אחר כך, וכאן הוא מוגבל ביכולת הריכוז)

אצל אדם כל הנתונים בסוף מתגבשים לנקודה אחת שאפשר להתבונן בה ולהבחין בפרטים אבל זו נקודה אחת

ולזה AI אף פעם לא יגיע כי זה שייך לחלק אלו-ה ממעל של האדם ולאחדות אמיתית

הוא אולי יוכל לחקות את זה אבל לא יהיה לו את זה

החוש השישי שייך לשם לחלק שמחבר את הכל לתמונה אחת שלימה והם מנסים לדמות את זה

אבל שים לב שהאחוזים שם זה לפי המדדים שהם החליטו בשעה שבן אדם עובר את זה בפי מליון (גם אם באופן לא מודע)

בכל אופן זה מדד חמוד

לסיכום: החוש השישי הוא היכולת לראות מתוך פרטים מועטים תמונה אחת שלימה הכוללת מעבר למה שנקלט במפורש. ואת זה הם מנסים לחקות ולמדוד

NH.LOCAL

@ישראל123 מצטער, אך אני לא אוהב תאוריות בלתי ניתנות להפרכה, להוכחה, או להבנה של ממש.

אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?

במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?

ישראל123

ודווקא אני אוהב את היסודיות שלך

@NH.LOCAL כתב:

אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?

האם כשאתה רואה בן אדם רנדומלי אתה יכול "להרגיש" קצת או הרבה מידע עליו? אני כן ומכיר הרבה אנשים שתופסים בן אדם בשניות בלי ללמוד חכמת פרצוף/תנועות גוף

ואני חושב שיש לנו קליטה כפולה התפיסה הלוגית (ונגיד שבזה ה-AI דומה לנו) והתפיסה החוויתית-רגשית. יש ביניהן יחסי גומלין הדוקים. רמת התפיסה של שניהם וכל אחד לחוד משתנית בין אנשים

@NH.LOCAL כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?

ברור שכן! אתה לא?

NH.LOCAL

@ישראל123 כתב:

ברור שכן! אתה לא?

מה המבחן? אשמח שתנסח לי דוגמית ממנו.

אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד

ישראל123

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

NH.LOCAL

@ישראל123 כתב:

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

אבל זה דבר כל כך משמעותי ועצום, שעושה את כל הפער בין אדם למכונה??? איך אין לך 10 דוגמאות כאן ועכשיו??

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

ישראל123

@NH.LOCAL כתב:

אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד

שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי

ישראל123

@NH.LOCAL כתב:

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

NH.LOCAL

@ישראל123 כתב:

שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי

יתכן. אבל אם הפלט בסופו של דבר לא שונה, למה זה בעצם אמור להיות לי אכפת?

נורות לד ונרות עובדים בצורה שונה לחלוטין. האם אפשר לומר שנורת לד לא מאירה?
מטוס עף באוויר, וגם ציפור. הם עושים את זה בדרכים שונות לחלוטין. בגלל זה אפשר לומר שמטוס לא "עף"?

הקשר בין יכולות קוגנטיביות ואינטליגנציה לבין תודעה הוא קשר שהיה נכון בעבר, אבל מסתבר שהוא פשוט לא מחויב המציאות.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

נכון מאוד.

הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. במקום להבין שהסיבות שבגללם האדם חשוב לא תלויות בבנצ'מארקים, הם מנסים כל פעם להסביר למה הבנצ'מארק לא מספיק מייצג "מה זו אינטליגנציה".

אם אתה מחפש להסביר למה האדם נבדל מהמכונה או למה הוא נעלה עליה, לא חסר סיבות.
נשמה או משמעות עשויה להיות סיבה טובה, אינטליגנציה או סוג כזה או אחר של הבנה - פחות.

לדעתי, אתה פשוט לא הולך לכיוון הנכון.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

ישראל123

@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה

כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.

וזה רק זווית אחת של העניין

ישראל123

@NH.LOCAL כתב:

הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. זו חוויה קשה מאוד לגלות שאתה בעצם לא כזה מיוחד.

אני דווקא אשמח שהוא יהיה יותר טוב ממני (ויש המון דברים שאכן) רק חשוב להבין את המגבלה כדי שתוכל לנסות להרחיב אותה

NH.LOCAL

@ישראל123 כתב:

@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה

כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.

וזה רק זווית אחת של העניין

אתה מניח הנחה לא ממש מוכחת ועליה מעמיד הררים התלויים בשערה. במיוחד שהדמיון בין המוח האנושי למודל AI הרבה יותר מורכב מזה.

למעשה , חוקרים כמו יאן לקון למשל ואחרים בדפימיינד בהחלט בוחנים סוגים אחרים של ארכיקטורות חלופיות ל-LLMs שיהיו יעילות יותר ביחס למוח האנושי. יש מקום לחקור סוגים אחרים של חיקויי מוח, אבל לא בהכרח בכיוון שלך.

בכל אופן, בינתיים לא נראה שהחוקרים הללו מתקדמים להיכנשהו. ההנחה הדי סבירה היא שמודלי שפה יהיו כל כך מתקדמים כך שהם יגלו בעצמם ארכיקטורות טובות בהרבה הרבה יותר מהר, רק כתוצר לוואי של ההתקדמות שלהם.

ב-OAI ואנתרופיק, ואיתם כיום גם XAI, Meta, והחברות הסיניות, מתקדמות בעיקר במודלי שפה, ובינתיים נראה שהם הבינו טוב יותר את המציאות.

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אני דווקא אשמח שהוא יהיה יותר טוב ממני (ויש המון דברים שאכן) רק חשוב להבין את המגבלה כדי שתוכל לנסות להרחיב אותה

אל דאגה, כל הכלכלה האמריקנית מושקעת בזה, הם בטוח חשבו חושבים ויחשבו על הכל.

ישראל123

@NH.LOCAL כתב:

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

מה? מסקרן אותי מוות!

NH.LOCAL

@ישראל123 כתב:

מה? מסקרן אותי מוות!

זה נקרא "עומק רקורסיבי".

במודל רגיל, המידע עובר דרך שכבות שונות, וכל שכבה מבצעת חישוב משלה.
בשיטה החדשה, מעבירים את המידע כמה פעמים דרך אותן שכבות, עם אותם משקלים, כאשר בכל מעבר התוצאה משתפרת או מתעדכנת.

אני לא חושב שזה מה שאתה מחפש...

ישראל123

@NH.LOCAL צודק. זה לא זה

אלי ויל

@123-דג-מלוח כתב:

לשיטתי בין כה כל הבנת הרגשות היא ע"פ השכל

זה לא נכון, ובעלי בעיות (כמו אוטוסיטים עיוורים מלידה וכדומה) יוכיחו.
אבל אולי אתה מתכוון באמרך שכל למחשבה
השכל הטהור שמגיע מ'חכמה' לא מבין שום רגש (אפ' לא טוב לב שמ 'חסד') למעשה הוא לא מבין רגש יותר ממה שהגוף מבין רגש או שכל, רק בלוגיקה הוא ידע שאם הוא יגיד לחבירו בוקר טוב אז ההוא יגיב כך וכך אבל הוא לא יבין כלום, אבל המחשבה אכן מורכבת מכל תכונות הנפש

@NH.LOCAL כתב:

מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

NH.LOCAL

@אלי-ויל כתב:

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

מוסכם לגמרי. יש חשיבות לאיך הדברים עובדים מבפנים, והייתי קצת יותר מידי נחרץ מקודם.

אבל, בהקשר לשאלה שבכותתרת - "האם AI יאכל אותנו" - זה באמת לא משנה אם יש ל-AI מניע פנימי דמוי אנושי או לא.
בהתאם, גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפתי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.