בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[123 דג מלוח]

@המלאך לא הבנת.
תראה איך הוא קונה אנשים בהבנה לרגשות שלהם.

[המלאך]

@123-דג-מלוח

ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?

[123 דג מלוח]

@המלאך הוא מבין ברמה מסויימת כבר היום, אתה כנראה יותר מדי על קלוד וכמו כל דבר, הוא מתקדם והוא יבין מושלם באיזה יום. לכאורה הנידון רק אם הוא ינסה גם לחקות אותם ואני לא מבין מה יגרום לו לא.
אחרת לא היה פה דיון אם הוא מרגיש, רק כי הוא עושה כאילו בצורה מצויינת.

[המלאך]

@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו.

[123 דג מלוח]

@המלאך אתה מתכוון לחוש קור וחום או לחוש תחושת מועקה?

[המלאך]

@123-דג-מלוח מועקה.

[123 דג מלוח]

@המלאך אתה לא יודע לזהות איזה רגש יופעל אצל חבר\קרוב כשתעשה דבר פלוני?
זה נובע לדעתך מהרגש (אותו כושר הניבוי) או מהשכל?
האם זה לא נכון שאנשים מתחברים יותר לגמני כי הוא יותר אמפתי?

[המלאך]

@123-דג-מלוח דברים פשוטים ייתכן שמהשכל, דברים מורכבים - רגש.

[123 דג מלוח]

@המלאך טוב, הרעיון של הטענה שלי הוא שאם הוא יתפוס את הקונץ, את דרך ההבנה של הרגש, הוא יוכל לאמץ את צורת החשיבה הזו. וממילא הוא יוכל גם להתאמן על נושאים רגשיים.
לשיטתי בין כה כל הבנת הרגשות היא ע"פ השכל מלבד כמים פנים אל הפנים וכדו'

[NH.LOCAL]

@המלאך כתב:

@123-דג-מלוח

ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?

AI מבין רגשות טוב יותר מכל אדם ממוצע. כולל ניואנסים או מה שלא תקרא לזה.

זה כבר הוכח בעשרות מחקרים, וזה אפילו לא משהו חדש, כמדומה שאפילו GPT-4o כבר היה ברמה גבוהה מאוד בנושא.

@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו.

מה זה בדיוק "חוש"?

אפשר לקרוא ל-AI מכונה, מחשבון משוכלל, תוכי הסתברותי או מה שלא תרצה, אבל זה לא משנה את העובדה שהוא מדמה התנהגות אנושית בצורה על אנושית.

מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.

[י. פל.]

@NH.LOCAL כתב:

שאפילו

במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.

[NH.LOCAL]

@י.-פל. כתב:

במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.

דווקא בהקשר דומה, בדיוק פרסמו בנצ'אמרק חוש שישי שמנתח יכולות של מודלים בדברים מהסוג הזה.
דוקא GPT Astra 6 קיבל את הציון הכי גבוה. 🧐
(לא שהבנתי מה זה בדיוק אומר, אבל לא נורא...)

https://labs.scale.com/leaderboard/hss

Spoiler

[ישראל123]

@NH.LOCAL האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות למשל כשתזכיר @המלאך (סליחה על התיוג אבל אולי זה יעניין אותך) יש אצלך כבר ציור אחד (לא אלפי וקטורים/טוקנים/פרמטרים) שבו דחוס כל המידע הרב מימדי עליו כולל כנראה מיליוני פרטים וחיבורים
בדרך כלל האדם לא מודע כמעט לפרטים שהוא קולט (יש אנשים שהעיבוד שלהם הרבה יותר רגיש ועמוק ויש כאלו שפחות ומלבד זאת יש רמת מודעות ואכמ"ל)
אותו דבר בכל סוג קלט
הם מנסים לחקות ולדמות את היכולת הזו על ידי זמן עיבוד נוסף, פרמטרים נוספים ועוד (אדם לא צריך את זה!! הוא רואה סצנה כבר יש את זה אצלו והוא רק צריך להתבונן בזה אחר כך, וכאן הוא מוגבל ביכולת הריכוז)

אצל אדם כל הנתונים בסוף מתגבשים לנקודה אחת שאפשר להתבונן בה ולהבחין בפרטים אבל זו נקודה אחת

ולזה AI אף פעם לא יגיע כי זה שייך לחלק אלו-ה ממעל של האדם ולאחדות אמיתית

הוא אולי יוכל לחקות את זה אבל לא יהיה לו את זה

החוש השישי שייך לשם לחלק שמחבר את הכל לתמונה אחת שלימה והם מנסים לדמות את זה

אבל שים לב שהאחוזים שם זה לפי המדדים שהם החליטו בשעה שבן אדם עובר את זה בפי מליון (גם אם באופן לא מודע)

בכל אופן זה מדד חמוד

לסיכום: החוש השישי הוא היכולת לראות מתוך פרטים מועטים תמונה אחת שלימה הכוללת מעבר למה שנקלט במפורש. ואת זה הם מנסים לחקות ולמדוד

[NH.LOCAL]

@ישראל123 מצטער, אך אני לא אוהב תאוריות בלתי ניתנות להפרכה, להוכחה, או להבנה של ממש.

אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?

במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?

[ישראל123]

ודווקא אני אוהב את היסודיות שלך

@NH.LOCAL כתב:

אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?

האם כשאתה רואה בן אדם רנדומלי אתה יכול "להרגיש" קצת או הרבה מידע עליו? אני כן ומכיר הרבה אנשים שתופסים בן אדם בשניות בלי ללמוד חכמת פרצוף/תנועות גוף

ואני חושב שיש לנו קליטה כפולה התפיסה הלוגית (ונגיד שבזה ה-AI דומה לנו) והתפיסה החוויתית-רגשית. יש ביניהן יחסי גומלין הדוקים. רמת התפיסה של שניהם וכל אחד לחוד משתנית בין אנשים

@NH.LOCAL כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?

ברור שכן! אתה לא?

[NH.LOCAL]

@ישראל123 כתב:

ברור שכן! אתה לא?

מה המבחן? אשמח שתנסח לי דוגמית ממנו.

אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד

[ישראל123]

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

אבל זה דבר כל כך משמעותי ועצום, שעושה את כל הפער בין אדם למכונה??? איך אין לך 10 דוגמאות כאן ועכשיו??

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

[ישראל123]

@NH.LOCAL כתב:

אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד

שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי

[ישראל123]

@NH.LOCAL כתב:

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...