בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[ישראל123]

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL למה אתה התכוונת? לא לדוגמא ספציפית? כרגע לא עולה לי בראש תיאור לדוגמא כזו

אבל זה דבר כל כך משמעותי ועצום, שעושה את כל הפער בין אדם למכונה??? איך אין לך 10 דוגמאות כאן ועכשיו??

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

[ישראל123]

@NH.LOCAL כתב:

אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד

שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי

[ישראל123]

@NH.LOCAL כתב:

אגיד לך משהו: אנשים מחפשים את הפער הזה כבר שנים. וככל שעובר הזמן זה הופך להיות קשה יותר ויותר 🧐

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

[NH.LOCAL]

@ישראל123 כתב:

שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי

יתכן. אבל אם הפלט בסופו של דבר לא שונה, למה זה בעצם אמור להיות לי אכפת?

נורות לד ונרות עובדים בצורה שונה לחלוטין. האם אפשר לומר שנורת לד לא מאירה?
מטוס עף באוויר, וגם ציפור. הם עושים את זה בדרכים שונות לחלוטין. בגלל זה אפשר לומר שמטוס לא "עף"?

הקשר בין יכולות קוגנטיביות ואינטליגנציה לבין תודעה הוא קשר שהיה נכון בעבר, אבל מסתבר שהוא פשוט לא מחויב המציאות.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

נכון מאוד.

הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. במקום להבין שהסיבות שבגללם האדם חשוב לא תלויות בבנצ'מארקים, הם מנסים כל פעם להסביר למה הבנצ'מארק לא מספיק מייצג "מה זו אינטליגנציה".

אם אתה מחפש להסביר למה האדם נבדל מהמכונה או למה הוא נעלה עליה, לא חסר סיבות.
נשמה או משמעות עשויה להיות סיבה טובה, אינטליגנציה או סוג כזה או אחר של הבנה - פחות.

לדעתי, אתה פשוט לא הולך לכיוון הנכון.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים

כמו למדוד חוויות בכלים כמו בנצ'מרקים...

[ישראל123]

@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה

כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.

וזה רק זווית אחת של העניין

[ישראל123]

@NH.LOCAL כתב:

הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. זו חוויה קשה מאוד לגלות שאתה בעצם לא כזה מיוחד.

אני דווקא אשמח שהוא יהיה יותר טוב ממני (ויש המון דברים שאכן) רק חשוב להבין את המגבלה כדי שתוכל לנסות להרחיב אותה

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה

כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.

וזה רק זווית אחת של העניין

אתה מניח הנחה לא ממש מוכחת ועליה מעמיד הררים התלויים בשערה. במיוחד שהדמיון בין המוח האנושי למודל AI הרבה יותר מורכב מזה.

למעשה , חוקרים כמו יאן לקון למשל ואחרים בדפימיינד בהחלט בוחנים סוגים אחרים של ארכיקטורות חלופיות ל-LLMs שיהיו יעילות יותר ביחס למוח האנושי. יש מקום לחקור סוגים אחרים של חיקויי מוח, אבל לא בהכרח בכיוון שלך.

בכל אופן, בינתיים לא נראה שהחוקרים הללו מתקדמים להיכנשהו. ההנחה הדי סבירה היא שמודלי שפה יהיו כל כך מתקדמים כך שהם יגלו בעצמם ארכיקטורות טובות בהרבה הרבה יותר מהר, רק כתוצר לוואי של ההתקדמות שלהם.

ב-OAI ואנתרופיק, ואיתם כיום גם XAI, Meta, והחברות הסיניות, מתקדמות בעיקר במודלי שפה, ובינתיים נראה שהם הבינו טוב יותר את המציאות.

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אני דווקא אשמח שהוא יהיה יותר טוב ממני (ויש המון דברים שאכן) רק חשוב להבין את המגבלה כדי שתוכל לנסות להרחיב אותה

אל דאגה, כל הכלכלה האמריקנית מושקעת בזה, הם בטוח חשבו חושבים ויחשבו על הכל.

[ישראל123]

@NH.LOCAL כתב:

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

מה? מסקרן אותי מוות!

[NH.LOCAL]

@ישראל123 כתב:

מה? מסקרן אותי מוות!

זה נקרא "עומק רקורסיבי".

במודל רגיל, המידע עובר דרך שכבות שונות, וכל שכבה מבצעת חישוב משלה.
בשיטה החדשה, מעבירים את המידע כמה פעמים דרך אותן שכבות, עם אותם משקלים, כאשר בכל מעבר התוצאה משתפרת או מתעדכנת.

אני לא חושב שזה מה שאתה מחפש...

[ישראל123]

@NH.LOCAL צודק. זה לא זה

[אלי ויל]

@123-דג-מלוח כתב:

לשיטתי בין כה כל הבנת הרגשות היא ע"פ השכל

זה לא נכון, ובעלי בעיות (כמו אוטוסיטים עיוורים מלידה וכדומה) יוכיחו.
אבל אולי אתה מתכוון באמרך שכל למחשבה
השכל הטהור שמגיע מ'חכמה' לא מבין שום רגש (אפ' לא טוב לב שמ 'חסד') למעשה הוא לא מבין רגש יותר ממה שהגוף מבין רגש או שכל, רק בלוגיקה הוא ידע שאם הוא יגיד לחבירו בוקר טוב אז ההוא יגיב כך וכך אבל הוא לא יבין כלום, אבל המחשבה אכן מורכבת מכל תכונות הנפש

@NH.LOCAL כתב:

מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

[NH.LOCAL]

@אלי-ויל כתב:

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

מוסכם לגמרי. יש חשיבות לאיך הדברים עובדים מבפנים, והייתי קצת יותר מידי נחרץ מקודם.

אבל, בהקשר לשאלה שבכותתרת - "האם AI יאכל אותנו" - זה באמת לא משנה אם יש ל-AI מניע פנימי דמוי אנושי או לא.
בהתאם, גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפתי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

[המלך גורג]

שאלה קטנה: האם לדעתכם אדם שנולד ללא חמשת החושים (עיוור, אילם, חרש, חסר חוש טעם, נטול עצבים) ובנוסף לכל - גם משותק, האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים? אני חושב שאם נענה על האפשרות הראשונה בחיוב (ולדעתי זה גם מה שהיהדות אומרת...) אז ממילא נבין ש"וייפח באפו נשמת חיים, ומאי דנפח - מדיליה נפח" זה לא רק סתם אלגוריתמים ונתונים, מה כן? - הבעיה שלנו שאנחנו מצומצים לחמשת החושים ולכן אנחנו לא מסוגלים לקלוט דברים מטא-פיזיים. ובמקום הזה - בהחלט הבינה לוקחת אותנו כמה צעדים קדימה... אבל הנס שלנו הוא שכמו שאמר מי שאמר בשיר כלשהו - "יש כאן יותר מזה, יש בי יותר מהקול הזה, המזוייף, הנסדק. מתחת לכל המחשוב הזה - הדי אן איי, המדע המדוייק - יש כאן יותר מזה."

[לעכשיו]

@המלך-גורג
ומה זה משנה? לאדם הזה יש נשמה למודל הAI המתקדם ביותר אין.
אז מה?
זה לא גורע כלום מהיכולת של הAI לחקות את הפעולה האנושית

[123 דג מלוח]

@המלך-גורג

@המלך-גורג כתב:

האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים

לא משנה אם הוא יודע לגבי זה.
ברור שצמח נקרא אדם גם אם הוא לא יודע, בגלל מעלת האדם, (מי שזוכר, אלטע פיקסלר)
וכמו"כ גם אם נגיד שלAI יש תודעה, אין לו נשמה והוא לא בן אדם.
אני חושב שזה מוסכם.

Spoiler

@NH.LOCAL כתב:

גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפטי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

@nh.local לא אמרתי שלא, להיפך. כמדומה ש@המלאך אמר ככה.

123-דג-מלוח כתב:

הוא יוכל לאמץ את צורת החשיבה הזו. וממילא הוא יוכל גם להתאמן על נושאים רגשיים.

אני גם טענתי שהוא כבר היום מנתח רגשות יפה (לא כל המודלים)
וכמו כל דבר זה אמור להתקדם

[רפאל vnkl]

@ישראל123 כתב:

האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות

@NH.LOCAL

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

[ישראל123]

@רפאל-vnkl כתב:

עמוקה

יפה אמרת! אצל המודל אין באמת עומק

[רוטב שום]

@רפאל-vnkl אני חושב שאתה טועה,
אז מישהוא אמר פה את העיקרון הזה ומאוד אהבתי אותו,
כל מודל גם ההכי טיפש יכול לבנות הכל, השאלה כמה תצטרך להסביר לו עד שהוא יבין אותך,
אבל כבר היום אם תלך לאופוס 5.5 ותגיד לי "תבנה לי תוכנה מטורפת ושימושית"
הוא יוכל להוציא לך משהו שלא חלמת עליו

[ישראל123]

@רוטב-שום אתה צודק
אבל זו בדיוק הנקודה אצל המודל אין ייצוג של "אתה" (המשתמש) ששומר בתוכו מבנה world בשונה מבן אדם שיש לו "עולם" מלא עבור כל אדם
ממילא כאשר אני מבקש ממך תוכנה אתה תבין מה אני רוצה בשונה מהמודל שיכול לשאול אותי 469 (!) שאלות ועדיין לא לתפוס את הנקודה