בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@המלאך הוא מבין ברמה מסויימת כבר היום, אתה כנראה יותר מדי על קלוד
וכמו כל דבר, הוא מתקדם והוא יבין מושלם באיזה יום. לכאורה הנידון רק אם הוא ינסה גם לחקות אותם ואני לא מבין מה יגרום לו לא.
אחרת לא היה פה דיון אם הוא מרגיש, רק כי הוא עושה כאילו בצורה מצויינת.@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו. -
@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו. -
@המלאך אתה מתכוון לחוש קור וחום או לחוש תחושת מועקה?
@123-דג-מלוח מועקה.
-
@123-דג-מלוח מועקה.
-
@המלאך אתה לא יודע לזהות איזה רגש יופעל אצל חבר\קרוב כשתעשה דבר פלוני?
זה נובע לדעתך מהרגש (אותו כושר הניבוי) או מהשכל?
האם זה לא נכון שאנשים מתחברים יותר לגמני כי הוא יותר אמפתי?@123-דג-מלוח דברים פשוטים ייתכן שמהשכל, דברים מורכבים - רגש.
-
@123-דג-מלוח דברים פשוטים ייתכן שמהשכל, דברים מורכבים - רגש.
-
ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?AI מבין רגשות טוב יותר מכל אדם ממוצע. כולל ניואנסים או מה שלא תקרא לזה.
זה כבר הוכח בעשרות מחקרים, וזה אפילו לא משהו חדש, כמדומה שאפילו GPT-4o כבר היה ברמה גבוהה מאוד בנושא.
@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו.מה זה בדיוק "חוש"?
אפשר לקרוא ל-AI מכונה, מחשבון משוכלל, תוכי הסתברותי או מה שלא תרצה, אבל זה לא משנה את העובדה שהוא מדמה התנהגות אנושית בצורה על אנושית.
מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.
-
ברור, כשבנ"א יפנה למכונה - אני נפגעתי ממך, היא תבין שהוא נפגע ממנה,
אבל הקשר היא תוכל להבין?
ניואנסים של רגשות?AI מבין רגשות טוב יותר מכל אדם ממוצע. כולל ניואנסים או מה שלא תקרא לזה.
זה כבר הוכח בעשרות מחקרים, וזה אפילו לא משהו חדש, כמדומה שאפילו GPT-4o כבר היה ברמה גבוהה מאוד בנושא.
@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@123-דג-מלוח תרשה לי לחלוק עליך?
לדעתי הוא לא יבין מושלם כי יש דברים שבשביל להבין צריך לחוש, דבר שלא אפשרי אצלו.מה זה בדיוק "חוש"?
אפשר לקרוא ל-AI מכונה, מחשבון משוכלל, תוכי הסתברותי או מה שלא תרצה, אבל זה לא משנה את העובדה שהוא מדמה התנהגות אנושית בצורה על אנושית.
מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.
-
במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.
דווקא בהקשר דומה, בדיוק פרסמו בנצ'אמרק חוש שישי שמנתח יכולות של מודלים בדברים מהסוג הזה.
דוקא GPT Astra 6 קיבל את הציון הכי גבוה. 🧐
(לא שהבנתי מה זה בדיוק אומר, אבל לא נורא...)https://labs.scale.com/leaderboard/hss
-
במיוחד. מאז, הוא נסוג, לדעתי בשל ההתמקדות בקוד, בשביל לקבל שיפור רקורסיבי.
דווקא בהקשר דומה, בדיוק פרסמו בנצ'אמרק חוש שישי שמנתח יכולות של מודלים בדברים מהסוג הזה.
דוקא GPT Astra 6 קיבל את הציון הכי גבוה. 🧐
(לא שהבנתי מה זה בדיוק אומר, אבל לא נורא...)https://labs.scale.com/leaderboard/hss
@NH.LOCAL האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות למשל כשתזכיר @המלאך (סליחה על התיוג אבל אולי זה יעניין אותך) יש אצלך כבר ציור אחד (לא אלפי וקטורים/טוקנים/פרמטרים) שבו דחוס כל המידע הרב מימדי עליו כולל כנראה מיליוני פרטים וחיבורים
בדרך כלל האדם לא מודע כמעט לפרטים שהוא קולט (יש אנשים שהעיבוד שלהם הרבה יותר רגיש ועמוק ויש כאלו שפחות ומלבד זאת יש רמת מודעות ואכמ"ל)
אותו דבר בכל סוג קלט
הם מנסים לחקות ולדמות את היכולת הזו על ידי זמן עיבוד נוסף, פרמטרים נוספים ועוד (אדם לא צריך את זה!! הוא רואה סצנה כבר יש את זה אצלו והוא רק צריך להתבונן בזה אחר כך, וכאן הוא מוגבל ביכולת הריכוז)אצל אדם כל הנתונים בסוף מתגבשים לנקודה אחת שאפשר להתבונן בה ולהבחין בפרטים אבל זו נקודה אחת
ולזה AI אף פעם לא יגיע כי זה שייך לחלק אלו-ה ממעל של האדם ולאחדות אמיתית
הוא אולי יוכל לחקות את זה אבל לא יהיה לו את זה
החוש השישי שייך לשם לחלק שמחבר את הכל לתמונה אחת שלימה והם מנסים לדמות את זה
אבל שים לב שהאחוזים שם זה לפי המדדים שהם החליטו בשעה שבן אדם עובר את זה בפי מליון (גם אם באופן לא מודע)
בכל אופן זה מדד חמוד
לסיכום: החוש השישי הוא היכולת לראות מתוך פרטים מועטים תמונה אחת שלימה הכוללת מעבר למה שנקלט במפורש. ואת זה הם מנסים לחקות ולמדוד
-
@NH.LOCAL האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות למשל כשתזכיר @המלאך (סליחה על התיוג אבל אולי זה יעניין אותך) יש אצלך כבר ציור אחד (לא אלפי וקטורים/טוקנים/פרמטרים) שבו דחוס כל המידע הרב מימדי עליו כולל כנראה מיליוני פרטים וחיבורים
בדרך כלל האדם לא מודע כמעט לפרטים שהוא קולט (יש אנשים שהעיבוד שלהם הרבה יותר רגיש ועמוק ויש כאלו שפחות ומלבד זאת יש רמת מודעות ואכמ"ל)
אותו דבר בכל סוג קלט
הם מנסים לחקות ולדמות את היכולת הזו על ידי זמן עיבוד נוסף, פרמטרים נוספים ועוד (אדם לא צריך את זה!! הוא רואה סצנה כבר יש את זה אצלו והוא רק צריך להתבונן בזה אחר כך, וכאן הוא מוגבל ביכולת הריכוז)אצל אדם כל הנתונים בסוף מתגבשים לנקודה אחת שאפשר להתבונן בה ולהבחין בפרטים אבל זו נקודה אחת
ולזה AI אף פעם לא יגיע כי זה שייך לחלק אלו-ה ממעל של האדם ולאחדות אמיתית
הוא אולי יוכל לחקות את זה אבל לא יהיה לו את זה
החוש השישי שייך לשם לחלק שמחבר את הכל לתמונה אחת שלימה והם מנסים לדמות את זה
אבל שים לב שהאחוזים שם זה לפי המדדים שהם החליטו בשעה שבן אדם עובר את זה בפי מליון (גם אם באופן לא מודע)
בכל אופן זה מדד חמוד
לסיכום: החוש השישי הוא היכולת לראות מתוך פרטים מועטים תמונה אחת שלימה הכוללת מעבר למה שנקלט במפורש. ואת זה הם מנסים לחקות ולמדוד
@ישראל123 מצטער, אך אני לא אוהב תאוריות בלתי ניתנות להפרכה, להוכחה, או להבנה של ממש.
אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?
במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?
-
@ישראל123 מצטער, אך אני לא אוהב תאוריות בלתי ניתנות להפרכה, להוכחה, או להבנה של ממש.
אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?
במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?
ודווקא אני אוהב את היסודיות שלך
אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?
האם כשאתה רואה בן אדם רנדומלי אתה יכול "להרגיש" קצת או הרבה מידע עליו? אני כן ומכיר הרבה אנשים שתופסים בן אדם בשניות בלי ללמוד חכמת פרצוף/תנועות גוף
ואני חושב שיש לנו קליטה כפולה התפיסה הלוגית (ונגיד שבזה ה-AI דומה לנו) והתפיסה החוויתית-רגשית. יש ביניהן יחסי גומלין הדוקים. רמת התפיסה של שניהם וכל אחד לחוד משתנית בין אנשים
@NH.LOCAL כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?
ברור שכן! אתה לא?
-
ודווקא אני אוהב את היסודיות שלך
אשאל שאלה פשוטה: באיזה מקרה, סיטואציה, או מצב אדם יצליח לעשות X ובינה מלאכותית לא תצליח, מכורח היסוד שלך?
האם כשאתה רואה בן אדם רנדומלי אתה יכול "להרגיש" קצת או הרבה מידע עליו? אני כן ומכיר הרבה אנשים שתופסים בן אדם בשניות בלי ללמוד חכמת פרצוף/תנועות גוף
ואני חושב שיש לנו קליטה כפולה התפיסה הלוגית (ונגיד שבזה ה-AI דומה לנו) והתפיסה החוויתית-רגשית. יש ביניהן יחסי גומלין הדוקים. רמת התפיסה של שניהם וכל אחד לחוד משתנית בין אנשים
@NH.LOCAL כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
במילים אחרות: אם אתה טוען שאדם עובר את המכונה פי מיליון בתחום הזה, האם יש דרך בה תוכל לזהות בין אדם למכונה עם עיניים מכוסות, על בסיס השיטה הזו?
ברור שכן! אתה לא?
-
-
-
אל תשכח שכתבת פי מיליון, כלומר זה אמור להיות פער כל כך עצום בין אדם למכונה, שכל אדם פשוט יצליח לזהות, לא רק פרויד
שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרי -
-
שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרייתכן. אבל אם הפלט בסופו של דבר לא שונה, למה זה בעצם אמור להיות לי אכפת?
נורות לד ונרות עובדים בצורה שונה לחלוטין. האם אפשר לומר שנורת לד לא מאירה?
מטוס עף באוויר, וגם ציפור. הם עושים את זה בדרכים שונות לחלוטין. בגלל זה אפשר לומר שמטוס לא "עף"?הקשר בין יכולות קוגנטיביות ואינטליגנציה לבין תודעה הוא קשר שהיה נכון בעבר, אבל מסתבר שהוא פשוט לא מחויב המציאות.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
נכון מאוד.
הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. במקום להבין שהסיבות שבגללם האדם חשוב לא תלויות בבנצ'מארקים, הם מנסים כל פעם להסביר למה הבנצ'מארק לא מספיק מייצג "מה זו אינטליגנציה".
אם אתה מחפש להסביר למה האדם נבדל מהמכונה או למה הוא נעלה עליה, לא חסר סיבות.
נשמה או משמעות עשויה להיות סיבה טובה, אינטליגנציה או סוג כזה או אחר של הבנה - פחות.לדעתי, אתה פשוט לא הולך לכיוון הנכון.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
-
שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרייתכן. אבל אם הפלט בסופו של דבר לא שונה, למה זה בעצם אמור להיות לי אכפת?
נורות לד ונרות עובדים בצורה שונה לחלוטין. האם אפשר לומר שנורת לד לא מאירה?
מטוס עף באוויר, וגם ציפור. הם עושים את זה בדרכים שונות לחלוטין. בגלל זה אפשר לומר שמטוס לא "עף"?הקשר בין יכולות קוגנטיביות ואינטליגנציה לבין תודעה הוא קשר שהיה נכון בעבר, אבל מסתבר שהוא פשוט לא מחויב המציאות.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
נכון מאוד.
הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. במקום להבין שהסיבות שבגללם האדם חשוב לא תלויות בבנצ'מארקים, הם מנסים כל פעם להסביר למה הבנצ'מארק לא מספיק מייצג "מה זו אינטליגנציה".
אם אתה מחפש להסביר למה האדם נבדל מהמכונה או למה הוא נעלה עליה, לא חסר סיבות.
נשמה או משמעות עשויה להיות סיבה טובה, אינטליגנציה או סוג כזה או אחר של הבנה - פחות.לדעתי, אתה פשוט לא הולך לכיוון הנכון.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה
כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה
דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.וזה רק זווית אחת של העניין
-
שוב! לא כל בן אדם יהיה מודע לזיהוי ולא כל אחד יזהה באותה רמה
ההבדל של פי מיליון זה כי זה פשוט פלנטה אחרת לא פער מספרייתכן. אבל אם הפלט בסופו של דבר לא שונה, למה זה בעצם אמור להיות לי אכפת?
נורות לד ונרות עובדים בצורה שונה לחלוטין. האם אפשר לומר שנורת לד לא מאירה?
מטוס עף באוויר, וגם ציפור. הם עושים את זה בדרכים שונות לחלוטין. בגלל זה אפשר לומר שמטוס לא "עף"?הקשר בין יכולות קוגנטיביות ואינטליגנציה לבין תודעה הוא קשר שהיה נכון בעבר, אבל מסתבר שהוא פשוט לא מחויב המציאות.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
נכון מאוד.
הבעיה היא שאנשים בטוחים שאם AI יותר טוב מהם במתמטיקה, או מצייר יותר יפה מהם - אז הם פחות מיוחדים או פחות חשובים. במקום להבין שהסיבות שבגללם האדם חשוב לא תלויות בבנצ'מארקים, הם מנסים כל פעם להסביר למה הבנצ'מארק לא מספיק מייצג "מה זו אינטליגנציה".
אם אתה מחפש להסביר למה האדם נבדל מהמכונה או למה הוא נעלה עליה, לא חסר סיבות.
נשמה או משמעות עשויה להיות סיבה טובה, אינטליגנציה או סוג כזה או אחר של הבנה - פחות.לדעתי, אתה פשוט לא הולך לכיוון הנכון.
@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
הסיבה לזה כי הם מחפשים למדוד דבר שגם אם הוא מדיד הוא לא נמדד באותם כלים שהם משתמשים
כמו למדוד חוויות בכלים כמו בנצ'מרקים...
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}