בירור | בינה מלאכותית והאנושות - לאן?

[יודע ספר]

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.
וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

[א.מ.ד.]

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

[רפאל vnkl]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

[אזולאי]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

סליחה, זה שהוא מבין במדעי המוח זה אומר שהוא יכול לדבר על המוח האנושי כמה שהוא רוצה אבל אם הוא לא מבין בבינה מלאכותית איך הוא יכול להגיד מה היא יכולה ומה לא?

[יודע ספר]

@אזולאי אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL
הוא טוען שם בראיון שהבינה המלאכותית אמנם מתפתחת במהירות ויכולה לבצע עבורנו משימות רבות כמו כתיבת עבודות, אך היא לעולם לא תהווה תחליף לבני האדם כיוון שאין לה תפיסה אנושית הוליסטית, מרחבית או חוש הומור.
והוא מביא שתי דוגמאות מרכזיות:
הוא מספר בראיון שבמבחן טיורינג שנערך בעבר, הבינה המלאכותית ענתה על שאלות השופטים מיד ובאופן טכני, בעוד שהאדם שנבחן מולה בחר שלא לענות ישירות על השאלה, אלא שאל את השופטים בהומור ובאופן אסוציאטיבי: "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?".
הוא טוען שזו תפיסת מציאות רחבה שאין למחשב או לאלגוריתם כל שהוא.
בשורה התחתונה, הוא מסביר כאן שלא כדברי @nh.local שלא באמת "כיף" לתקשר עם בינה מלאכותית, מכיוון שאין לה רגשות, חברים, כאבים או היסטוריה אישית, ולכן הטכנולוגיה יכולה רק לעזור לנו – אך לעולם לא להחליף את האנושיות שלנו.

יש פה מגון של טיעונים.

חלקם נכונים, חלקם נכונים באופן חלקי וחלקם מוטעים או קופצים למסקנות.

האם לבינה מלאכותית אין רגשות? כמובן. האם בגלל זה לא כיף לדבר איתה? ממש לא.

האם בינה מלאכותית לא יכול להחליף את האנושיות שלנו - אין ספק. ולכן מה?

דווקא הניסוח המתבדח "למה התחלנו את המבחן ב-8:30 ולא ב-8:00? זה בגלל הפקקים שהיו בדרך?", נשמע מאוד כמו ג'יפיטי ופחות אנושי... ובכל מקרה, זה רק עניין של חיבור וכלים, יותר עניין טכני מאשר פער טכנולוגי אמיתי

והוא מדגים את דעתו דרך תמונה מהרצאותיו שמציגה אישה בעלת שיער מתולתל הדומה מאוד לכלב הפודל שלה. בעוד שכל בן אדם מבין מיד את הקשר המשעשע וההומוריסטי, הבינה המלאכותית פספסה לחלוטין את הפואנטה וענתה בצורה יבשה וטכנית, שזה כלב וזה בן אדם, ואין פה שום קשר...

תנסה להכניס את התמונה הזו לכל מודל ותשאל מה מצחיק כאן

וכמו שכבר כתבו כאן, הוא מומחה למדעי המוח וכנראה גם מבין דבר אוט שניים מתוך זה בכיכולות ההתערבות של הטכנולוגיה לתחום זה, גם אם אינו מפתח משוכלל של כלי בינה

באופן מובהק כבר עשרות שנים, דווקא המומחים בתחום ה-AI נתנו תחזיות שגויות לחלוטין ולרוב איטיות בהרבה מהמציאות בפועל, זה בעיה מוכרת בשם "עיוורון מומחה"

כל עוד הוא לא מונח בעניינים, הידע שלו במדעי המוח לא עוזר לו הרבה

הנה דוגמה לאחד ה"מומחים" כיבכול והפרשנות שלו למודל o1 שהביא את הפריצה ההיסטורית של השנים האחרונות

https://mitmachim.top/post/890594

(לא @sivan22 אלא המומחה שהוא מביא בקישור)

[יודע ספר]

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

וסליחה אם אני מרגיז אותך

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

זה לא, זה סהכ הגבלת פורמט.
כיום מודלי ai מונחים ש "שאלו אותך משהו - תענה לעניין".
אין מניעה לחשוב שבעתיד (הלא כ"כ רחוק), ai ישומש בדרכים אחרות ולא בפורמט המגביל הזה.

גם בעתיד הנוכחי, זה קיים לא מעט בפלטפורמות שיחה כמו https://character.ai

[רפאל vnkl]

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

[NH.LOCAL]

@רפאל-vnkl כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL לא מכיר את זה..
במה זה מתבטא שזה קיים שם? למה הכוונה?

אתה פשוט מדבר עם דמויות, זה יכול להיות מורה, חבר או נירון קיסר. זה לא מקובע לדמות העוזר AI המקצועי שלא סוטה ימין ושמאל

[יודע ספר]

@NH.LOCAL קיים בכל GEM בגימיני, לא?

[NH.LOCAL]

@א.מ.ד. כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@NH.LOCAL עוד נקודה, זה האם מודל יכול להחליט על אקסיומות מדעית כמו אדם. לדוגמא ההבנה שהייתה קיימת במשך אלפי שנים היא שהזמן לא משתנה בין מקומות שונים ביקום, עד שבא איינשטיין עם תורת היחסות והחליט לשבור את החוקי הלוגיקה הקיימים ואת תפיסת המציאות סתם כי בא לו והחליט לקבוע אקסיומה חדשה - שרק מהירות האור זהה בכל מקום, וממילא הזמן הוא זה שמשתנה ממקום למקום.
לדעתי, מודל לעולם לא היה מחליט לשבור את החוקים הקיימים כשאין לו את הרצון ה"רגשי" והיכולת האנושית לשבור את המוסכמות.
יש מה להתווכח כשזה נוגע לאקסיומות של קונצנזוס אנושי, פחות כשזה נוגע לאקסיומות מתמטיות כמו מספרים מרוכבים (שאין שורש למספר שלילי).

נכון. מעצמו הוא לא עושה כלום
אבל אפשר לתת לו משימה: חפש את הכשלים בתאוריה המדעית הנוכחית או נסה ליצור תיאוריה חדשה.
בדיוק כמו שנותנים לו כיום משימה של זיהוי באגים ופרצות בקוד קיים

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

@nh.local
כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אם אתה מבין בבינה מלאכותית, אתה יכול לדעת לאילו תחומים היא לא תחדור במח?
כעת תהפוך את היוצרות

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

וסליחה אם אני מרגיז אותך

זה בסדר גמור

[יודע ספר]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

לא זכיתי להבין איך אתה מוכיח משהו מהטיעון הזה

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

את הטיעון של הציפור כבר מחקת, אז תחשוב עוד קצת, אם לא תצליח אני אשתדל לעזור

לא זכיתי להבין אם אתה מתכוון שכמו שמומחה AI יכול להבין במוח גם מומחה מוח יכול להבין ב-AI
או שלהיפך: כמו שמומחה AI יכול לדבר על המוח למרות שהוא לא מבין גם מומחה מוח יכול לדבר על המוח למרות שהוא לא מבין?

או משהו שלישי?

[יודע ספר]

@פיקחון תודה על המחמאה...

[יודע ספר]

@NH.LOCAL משהו רביעי!
[שכחת לציין את האופציה הזו-כמו שמומחה AI ידבר על AI, אתה לא מאזן ]...
התכוונתי שאדם שמתעסק ומפתח תחום/בתחום מסויים, מן הסתם יש לו ידע ביכולות של דברים אחרים להשפיע על הדבר שבו הוא מתמקצע.
וזה נכון לשני הכיוונים, לכן אין לבטל את דברי האחד רק בגלל שאין לו די ידע בתחום השני, מאותה סיבה שיש לומר הפוך.
ואם אדם שמכיר את המח האנושי, אותו, לצורך הענין, לא מכיר הסטודנט שכתב מאמר נפלא בגיקטיים, אזי אין לנו לבטל דבריו בהינף יד כמו שלא היית מבטל את דברי אותו סטונדט או מאמר.
אז זה לא שהדברים שערן כץ [לצורך הענין], אמר, הם עובדה או סוף פסוק, אבל בהחלט יש לשכלל אותם לפני מסקנות חורצות והצעה לצילומי מסך בדמות גזור ושמור עם תאריכים ומיקומים.
קצת ענווה לא תזיק, זה הכל, אל תבטל את כל מה שאתה רואה רק כי ראית איזה מאמר או מחקר או שאתה אפוף תדהמה מהתפתחות הבינה בקצב מטרלל בשנים האחרונות בייחוד לשנתיים האחרונות.
בקיצור, אם אני פיתחתי איזו תרופה, האם אני יכול להתחייב שהיא תעבוד על מחלה מסויימת ללא שיש לי הוכחה עובדתית ממש?
או אם פיתחתי איזה וירוס ברשת, האם אני יכול להגיע ולטעון כלפי חברות הגנה שהן לא עמידות בפניו? כלום יודע אתה אילו טקטיקות הם נקטו, שאתה לא מודע אליהם?
נשמח לשמוע אתה ואחרים חושבים על זה.
ולא, לא AI כתב את הפוסט.
ולא, לא קוראים לי ערן כץ.

[NH.LOCAL]

@יודע-ספר הכל עניין של הסתברויות והערכות.

אמת נכון, צריך להיזהר מעיוורון המומחה כפי שציינתי לעיל.

אני בהחלט לא יכול להתחייב בוודאות מלאה על העתיד. עם זאת לא מדובר במסקנות נחרצות ברמה של 100%, אלא בשקלול של הסתברות גבוהה מאוד, בלי שיש קיר או מגבלה נראית לעין, מה שמוביל למסקנות ברורות

העניין עם ערן כץ הוא שהוא מבין בזה לא הרבה יותר משמבין בזה מוכר בשוק מחנה יהודה, והיחס בהתאם
זה לא מוריד מערכו או מהמומחיות שלו בתחומו אך בהחלט מגביל את הערך של דבריו לגבי תחום ה-AI

פשוט די נמאס מכל מיני מומחים שמקשקשים שטויות בשם המומחיות שלהם, ערן כץ הוא לא הראשון ולא האחרון

[יודע ספר]

@NH.LOCAL אתה בהחלט צודק שאין לרוץ אחרי כל איזה אחד שחושב שבגלל מקצועיות בתחומו הוא יכול לחוות דעה מקצועית לעוד נושאים.
אך עכ"פ ליקטתי בעזרת הבינה [כמובן] וחיפוש בגוגל אודות הסבורים כדלעיל, וזה מה שמצאתי:
אגב
תראה מה כתב לי גרוק בעצמו, הודאת בע"ד...

פרופ' יאן לקון (אחד מאבות ה-Deep Learning ומדען ה-AI הראשי של Meta) חוזר ומדגיש שמודלים כמו GPT הם בעיקר "תוכים סטטיסטיים" (Stochastic Parrots) – הם מצטיינים בחיקוי שפה על בסיס הסתברויות, אבל חסרים "שכל ישר" (common sense) אמיתי. הוא סבור שצריך ארכיטקטורה חדשה לגמרי – Objective-Driven AI – כדי להתקדם.

פרופ' שמעון אולמן (ויצמן) מראה במחקריו (כמו ב-PNAS) כיצד רשתות נוירונים מזהות עצמים על בסיס שברירי פיקסלים וסטטיסטיקה, אבל נכשלות ברגע שמשנים את ההקשר – בניגוד למוח האנושי שמבין בצורה הוליסטית.

ד"ר מריאנו סיגמן (נוירולוג) מסביר שהחשיבה, ההומור והאמפתיה שלנו נובעים מEmbodied Cognition – מהגוף הפיזי והחוויה החושית. למכונה אין את זה, ולכן היא מניפולציה של סמלים, לא מחשבה אמיתית.

פרופ' דוד הראל (נשיא האקדמיה הלאומית למדעים) בספרו Computers Ltd: What They Really Can't Do מדגיש את המגבלות המתמטיות והעקרוניות: יצירתיות, שיפוט מוסרי ואינטואיציה עמוקה הם מעבר ליכולת החישוב הדיגיטלית.

לסיכום: הבינה המלאכותית תשנה את העולם ותהיה כלי מדהים – אבל סביר להניח שהיא תישאר כלי חזק מאוד, ולא תחליף את המוח האנושי עם ההבנה, התודעה והעומק הרגשי שלו. מי שמצפה ל"סינגולריות" בקרוב עלול להתאכזב.
מקורות:

• Yann LeCun על Objective-Driven AI: הרצאה
• מאמר PNAS של שמעון אולמן: Atoms of Recognition
• ספרו של דוד הראל: Computers Ltd.

ברור שתמצא גם מחקרים ופרופסורים הטוענים את ההיפך, אבל אל תבטל במחי יד את להקת המדענים והחוקרים הללו.
... ישפוט/(תשפוט?) בין אלו לאלו

[NH.LOCAL]

@יודע-ספר כתב בבירור | בינה מלאכותית והאנושות - לאן?:

פרופ' יאן לקון (אחד מאבות ה-Deep Learning ומדען ה-AI הראשי של Meta) חוזר ומדגיש שמודלים כמו GPT הם בעיקר "תוכים סטטיסטיים" (Stochastic Parrots) – הם מצטיינים בחיקוי שפה על בסיס הסתברויות, אבל חסרים "שכל ישר" (common sense) אמיתי. הוא סבור שצריך ארכיטקטורה חדשה לגמרי – Objective-Driven AI – כדי להתקדם.

לגבי יאן לקון, דעתו לא חדשה. וההצלחות שלו בהתאם. הפילוסופיה שלו נחלה כישלון חרוץ, ועם כל הכבוד הראוי לפריצות הדרך המדהימות שלו בשנות ה-90, נראה שהאיש פספס משהו במרוץ הנוכחי.

לגבי כל האחרים - לא שמעתי עליהם בלתי היום. ובכל מקרה, הם מצביעים על נקודות מסויימות שאף אחד לא חולק עליהם, וגם לא אני.
לא כל כך אכפת לי אם תגדיר ש-AI הוא לא בעל תודעה, או שאין לו רגשות. זה לא באמת משנה כל עוד הוא יכול לדמות תודעה ולדמות רגשות בצורה מושלמת

Spoiler

אגב, להביא טיעונים לצד השני זה אף פעם לא בעיה, כי תמיד יש אאוטסיידרים, גם לחיסוני הקורונה להבדיל היו מתנגדים. להביא כמה שמות עלומים לא באמת מוסיף משהו לדיון.

[יודע ספר]

@NH.LOCAL כתב בבירור | בינה מלאכותית והאנושות - לאן?:

אגב, להביא טיעונים לצד השני זה אף פעם לא בעיה, כי תמיד יש אאוטסיידרים, גם לחיסוני הקורונה להבדיל היו מתנגדים. להביא כמה שמות עלומים לא באמת מוסיף משהו לדיון.

מה כן?