בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL בזה אתה צודק מצד אחד אבל מצד שני אני חושב שדווקא אם נפנים את ההבדל בכיצד זה קורה נוכל לשפר עוד יותר את המה קורה

כיום השיפורים הגדולים ב-AI הם נעים סביב אותו ציר ומתקדם בעיקר בכמות הפרמטרים, הטוקנים באימון ועוד כמה דברים באזור הזה

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע
פרמטרים: 1!
הוא יכול להוסיף אין סוף פרמטרים אבל הכל נדחס לפרמטר אחד מרובה שכבות.

וזה רק זווית אחת של העניין

אתה מניח הנחה לא ממש מוכחת ועליה מעמיד הררים התלויים בשערה. במיוחד שהדמיון בין המוח האנושי למודל AI הרבה יותר מורכב מזה.

למעשה , חוקרים כמו יאן לקון למשל ואחרים בדפימיינד בהחלט בוחנים סוגים אחרים של ארכיקטורות חלופיות ל-LLMs שיהיו יעילות יותר ביחס למוח האנושי. יש מקום לחקור סוגים אחרים של חיקויי מוח, אבל לא בהכרח בכיוון שלך.

בכל אופן, בינתיים לא נראה שהחוקרים הללו מתקדמים להיכנשהו. ההנחה הדי סבירה היא שמודלי שפה יהיו כל כך מתקדמים כך שהם יגלו בעצמם ארכיקטורות טובות בהרבה הרבה יותר מהר, רק כתוצר לוואי של ההתקדמות שלהם.

ב-OAI ואנתרופיק, ואיתם כיום גם XAI, Meta, והחברות הסיניות, מתקדמות בעיקר במודלי שפה, ובינתיים נראה שהם הבינו טוב יותר את המציאות.

דמיין לעצמך שתוכל לקחת פרמטר אחד ולדחוס לתוכו אלפי פרמטרים שכל אחד דחוס מאלפי פרמטרים והכול מסודר בסדר מטורף. ובכל סיטואציה המודל שבנוי רק מפרמטר אחד "פותח את עצמו" לכמה פרמטרים ומתמקד בפרמטר אחד וכן הלאה. אבל תמיד הוא נשאר בגודל קבוע

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אני דווקא אשמח שהוא יהיה יותר טוב ממני (ויש המון דברים שאכן) רק חשוב להבין את המגבלה כדי שתוכל לנסות להרחיב אותה

אל דאגה, כל הכלכלה האמריקנית מושקעת בזה, הם בטוח חשבו חושבים ויחשבו על הכל.

[ישראל123]

@NH.LOCAL כתב:

במקרה טוענים ש-OAI התחילה לעשות משהו דומה עם GPT 6, אבל רק בהיבט מאוד מאוד מסוים של הרעיון שלך. (עד כמה שהבנתי אותו...)

מה? מסקרן אותי מוות!

[NH.LOCAL]

@ישראל123 כתב:

מה? מסקרן אותי מוות!

זה נקרא "עומק רקורסיבי".

במודל רגיל, המידע עובר דרך שכבות שונות, וכל שכבה מבצעת חישוב משלה.
בשיטה החדשה, מעבירים את המידע כמה פעמים דרך אותן שכבות, עם אותם משקלים, כאשר בכל מעבר התוצאה משתפרת או מתעדכנת.

אני לא חושב שזה מה שאתה מחפש...

[ישראל123]

@NH.LOCAL צודק. זה לא זה

[אלי ויל]

@123-דג-מלוח כתב:

לשיטתי בין כה כל הבנת הרגשות היא ע"פ השכל

זה לא נכון, ובעלי בעיות (כמו אוטוסיטים עיוורים מלידה וכדומה) יוכיחו.
אבל אולי אתה מתכוון באמרך שכל למחשבה
השכל הטהור שמגיע מ'חכמה' לא מבין שום רגש (אפ' לא טוב לב שמ 'חסד') למעשה הוא לא מבין רגש יותר ממה שהגוף מבין רגש או שכל, רק בלוגיקה הוא ידע שאם הוא יגיד לחבירו בוקר טוב אז ההוא יגיב כך וכך אבל הוא לא יבין כלום, אבל המחשבה אכן מורכבת מכל תכונות הנפש

@NH.LOCAL כתב:

מבחינת ההתנהגות שלו בפועל, ספק אם זה בכלל משנה משהו מה קורה מאחורי מכסה המנוע, כל עוד החיקוי מושלם.

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

[NH.LOCAL]

@אלי-ויל כתב:

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

מוסכם לגמרי. יש חשיבות לאיך הדברים עובדים מבפנים, והייתי קצת יותר מידי נחרץ מקודם.

אבל, בהקשר לשאלה שבכותתרת - "האם AI יאכל אותנו" - זה באמת לא משנה אם יש ל-AI מניע פנימי דמוי אנושי או לא.
בהתאם, גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפתי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

[המלך גורג]

שאלה קטנה: האם לדעתכם אדם שנולד ללא חמשת החושים (עיוור, אילם, חרש, חסר חוש טעם, נטול עצבים) ובנוסף לכל - גם משותק, האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים? אני חושב שאם נענה על האפשרות הראשונה בחיוב (ולדעתי זה גם מה שהיהדות אומרת...) אז ממילא נבין ש"וייפח באפו נשמת חיים, ומאי דנפח - מדיליה נפח" זה לא רק סתם אלגוריתמים ונתונים, מה כן? - הבעיה שלנו שאנחנו מצומצים לחמשת החושים ולכן אנחנו לא מסוגלים לקלוט דברים מטא-פיזיים. ובמקום הזה - בהחלט הבינה לוקחת אותנו כמה צעדים קדימה... אבל הנס שלנו הוא שכמו שאמר מי שאמר בשיר כלשהו - "יש כאן יותר מזה, יש בי יותר מהקול הזה, המזוייף, הנסדק. מתחת לכל המחשוב הזה - הדי אן איי, המדע המדוייק - יש כאן יותר מזה."

[לעכשיו]

@המלך-גורג
ומה זה משנה? לאדם הזה יש נשמה למודל הAI המתקדם ביותר אין.
אז מה?
זה לא גורע כלום מהיכולת של הAI לחקות את הפעולה האנושית

[123 דג מלוח]

@המלך-גורג

@המלך-גורג כתב:

האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים

לא משנה אם הוא יודע לגבי זה.
ברור שצמח נקרא אדם גם אם הוא לא יודע, בגלל מעלת האדם, (מי שזוכר, אלטע פיקסלר)
וכמו"כ גם אם נגיד שלAI יש תודעה, אין לו נשמה והוא לא בן אדם.
אני חושב שזה מוסכם.

Spoiler

@NH.LOCAL כתב:

גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפטי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

@nh.local לא אמרתי שלא, להיפך. כמדומה ש@המלאך אמר ככה.

123-דג-מלוח כתב:

הוא יוכל לאמץ את צורת החשיבה הזו. וממילא הוא יוכל גם להתאמן על נושאים רגשיים.

אני גם טענתי שהוא כבר היום מנתח רגשות יפה (לא כל המודלים)
וכמו כל דבר זה אמור להתקדם

[רפאל vnkl]

@ישראל123 כתב:

האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות

@NH.LOCAL

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

[ישראל123]

@רפאל-vnkl כתב:

עמוקה

יפה אמרת! אצל המודל אין באמת עומק

[רוטב שום]

@רפאל-vnkl אני חושב שאתה טועה,
אז מישהוא אמר פה את העיקרון הזה ומאוד אהבתי אותו,
כל מודל גם ההכי טיפש יכול לבנות הכל, השאלה כמה תצטרך להסביר לו עד שהוא יבין אותך,
אבל כבר היום אם תלך לאופוס 5.5 ותגיד לי "תבנה לי תוכנה מטורפת ושימושית"
הוא יוכל להוציא לך משהו שלא חלמת עליו

[ישראל123]

@רוטב-שום אתה צודק
אבל זו בדיוק הנקודה אצל המודל אין ייצוג של "אתה" (המשתמש) ששומר בתוכו מבנה world בשונה מבן אדם שיש לו "עולם" מלא עבור כל אדם
ממילא כאשר אני מבקש ממך תוכנה אתה תבין מה אני רוצה בשונה מהמודל שיכול לשאול אותי 469 (!) שאלות ועדיין לא לתפוס את הנקודה

[NH.LOCAL]

@רפאל-vnkl כתב:

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

או שאף פעם לא ניסית, או שהפרילנסר הוא במקרה התאום הזהה שלך.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

@ישראל123 כתב:

יפה אמרת! אצל המודל אין באמת עומק

"אין באמת עומק"? באמת? מה זה בכלל "עומק"?

רמז: הגדרה גמישה של כל מה ש-AI עדיין לא יכול לעשות.

[ישראל123]

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

@NH.LOCAL כתב:

אין באמת עומק? מה זה "עומק"?

רמז: כל מה ש-AI עדיין לא יכול לעשות.

עומק לא שייך במובן של עשיה וזו בדיוק הנקודה

אני מסכים איתך בכך שיכולות העשיה (עיבוד טקסט לכל סוגיו הוא גם עשיה) של המודל בהמון תחומים גבוהים בלי השוואה ליכולות של בני אדם

יכולות שקשורות לרובד קצת יותר חוויתי/מופשט/רוחני/מטאפיסי/אחר___ אין את זה לשום יצור שאינו אדם מלאך או כח רוחני אחר

החוויה אינה תהליך אלא הויה, עיבוד שלה לעומת זאת זה תהליך, וזה ההבדל בין חי לדומם ו-AI עם כל היכולות הוא דומם

שוב! אתה צודק שבמבחן התוצאה יש דברים והרבה שה-AI עולה על בן אדם אבל לא תמיד זה יעזור

[ישראל123]

@NH.LOCAL כתב:

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

[ישראל123]

@NH.LOCAL כתב:

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

לא מכיר את המושג. אשמח מקורות או מידע נוסף בבקשה.

@ישראל123 כתב:

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

כנראה שאף פעם לא עשית עבודה אמיתית גדולה מול גרפיקאי למשל. כל עבודת עיצוב מורכבת ולא מוגדרת מספיק, כמו עיצוב מודעה, עוברת מלא סבבים בין הגרפקאי לבין הלקוח כדי להגיע לתוצר הסופי.

אם עשית משהו כזה בחיים האמיתיים בדרך שאתה מתאר, זה או כי לא עניין אותך יותר מידי התוצר, או כי אתה לא מבין בעיצוב (לשם הדוגמה).

אם זו היתה אדריכלית שמתכנתת לך את שיפוץ הבית בעלות של חצי מיליון שקל, לא היית חולם אפילו לעבוד בצורה כזו ולסמוך על האדם ש"הבין" אותך, כי יש לו "עומק".

AI אכן עדיין לא מבין מספיק ועדיין הרבה יותר קשה הבנה מבני אדם במובנים מסויימים, אך להגיד שעם בני אדם ברגע שהאדם הבין הוא כבר מבין עד הסוף והכל נגמר, ואברה קדברה זה פשוט לא נכון.

Spoiler

אגב, בכירי התעשייה מדברים שבשנים הקודמות AI יהפוך לעוזר אישי יותר ויותר, שילווה את האדם לאורך כל החיים, עם זיכרון מתמשך והקשר עצום.

ניתן להניח בזהירות ש-AI יהפוך ל"תאום הזהה" הטוב ביותר שלך בעתיד הנראה לעין, כך שהוא יחווה את הצרכים והמוצרים שלך טוב יותר מכל בן אנוש אחר.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

Spoiler

תיזהר עם תיאוריות על העולם שמבוססות על נפש האדם, בטח ובטח בתיאוריות על איך התורה מסבירה את האדם.
שלא תתאכזב או תצא מופתע.
אל תסיק מסקנות חותכות מתיאוריות מופשטות. המרחק ביניהם הוא רב ומרחב התמרון גדול מידי.

דווקא כאחד שמכיר טיפה גם את נפש האדם, ולא מנתח את הנושא רק מכובעי כמתכנת.

[רוכב שמים]

בקיצור הAI לא ירגיש כמו שאם יהיה לו גוף הוא לא יכאב גם אם יעשו לו מוליכים כימיים או ביולוגים אין מה לעשות לעולם הוא ירגיש
ונראה לי מוזר שיש פה ויכוח על רגש, זה לא דבר מובני
וכפי שאמרתי לעייל, זה כמו לקרא קידוד בתוכנה אחרת וכמו שמנסים להבין מה קורה בעולם הבא ללא זמן ומרחב אז עזבו את זה....

[רפאל vnkl]

@nh.local צריך לעשות פה הפרדה חשובה.
יש דברים שדורשים התאמה אישית, שאותם באמת צריך לשבת על כל הפרטים, מא' ועד ת', לא משנה אם זה רובוט או בן אדם. מה לעשות, בסוף בלי כוח נבואה אין דרך לדעת מה הוא מבקש.

אבל כל מה שלא דורש התאמה אישית, תבקש את זה מאדם שמבין בנושא, והוא יבין למה התכוונת.
AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

Spoiler

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.
ה AI חיפש באינטרנט, מצא את מה שראה לנכון, עבד עבד, והתוצאה...
כמובן, גוש קוד חסר תועלת. לא מתקרב אפילו למה שהיה אמור להיות.