בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[NH.LOCAL]

@אלי-ויל כתב:

אין הכי נמי זה נראה אותו דבר, אבל לאנשים זה משנה אם מישהו אומר להם בוקר טוב והוא בלבו מהרהר 'חבל ראיתי אותך על הבוקר' לבין מישהו שאומר להם באמת
ולכן תוכנה שמתוכנתת (הסתברותית) לומר בוקר טוב לא משנה כלום מה היא אומרת, משנה בסך הכל אם היא מביאה תועלת.

מוסכם לגמרי. יש חשיבות לאיך הדברים עובדים מבפנים, והייתי קצת יותר מידי נחרץ מקודם.

אבל, בהקשר לשאלה שבכותתרת - "האם AI יאכל אותנו" - זה באמת לא משנה אם יש ל-AI מניע פנימי דמוי אנושי או לא.
בהתאם, גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפתי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

[המלך גורג]

שאלה קטנה: האם לדעתכם אדם שנולד ללא חמשת החושים (עיוור, אילם, חרש, חסר חוש טעם, נטול עצבים) ובנוסף לכל - גם משותק, האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים? אני חושב שאם נענה על האפשרות הראשונה בחיוב (ולדעתי זה גם מה שהיהדות אומרת...) אז ממילא נבין ש"וייפח באפו נשמת חיים, ומאי דנפח - מדיליה נפח" זה לא רק סתם אלגוריתמים ונתונים, מה כן? - הבעיה שלנו שאנחנו מצומצים לחמשת החושים ולכן אנחנו לא מסוגלים לקלוט דברים מטא-פיזיים. ובמקום הזה - בהחלט הבינה לוקחת אותנו כמה צעדים קדימה... אבל הנס שלנו הוא שכמו שאמר מי שאמר בשיר כלשהו - "יש כאן יותר מזה, יש בי יותר מהקול הזה, המזוייף, הנסדק. מתחת לכל המחשוב הזה - הדי אן איי, המדע המדוייק - יש כאן יותר מזה."

[לעכשיו]

@המלך-גורג
ומה זה משנה? לאדם הזה יש נשמה למודל הAI המתקדם ביותר אין.
אז מה?
זה לא גורע כלום מהיכולת של הAI לחקות את הפעולה האנושית

[123 דג מלוח]

@המלך-גורג

@המלך-גורג כתב:

האם האדם הזה יודע שהוא חי, או שיושב לפנינו רק גוש בשר עם דם שזורם בפנים

לא משנה אם הוא יודע לגבי זה.
ברור שצמח נקרא אדם גם אם הוא לא יודע, בגלל מעלת האדם, (מי שזוכר, אלטע פיקסלר)
וכמו"כ גם אם נגיד שלAI יש תודעה, אין לו נשמה והוא לא בן אדם.
אני חושב שזה מוסכם.

Spoiler

@NH.LOCAL כתב:

גם המסקנה אליה @123-דג-מלוח הגיע לא נכונה. העובדה שלנו כבני אדם משנה אם AI סימפטי באמת או רק מדמה רגשות, לא אומרת ש-AI לא יכול להבין או לנתח רגשות ברמה אנושית.

@nh.local לא אמרתי שלא, להיפך. כמדומה ש@המלאך אמר ככה.

123-דג-מלוח כתב:

הוא יוכל לאמץ את צורת החשיבה הזו. וממילא הוא יוכל גם להתאמן על נושאים רגשיים.

אני גם טענתי שהוא כבר היום מנתח רגשות יפה (לא כל המודלים)
וכמו כל דבר זה אמור להתקדם

[רפאל vnkl]

@ישראל123 כתב:

האדם כשהוא שומע מילים הוא שומע הרבה מעבר למילים המפורשות

@NH.LOCAL

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

[ישראל123]

@רפאל-vnkl כתב:

עמוקה

יפה אמרת! אצל המודל אין באמת עומק

[רוטב שום]

@רפאל-vnkl אני חושב שאתה טועה,
אז מישהוא אמר פה את העיקרון הזה ומאוד אהבתי אותו,
כל מודל גם ההכי טיפש יכול לבנות הכל, השאלה כמה תצטרך להסביר לו עד שהוא יבין אותך,
אבל כבר היום אם תלך לאופוס 5.5 ותגיד לי "תבנה לי תוכנה מטורפת ושימושית"
הוא יוכל להוציא לך משהו שלא חלמת עליו

[ישראל123]

@רוטב-שום אתה צודק
אבל זו בדיוק הנקודה אצל המודל אין ייצוג של "אתה" (המשתמש) ששומר בתוכו מבנה world בשונה מבן אדם שיש לו "עולם" מלא עבור כל אדם
ממילא כאשר אני מבקש ממך תוכנה אתה תבין מה אני רוצה בשונה מהמודל שיכול לשאול אותי 469 (!) שאלות ועדיין לא לתפוס את הנקודה

[NH.LOCAL]

@רפאל-vnkl כתב:

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

או שאף פעם לא ניסית, או שהפרילנסר הוא במקרה התאום הזהה שלך.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

@ישראל123 כתב:

יפה אמרת! אצל המודל אין באמת עומק

"אין באמת עומק"? באמת? מה זה בכלל "עומק"?

רמז: הגדרה גמישה של כל מה ש-AI עדיין לא יכול לעשות.

[ישראל123]

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

@NH.LOCAL כתב:

אין באמת עומק? מה זה "עומק"?

רמז: כל מה ש-AI עדיין לא יכול לעשות.

עומק לא שייך במובן של עשיה וזו בדיוק הנקודה

אני מסכים איתך בכך שיכולות העשיה (עיבוד טקסט לכל סוגיו הוא גם עשיה) של המודל בהמון תחומים גבוהים בלי השוואה ליכולות של בני אדם

יכולות שקשורות לרובד קצת יותר חוויתי/מופשט/רוחני/מטאפיסי/אחר___ אין את זה לשום יצור שאינו אדם מלאך או כח רוחני אחר

החוויה אינה תהליך אלא הויה, עיבוד שלה לעומת זאת זה תהליך, וזה ההבדל בין חי לדומם ו-AI עם כל היכולות הוא דומם

שוב! אתה צודק שבמבחן התוצאה יש דברים והרבה שה-AI עולה על בן אדם אבל לא תמיד זה יעזור

[ישראל123]

@NH.LOCAL כתב:

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

[ישראל123]

@NH.LOCAL כתב:

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

[NH.LOCAL]

@ישראל123 כתב:

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

לא מכיר את המושג. אשמח מקורות או מידע נוסף בבקשה.

@ישראל123 כתב:

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

כנראה שאף פעם לא עשית עבודה אמיתית גדולה מול גרפיקאי למשל. כל עבודת עיצוב מורכבת ולא מוגדרת מספיק, כמו עיצוב מודעה, עוברת מלא סבבים בין הגרפקאי לבין הלקוח כדי להגיע לתוצר הסופי.

אם עשית משהו כזה בחיים האמיתיים בדרך שאתה מתאר, זה או כי לא עניין אותך יותר מידי התוצר, או כי אתה לא מבין בעיצוב (לשם הדוגמה).

אם זו היתה אדריכלית שמתכנתת לך את שיפוץ הבית בעלות של חצי מיליון שקל, לא היית חולם אפילו לעבוד בצורה כזו ולסמוך על האדם ש"הבין" אותך, כי יש לו "עומק".

AI אכן עדיין לא מבין מספיק ועדיין הרבה יותר קשה הבנה מבני אדם במובנים מסויימים, אך להגיד שעם בני אדם ברגע שהאדם הבין הוא כבר מבין עד הסוף והכל נגמר, ואברה קדברה זה פשוט לא נכון.

Spoiler

אגב, בכירי התעשייה מדברים שבשנים הקודמות AI יהפוך לעוזר אישי יותר ויותר, שילווה את האדם לאורך כל החיים, עם זיכרון מתמשך והקשר עצום.

ניתן להניח בזהירות ש-AI יהפוך ל"תאום הזהה" הטוב ביותר שלך בעתיד הנראה לעין, כך שהוא יחווה את הצרכים והמוצרים שלך טוב יותר מכל בן אנוש אחר.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

Spoiler

תיזהר עם תיאוריות על העולם שמבוססות על נפש האדם, בטח ובטח בתיאוריות על איך התורה מסבירה את האדם.
שלא תתאכזב או תצא מופתע.
אל תסיק מסקנות חותכות מתיאוריות מופשטות. המרחק ביניהם הוא רב ומרחב התמרון גדול מידי.

דווקא כאחד שמכיר טיפה גם את נפש האדם, ולא מנתח את הנושא רק מכובעי כמתכנת.

[רוכב שמים]

בקיצור הAI לא ירגיש כמו שאם יהיה לו גוף הוא לא יכאב גם אם יעשו לו מוליכים כימיים או ביולוגים אין מה לעשות לעולם הוא ירגיש
ונראה לי מוזר שיש פה ויכוח על רגש, זה לא דבר מובני
וכפי שאמרתי לעייל, זה כמו לקרא קידוד בתוכנה אחרת וכמו שמנסים להבין מה קורה בעולם הבא ללא זמן ומרחב אז עזבו את זה....

[רפאל vnkl]

@nh.local צריך לעשות פה הפרדה חשובה.
יש דברים שדורשים התאמה אישית, שאותם באמת צריך לשבת על כל הפרטים, מא' ועד ת', לא משנה אם זה רובוט או בן אדם. מה לעשות, בסוף בלי כוח נבואה אין דרך לדעת מה הוא מבקש.

אבל כל מה שלא דורש התאמה אישית, תבקש את זה מאדם שמבין בנושא, והוא יבין למה התכוונת.
AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

Spoiler

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.
ה AI חיפש באינטרנט, מצא את מה שראה לנכון, עבד עבד, והתוצאה...
כמובן, גוש קוד חסר תועלת. לא מתקרב אפילו למה שהיה אמור להיות.

[123 דג מלוח]

@רפאל-vnkl כתב:

AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

היום.

Spoiler

?

[רפאל vnkl]

@123-דג-מלוח כדי לדעת האם בעתיד אמור להגיע שיפור, כדאי להסתכל על העבר.
בהקשר הזה, כמעט ולא חל שינוי מהמודל הראשון. גם GPT 3.5, וגם GPT 6 astra, כולם עדיין עם אותה דפקה.

[NH.LOCAL]

@רפאל-vnkl כתב:

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.
ה AI חיפש באינטרנט, מצא את מה שראה לנכון, עבד עבד, והתוצאה...
כמובן, גוש קוד חסר תועלת. לא מתקרב אפילו למה שהיה אמור להיות.

אני חושב שאני יכול לשער למה אתה מתכוון...

כמו לבקש "תבנה לי את מגדל אייפל עכשיו! יש לך חצי שעה ותקציב של 20 שקל".
ואז הוא נותן לך כמה קוביות לגו ואתה מתפלא למה התוצאה כל כך גרועה...

@רפאל-vnkl כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@123-דג-מלוח כדי לדעת האם בעתיד אמור להגיע שיפור, כדאי להסתכל על העבר.
בהקשר הזה, כמעט ולא חל שינוי מהמודל הראשון. גם GPT 3.5, וגם GPT 6 astra, כולם עדיין עם אותה דפקה.

זה פשוט לא נכון ובאופן מאוד מאוד ברור.

או שאתה משתמש במודלים גרועים, או שהציפיות שלך גדלו מאוד בלי לשים לב.

[123 דג מלוח]

@רפאל-vnkl האם יש מודל שלמד להבין מילים לפי מנגינה? (לא רק ברמת שאלה\אמירה אלא הקשרים מסובכים יותר)
כשאתה מדבר עם גרפיקאי או מי שיהיה אתה מביע הרבה יותר מההודעות שלך למודל,
וגם אם זה בכתב, אם תתכתב עם גרפיקאי מבוצוואנה הוא יבין אותך פחות, ואם תתכתב עם ילד בן 3 או זקן בן 80 עוד פחות (האמת לא יודע בן כמה אתה ) מודל מנסה להתאים את עצמו למשתמש אבל חסר לו הרבה יותר רקע +מה שאמרתי שהוא לא מספיק מבין ניואנסים של כל האנשים בעולם (באנגלית הוא בודאי יותר טוב בקטע הזה)

[י. פל.]

@רפאל-vnkl כתב:

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.

כמובן שאתה לא מספר שהמשחק הזה בעבודה אולי עשור, הוא מורכב ברמות מטורפות, ואתה רוצה שבחיפוש אחד - בלי לראות דמואים - כי קלוד לא יכול, הוא יעשה לך עולם שלם, ואתה תתנגש בשוטרים עם המכונית שלך.
ברור, הגיוני, ובן אדם היה גומר את זה בואן שוט

Spoiler

ועל הדרך: מישהו מוכן להסביר לי למה אתרי טכנולוגיה אמורים לסקר משחקי ווידאו מטופשים???