בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

ישראל123

@רפאל-vnkl כתב:

עמוקה

יפה אמרת! אצל המודל אין באמת עומק

רוטב שום

@רפאל-vnkl אני חושב שאתה טועה,
אז מישהוא אמר פה את העיקרון הזה ומאוד אהבתי אותו,
כל מודל גם ההכי טיפש יכול לבנות הכל, השאלה כמה תצטרך להסביר לו עד שהוא יבין אותך,
אבל כבר היום אם תלך לאופוס 5.5 ותגיד לי "תבנה לי תוכנה מטורפת ושימושית"
הוא יוכל להוציא לך משהו שלא חלמת עליו

ישראל123

@רוטב-שום אתה צודק
אבל זו בדיוק הנקודה אצל המודל אין ייצוג של "אתה" (המשתמש) ששומר בתוכו מבנה world בשונה מבן אדם שיש לו "עולם" מלא עבור כל אדם
ממילא כאשר אני מבקש ממך תוכנה אתה תבין מה אני רוצה בשונה מהמודל שיכול לשאול אותי 469 (!) שאלות ועדיין לא לתפוס את הנקודה

NH.LOCAL

@רפאל-vnkl כתב:

דווקא אני מסכים עם @ישראל123
אדם מבין הרבה יותר ממה שנאמר במפורש
אם אתה רוצה למשל לבנות תוכנה מסוימת, אם תרצה לבנות את זה עם AI, תצטרך להשקיע המון לכתוב את הפרומפט כדי שהוא יבין את הכיוון, וגם אחר כך לעבוד איתו שעות כדי שהתוצאה תצא מה שהתכוונת אליו.

לעומת זאת, אם תגיד לאדם לבנות את התוכנה הזאת, הוא פשוט יבנה את התוכנה כמו שרצית. מקסימום הוא לפני זה ישאל אותך כמה מקצועי אתה תרצה את התוכנה.

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

או שאף פעם לא ניסית, או שהפרילנסר הוא במקרה התאום הזהה שלך.

כלומר לאדם יש הבנה הרבה יותר עמוקה מ AI, בפער.

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

@ישראל123 כתב:

יפה אמרת! אצל המודל אין באמת עומק

"אין באמת עומק"? באמת? מה זה בכלל "עומק"?

רמז: הגדרה גמישה של כל מה ש-AI עדיין לא יכול לעשות.

ישראל123

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

@NH.LOCAL כתב:

אין באמת עומק? מה זה "עומק"?

רמז: כל מה ש-AI עדיין לא יכול לעשות.

עומק לא שייך במובן של עשיה וזו בדיוק הנקודה

אני מסכים איתך בכך שיכולות העשיה (עיבוד טקסט לכל סוגיו הוא גם עשיה) של המודל בהמון תחומים גבוהים בלי השוואה ליכולות של בני אדם

יכולות שקשורות לרובד קצת יותר חוויתי/מופשט/רוחני/מטאפיסי/אחר___ אין את זה לשום יצור שאינו אדם מלאך או כח רוחני אחר

החוויה אינה תהליך אלא הויה, עיבוד שלה לעומת זאת זה תהליך, וזה ההבדל בין חי לדומם ו-AI עם כל היכולות הוא דומם

שוב! אתה צודק שבמבחן התוצאה יש דברים והרבה שה-AI עולה על בן אדם אבל לא תמיד זה יעזור

ישראל123

@NH.LOCAL כתב:

כן? ניסית פעם לבקש מפרילנסר לבנות לך תוכנה או מגרפיקאי לעצב לך מודעה, ובמשפט הסבר אחד הוא נתן לך תוצאה מושלמת, בלי תיקונים ובלי שהיית צריך להסביר לו שעה בטלפון מה בדיוק אתה רוצה?

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

ישראל123

@NH.LOCAL כתב:

זה נכון בהיבטים מסוימים, אין ספק. העניין הוא ש @ישראל123 הפך את זה ליכולת יחודית לבני אדם, ש-AI לעולם לא יוכל לחקות. אין שום סיבה אמיתית להניח את זה.

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

NH.LOCAL

@ישראל123 כתב:

@NH.LOCAL הרעיון שלי מתבסס על מושג האחד האמיתי

לא מכיר את המושג. אשמח מקורות או מידע נוסף בבקשה.

@ישראל123 כתב:

נכון. אבל אחרי שהוא הבין באמת שוב לא הייתי צריך להסביר לו אפילו פעם אחת. מבחינתי יש נקודה שהיא המוצר, זה לא רכיב מסוים ולא קוד כלשהו זה רעיון מופשט שלתוכו מתנקזים כל הפרטים בסדר הגיוני
אני והמתכנת האנושי חווים את המוצר וזה בהתאם לטוב ולמוטב ה-AI לא גם כן לטוב ולמוטב

כנראה שאף פעם לא עשית עבודה אמיתית גדולה מול גרפיקאי למשל. כל עבודת עיצוב מורכבת ולא מוגדרת מספיק, כמו עיצוב מודעה, עוברת מלא סבבים בין הגרפקאי לבין הלקוח כדי להגיע לתוצר הסופי.

אם עשית משהו כזה בחיים האמיתיים בדרך שאתה מתאר, זה או כי לא עניין אותך יותר מידי התוצר, או כי אתה לא מבין בעיצוב (לשם הדוגמה).

אם זו היתה אדריכלית שמתכנתת לך את שיפוץ הבית בעלות של חצי מיליון שקל, לא היית חולם אפילו לעבוד בצורה כזו ולסמוך על האדם ש"הבין" אותך, כי יש לו "עומק".

AI אכן עדיין לא מבין מספיק ועדיין הרבה יותר קשה הבנה מבני אדם במובנים מסויימים, אך להגיד שעם בני אדם ברגע שהאדם הבין הוא כבר מבין עד הסוף והכל נגמר, ואברה קדברה זה פשוט לא נכון.

אגב, בכירי התעשייה מדברים שבשנים הקודמות AI יהפוך לעוזר אישי יותר ויותר, שילווה את האדם לאורך כל החיים, עם זיכרון מתמשך והקשר עצום.

ניתן להניח בזהירות ש-AI יהפוך ל"תאום הזהה" הטוב ביותר שלך בעתיד הנראה לעין, כך שהוא יחווה את הצרכים והמוצרים שלך טוב יותר מכל בן אנוש אחר.

@ישראל123 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

אתה מגיע מתחום התוכנה וסביר להניח שבזה אתה מבין פי מיליון ממני
אני מגיע מכיוון נפש האדם והצורה בה התורה מסבירה את האדם ומשם רואים לא ש-AI לא אלא שכל מה שהוא לא אדם לא

תיזהר עם תיאוריות על העולם שמבוססות על נפש האדם, בטח ובטח בתיאוריות על איך התורה מסבירה את האדם.
שלא תתאכזב או תצא מופתע.
אל תסיק מסקנות חותכות מתיאוריות מופשטות. המרחק ביניהם הוא רב ומרחב התמרון גדול מידי.

דווקא כאחד שמכיר טיפה גם את נפש האדם, ולא מנתח את הנושא רק מכובעי כמתכנת.

רוכב שמים

בקיצור הAI לא ירגיש כמו שאם יהיה לו גוף הוא לא יכאב גם אם יעשו לו מוליכים כימיים או ביולוגים אין מה לעשות לעולם הוא ירגיש
ונראה לי מוזר שיש פה ויכוח על רגש, זה לא דבר מובני
וכפי שאמרתי לעייל, זה כמו לקרא קידוד בתוכנה אחרת וכמו שמנסים להבין מה קורה בעולם הבא ללא זמן ומרחב אז עזבו את זה....

רפאל vnkl

@nh.local צריך לעשות פה הפרדה חשובה.
יש דברים שדורשים התאמה אישית, שאותם באמת צריך לשבת על כל הפרטים, מא' ועד ת', לא משנה אם זה רובוט או בן אדם. מה לעשות, בסוף בלי כוח נבואה אין דרך לדעת מה הוא מבקש.

אבל כל מה שלא דורש התאמה אישית, תבקש את זה מאדם שמבין בנושא, והוא יבין למה התכוונת.
AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.
ה AI חיפש באינטרנט, מצא את מה שראה לנכון, עבד עבד, והתוצאה...
כמובן, גוש קוד חסר תועלת. לא מתקרב אפילו למה שהיה אמור להיות.

123 דג מלוח

@רפאל-vnkl כתב:

AI, פשוט לא, כל עוד לא תפרט לו ברחל בתך הקטנה, וגם על זה לחזור 20 פעם.

היום.

?

רפאל vnkl

@123-דג-מלוח כדי לדעת האם בעתיד אמור להגיע שיפור, כדאי להסתכל על העבר.
בהקשר הזה, כמעט ולא חל שינוי מהמודל הראשון. גם GPT 3.5, וגם GPT 6 astra, כולם עדיין עם אותה דפקה.

NH.LOCAL

@רפאל-vnkl כתב:

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.
ה AI חיפש באינטרנט, מצא את מה שראה לנכון, עבד עבד, והתוצאה...
כמובן, גוש קוד חסר תועלת. לא מתקרב אפילו למה שהיה אמור להיות.

אני חושב שאני יכול לשער למה אתה מתכוון...

כמו לבקש "תבנה לי את מגדל אייפל עכשיו! יש לך חצי שעה ותקציב של 20 שקל".
ואז הוא נותן לך כמה קוביות לגו ואתה מתפלא למה התוצאה כל כך גרועה...

@רפאל-vnkl כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:

@123-דג-מלוח כדי לדעת האם בעתיד אמור להגיע שיפור, כדאי להסתכל על העבר.
בהקשר הזה, כמעט ולא חל שינוי מהמודל הראשון. גם GPT 3.5, וגם GPT 6 astra, כולם עדיין עם אותה דפקה.

זה פשוט לא נכון ובאופן מאוד מאוד ברור.

או שאתה משתמש במודלים גרועים, או שהציפיות שלך גדלו מאוד בלי לשים לב.

123 דג מלוח

@רפאל-vnkl האם יש מודל שלמד להבין מילים לפי מנגינה? (לא רק ברמת שאלה\אמירה אלא הקשרים מסובכים יותר)
כשאתה מדבר עם גרפיקאי או מי שיהיה אתה מביע הרבה יותר מההודעות שלך למודל,
וגם אם זה בכתב, אם תתכתב עם גרפיקאי מבוצוואנה הוא יבין אותך פחות, ואם תתכתב עם ילד בן 3 או זקן בן 80 עוד פחות (האמת לא יודע בן כמה אתה ) מודל מנסה להתאים את עצמו למשתמש אבל חסר לו הרבה יותר רקע +מה שאמרתי שהוא לא מספיק מבין ניואנסים של כל האנשים בעולם (באנגלית הוא בודאי יותר טוב בקטע הזה)

י. פל.

@רפאל-vnkl כתב:

למשל, לאחרונה ניסיתי ליצור איזה משחק אחד (שלא קיים עדיין - עומד לצאת) עם ה AI, שהיה עליו כמויות של מידע ברשת, וכל מי שמכיר את זה יודע פחות או יותר איך זה אמור להיראות.

כמובן שאתה לא מספר שהמשחק הזה בעבודה אולי עשור, הוא מורכב ברמות מטורפות, ואתה רוצה שבחיפוש אחד - בלי לראות דמואים - כי קלוד לא יכול, הוא יעשה לך עולם שלם, ואתה תתנגש בשוטרים עם המכונית שלך.
ברור, הגיוני, ובן אדם היה גומר את זה בואן שוט

ועל הדרך: מישהו מוכן להסביר לי למה אתרי טכנולוגיה אמורים לסקר משחקי ווידאו מטופשים???

ישראל123

פוסט זה נמחק!

רפאל vnkl

@י.-פל. @nh.local לא מדובר ב GTA 6, ברור לי ש AI בעצמו לא יכול לעשות את זה. מדובר במשהו אחר לגמרי, קל בהרבה.

ולא תבינו לא נכון - עם הפרומפט(ים) הנכון אנשים הצליחו לעשות את זה.
זה עניין של כמה אתה מפרט.

NH.LOCAL

@י.-פל. כתב:

ועל הדרך: מישהו מוכן להסביר לי למה אתרי טכנולוגיה אמורים לסקר משחקי ווידאו מטופשים???

יש דברים שהם תוצר לוואי של היותך גיק. כמו שכל נהגי המונית ביביסטים, וכל הקבלנים אוהבים קפה שחור.
עבור מתכנת לאהוב ספרים, משחקים או סרטים מסויימים, או משוגעים על הספרה 42, זה כמעט חלק מהמקצוע...

@רפאל-vnkl כתב:

ולא תבינו לא נכון - עם הפרומפט(ים) הנכון אנשים הצליחו לעשות את זה.
זה עניין של כמה אתה מפרט.

זה לא רק עניין של פירוט. בכלל לא. זה עניין של שימוש בכלים הנכונים, המודל הנכון, עם המיומנויות הנכונות, ולכוון אותו בצורה הנכונה

לפעמים כמה משפטים קצרים טובים יותר מנאומים שלמים.

שלץ

> @NH.LOCAL כתב:

כל נהגי המונית ביביסטים

באמת!?

@NH.LOCAL כתב:

משוגעים על הספרה 42

אתה מכיר את המקור? (של התשובה לחיים, היקום וכו')

רפאל vnkl

@NH.LOCAL כתב:

זה עניין של שימוש בכלים הנכונים, המודל הנכון, עם המיומנויות הנכונות,

מעניין, קודקס עם GPT 6 SOL לא טוב?

ולכוון אותו בצורה הנכונה

זאת בדיוק הבעיה. אותו צריך לכוון, שעות, כי הוא לא מבין. אדם אתה לא צריך לכוון כל כך הרבה.