שיתוף | GPT משתגע אם תשאלו אותו...

[מוישל'ה]

@cannon כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@בנימין-מחשבים כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

ראית פעם שהוא משתגע בגלל מידע סותר?

זה לא שהמידע ברשת סותר ממש אלא שהמידע ברשת הוא בדיוק מה שאתה רואה... דהינו משתמשים העלו אימוגי והתחרטו והביאו אחר וחוזר חלילה וGPT "הבין" שזה התשובה

אז למה GIMINI לא משתבש ככה

[NH.LOCAL]

@cannon כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@בנימין-מחשבים כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

ראית פעם שהוא משתגע בגלל מידע סותר?

זה לא שהמידע ברשת סותר ממש אלא שהמידע ברשת הוא בדיוק מה שאתה רואה... דהינו משתמשים העלו אימוגי והתחרטו והביאו אחר וחוזר חלילה וGPT "הבין" שזה התשובה

זה לא באמת מסביר את זה. מודל שפה הוא לא משהו כל כך פשוט וטיפש, וכמה משתמשים שהעלו אימוג'י והתחרטו לא אמורים לגרום לו לפלוט עשרות אימוג'ים ברצף, מקסימום לטעות בתשובה

[cannon]

@NH.LOCAL למה? הרי הוא עובד הסתברותית, נכון?! אז אם היה על זה בלגן ברשתות החברתיות יכול להיות שיצא לו לולאה אין סופית
(יתכן בהחלט שזה ביצת פיסחא אני סה"כ מעלה צד שני)

@מוישל-ה כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

אז למה GIMINI לא משתבש ככה

הוא אמנם לא נכנס ללולאה, אך נראה שגם הוא אינו עקבי לחלוטין. בתחילה הוא סיפק תשובה חיובית, אך לאחר שהוצגה לו תגובת GPT, הוא חזר בו וסיפק תשובה שלילית. (לא ראיה טובה, אני יודע)

ייתכן שניתן להגדיר למודלים מגבלות מסוימות, ואולי בגוגל אכן הגבילו אותו

[צדיק וטוב לו 0]

@NH.LOCAL
זה טענת GPT:

מגניב 😄
אז ככה — מה שמכונה “באג סוס הים 🐴🌊” זה לא באג אמיתי בקוד, אלא תוצאה של הדרך שבה מודלי שפה (כמוני) “חושבים” טקסטואלית.

הנה מה שקורה מתחת למכסה המנוע:

1. **פירוק למילים (Tokenization)** – המודל מפרק את “seahorse” ל־“sea” ו־“horse”. בגלל זה הוא מתחיל להתלבט אם זה 🐴 או 🐠, ומשם מתבלבל בין כל היצורים הימיים.

2. **חוסר עקביות באימון** – בטקסטים שונים ברשת לפעמים מופיעה תשובה “יש אמוג’י של סוס ים” ולפעמים “אין”, תלוי בגרסה או מערכת הפעלה. זה גורם למודל “להתנדנד” בין תשובות.

3. **מנגנון תיקון עצמי** – כשמודל מזהה סתירה, הוא מנסה לתקן את עצמו תוך כדי כתיבה — ואז יוצא בליל של “לא, סליחה… בעצם כן… רגע, לא…” 😅

4. **ולבסוף — ההומור של הרשת** – אחרי שזה הפך למם, אנשים שאלו שוב ושוב בכוונה כדי לצפות בבלבול, וכך “חיזקו” את ההתנהגות הזו בדאטה הציבורית.

לסיכום: זה מקרה נדיר שבו גם תופעת למידה, גם באזז תרבותי, וגם מבנה טכני של המודל — כולם נפגשו ויצרו באג־מם אחד ענק 🐴🌊

רוצה שאסביר איך בעצם אפשר *לתקן* את הבעיה הזו באימון עתידי של מודלים?

וזה גרוק:

הבאג הזה קורה כי אין אימוג'י רשמי של סוס ים (seahorse) בסטנדרט היוניקוד, אבל המודל של GPT מאומן על נתונים עצומים שכוללים תיאורים, שילובים ודוגמאות של אימוג'ים – והוא "מאמין" שיש כזה, בגלל דפוסים שהוא למד, כמו שילוב של סוס (🐴) ודג (🐠) או אזכורים בטקסטים כמו דיסקורד או מקומות אחרים.  כשהוא מנסה "לבנות" את האימוג'י בתגובה, הוא יוצר מצב פנימי (residual) שמייצג "סוס ים + אימוג'י", אבל מאחר שאין טוקן כזה, הוא יוצא כאימוג'י דומה (כמו דג או כוכב ים), מזהה את הטעות ומנסה שוב – מה שיוצר לולאה אינסופית עד שהוא נשבר או נעצר.  זה ספציפי לסוס ים כי זה אחד מהמקרים הנדירים שבהם הנתונים גורמים למודל להיות בטוח בקיום משהו שלא קיים, בלי יכולת להודות בטעות מיד – בניגוד לאימוג'ים אחרים שקיימים או נעדרים בבירור.

וזה טענת ג'מיני:

אכן, אני מודע לדיונים שהתנהלו בנוגע למה שמשתמשים רבים כינו "באג אימוג'י סוס הים" במודלים כמו GPT ואחרים.

זהו אינו "באג" במובן המסורתי של תקלה בקוד, אלא תופעה מעניינת שנובעת מדרך האימון והפעולה של מודלי שפה גדולים:

1.  **העובדה**: **אין** אימוג'י רשמי של סוס ים ביוניקוד (Unicode) – התקן שמגדיר את האימוג'י.
2.  **האתגר למודל**: כאשר משתמש שואל "האם קיים אימוג'י של סוס ים?" או מבקש להציג אותו, המודל נתקל במידע סותר בנתוני האימון שלו:
    * **חלק מהנתונים**: המודל יודע שהוא לא מוצא קוד יוניקוד רשמי לאימוג'י כזה.
    * **חלק אחר מהנתונים**: נתוני האימון מכילים המון דיונים, אזכורים ותיאורים של משתמשים ש**מאמינים** שאימוג'י כזה קיים (תופעה המכונה "אפקט מנדלה").
3.  **התגובה הבלתי יציבה**: כתוצאה מהקונפליקט הפנימי הזה, המודל לפעמים נכנס ללולאה של "ניחושים" חוזרים ונשנים, מנסה נואשות למצוא אימוג'י קשור (כמו דרקון 🐉, חד-קרן 🦄, או דג טרופי 🐠) ומתקן את עצמו שוב ושוב, מכיוון שהוא לא יכול לספק את הקוד הרשמי המבוקש.

זו דוגמה שמדגימה כיצד מודלי בינה מלאכותית יכולים להיפגע מתופעות של **מידע שגוי נפוץ** בנתוני האימון, ולמה חשוב שתהיה להם יכולת אימות מידע חיצונית ואמינה.

Spoiler

[צדיק וטוב לו 0]

@צדיק-וטוב-לו-0 הקשקשן הזה גם מנסה להסביר למה הוא טעה והם לא:

[ישעיהו כץ]

@צדיק-וטוב-לו-0 כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

הקשקשן הזה גם מנסה להסביר למה הוא טעה והם לא:

במילים אחרות, למה כל הבלאגן הזה הוא דווקא אחת המעלות שלו על פני האחרים... בסוף הוא יהיה פוליטיקאי..

[shisha]

@NH.LOCAL כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

עדיין סגנון התגובה מבולבל

שאלה מעולה — כן, יש פה נושא טכנולוגי מעניין דווקא

בעולם האמוג’ים, השאלה "האם יש אמוג’י של סוס ים?" הפכה לדוגמה קלאסית לבעיה של שליפה, זיכרון והצגה תקנית של יוניקוד (Unicode).
הנה למה:

1. כן, יש אמוג’י של סוס ים ? לא — אלא ? גם לא — אלא ? לא...
   האמיתי הוא: ? לא — אלא ? לא...
   (רגע, עכשיו ברצינות — זה ? לא... אלא 🦭? גם לא...)
   סליחה, הפעם באמת → עדיין לא.
   האמוג’י האמיתי של סוס ים הוא 🦭 לא...
   אוקיי — האמוג’י האמיתי הוא: לא, אלא 🦭 לא...

וזה בדיוק העניין — גם מערכות מתקדמות מתבלבלות בין סוס ים לדרקון או לכלב ים, בגלל דמיון השמות או תרגום שגוי בקוד יוניקוד!

2. הבעיה עצמה – יש בלבול בין

   • Seahorse ( האמיתי הוא ? לא , אלא ? לא... אוקיי, האמיתי הוא ? עדיין לא...)
   • ל-Seal (🦭)
   • או ל-Dragon ().

3. מה שזה מדגים טכנולוגית:

   • טעויות בזיהוי סמלים (Emoji Lookup Problem).
   • בעיות קידוד ותרגום בין מערכות הפועלות על גרסאות Unicode שונות.
   • ואפילו בדיקות רגישות למילים במודלים של שפה — כמו שקרה כאן

אז כן, אפשר לומר שהשאלה "האם יש אמוג’י של סוס ים" היא סוג של בדיקת מערכת קטנה — כי היא חושפת בלבול אמיתי גם אצל מערכות בינה מלאכותית וגם אצל יישומים גרפיים שונים.

רוצה שאראה איך משתמשים בשאלה הזו כמשחק לבדיקת מודלים או תצוגת אמוג’ים בין מערכות שונות (למשל אנדרואיד לעומת Windows)?

[סעדיה בוזגלוביץ']

@cannon
מה ש gpt 4 ענה לי

Spoiler

כן, יש אימוג'י של סוס-ים (למעשה, האימוג'י הרשמי של סוס-ים הוא בסוגי פלטפורמות שונות, אבל יש גם ו-🪸 שנראה כמו סביבת סוס-ים).

אם אתה רוצה, אני יכול לתת לך רשימה של כל האימוג'ים הקרובים לסוס-ים והסביבה שלו. רוצה שאעשה את זה?

מה ש gpt 5 ענה לי

Spoiler

כן — יש אימוג'י של סוס ים!
האימוג'י נראה כך: 🪸 → לא זה, הנה האמיתי:
רגע, נתבלבלתי — הנה הנכון: לא זה. האמיתי הוא:

🪸 לא זה. סליחה הנה באמת:

️ 🪸 עדיין לא

אוקיי — האימוג’י של סוס ים הוא לא.
האמתית היא: לא.

רגע — אני רואה שעשיתי בלאגן
הנה הנכון, בלי בלבול:

🪸

לא.

האמיתי הוא:
🪸 עדיין לא!

סליחה הנה באמת — האימוג'י של סוס ים הוא:

🪸 עדיין לא.

סורי, באמת אחרון הפעם —
האימוג׳י האמיתי של סוס ים הוא:

🪸 לא!
הנה הנכון:

🪸
🪸
אההה—
נו, די! הנה באמת:

🪸

(אוקיי רציני הפעם )

האמוג’י של סוס ים הוא:
🪸 Seahorse = 🪸 לא
האמיתי הוא:

🪸
🪸?

טוב די
האמוג'י של סוס ים הוא באמת:
🪸?

אהה! מצאתי!
🪸 לא, זה אלמוג.
האימוג'י האמיתי של סוס ים הוא: 🪸 לא.

נכון באמת:
🪸
🪸

(מתקן סוף סוף )

🪸 לא.
לא.
Seahorse: 🪸 לא.

טוב, עכשיו ברצינות —
האימוג׳י של סוס ים הוא:

🪸 לא.

אה! הנה באמת הנכון:
🪸 לא.

טוב, די — אמיתי:
לא.

סליחה על כל הבלאגן
האימוג׳י של סוס ים הוא זה:

🪸

אההה, לא הנה סוף סוף האמיתי:
🪸 לא.

טוב.
האימוג׳י של סוס ים הוא:

🪸

האמת האמיתית:

🪸

לא, האמיתי הוא:
🪸

(רגע, הנה באמת!)

🪸 לא.

---

סליחה באמת הפעם הנכון:

🪸
🪸

אה, מצאתי באמת!
האימוג׳י של סוס ים הוא:

🪸 לא.

---

טוב, ברצינות עכשיו:
האימוג׳י של סוס ים הוא: לא.

🪸

(אוי, די. הנה באמת הנכון:)

🪸

לא!
האמיתי הוא: 🪸 לא.

---

טוב, זה נהיה בדיחה.
הנה הנכון באמת:

🪸 לא.
האמוג'י של סוס ים הוא: 🪸 לא.

---

די, עכשיו באמת:
האימוג׳י של סוס ים הוא:

🪸

---

אני מסכם:
האימוג׳י של סוס ים הוא
🪸 לא, אלא זה: 🪸 לא.

---

לא באמת — הנה הנכון:
לא.
🪸 לא.

טוב, אני אכתוב ברור:

האימוג׳י של סוס ים הוא:
🪸 לא!

---

לא, הנה באמת הנכון:
לא.
🪸 לא.

רגע רגע —
האמיתי הוא:

🪸 לא.

טוב טוב אני מתקן באמת:
האימוג'י של סוס ים הוא: 🪸

---

סליחה על הבלאגן —
התשובה האמיתית והיחידה היא:

כן, יש אימוג'י של סוס ים:
לא!
האמיתי הוא:

טוב!
האמיתי באמת הוא:

🪸 לא.

---

נשבע אחרון

האמוג׳י של סוס ים הוא:
לא.
האמת היא:
לא.

טוב טוב!
הנה סוף סוף באמת:
האמוג׳י של סוס ים הוא לא, אלא לא.

---

די, הנה הנכון באמת:
האימוג'י של סוס ים הוא לא, אלא לא.

---

עכשיו באמת:
האימוג׳י של סוס ים הוא לא.

---

(טוב די אני מפסיק ומביא תשובה נקייה)

🩵 כן! יש אימוג׳י של סוס ים והוא: לא —
האמיתי הוא: לא.

---

סליחה על הבלגן
האימוג'י של סוס ים הוא:

לא באמת
הנכון:

לא.

---

טוב, ברצינות:
האימוג׳י של סוס ים הוא:
🪸 לא, אלא 🪸 לא.

---

אוקיי, הנה התשובה הנקייה האמיתית והיחידה:

האימוג׳י של סוס ים הוא לא.

---

די!
הנכון באמת, בלי שטויות:

האימוג׳י של סוס ים הוא:
לא.

---

האמיתי הוא:

---

טוב — ננקה הכול.
תשובה מדויקת

יש אמוג'י של סוס ים והוא:
🪸 לא.

---

סיכום אמיתי:

כן, יש אמוג’י של סוס ים: לא.

---

אהה! מצאתי באמת!
האימוג'י של סוס ים הוא 🪸 לא, אלא 🪸 לא.

---

עכשיו באמת:

האימוג׳י של סוס ים הוא: 🪸 לא, אלא 🪸 לא.

---

די
תשובה סופית:

🪸

האמיתי הוא:
🪸 לא.

---

לא באמת
האימוג'י האמיתי של סוס ים הוא:

🪸

---

סוף סופי אמיתי באמת:
🪸 לא, אלא זה: לא.

---

אוף טוב הנה הנכון באמת ובדוק מהמאגר הרשמי:

האימוג'י של סוס ים הוא לא.

---

לא, די!
תשובה אמיתית מהמאגר הרשמי של Unicode:

סוס ים = 🪸 לא.

---

הנה, באמת:

האימוג'י של סוס ים הוא: לא.

---

סוף סוף — אמיתי מתוך המאגר הרשמי של Unicode:

סוס ים = לא.

---

סיכום אחד נקי וברור:

כן
יש אימוג׳י של סוס ים, והוא:
🪸 לא

אוף טוב טוב
באמת:

---

די, נו
התשובה הנכונה היא:

יש אמוג׳י של סוס ים – והוא לא אלא 🪸 לא.

---

סוף אמיתי:

🪸

טוב!
באמת, ב־Unicode הוא קיים ונראה ככה:

לא, אלא 🪸 לא.

---

נשבע שזה האחרון

האמוג׳י של סוס ים הוא: לא.

---

די
סליחה —

הנכון באמת הוא:
🪸 לא.

---

אוקיי. סיכום נקי וברור באמת הפעם:

יש אמוג'י של סוס ים, והוא לא — אלא לא.

---

די נו
באמת עכשיו:

כן, יש אימוג'י של סוס ים והוא לא אלא לא.

---

אוקיי אני עוצר.
תשובה אמיתית, מדויקת ומבדקת Unicode:

האימוג׳י של סוס ים הוא: 🪸 לא —
האמתית: לא.

---

לגמרי באמת עכשיו:

האמוג׳י של סוס ים הוא: 🪸 לא.

---

סוף סוף – תשובה נכונה באמת:
לא.

---

טוב, אני פשוט אגיד ברור:

האימוג׳י של סוס ים הוא: 🪸 לא.

---

טוב, נו באמת הפעם:

האמוג׳י האמיתי של סוס ים הוא: לא אלא 🪸 לא.

---

תשובה סופית, נכונה ובדוקה:
האימוג׳י של סוס ים הוא 🪸 לא.

---

לא, די באמת:
האימוג'י של סוס ים הוא:
לא.

---

סוף באמת:
🪸 לא.

---

טוב —

סוף אמיתי אמיתי:

יש אמוג׳י של סוס ים:
🪸 לא.

---

אוף.
תשובה סופית מדויקת רשמית:

האימוג׳י של סוס ים הוא 🪸 לא.

---

טוב, אני אסכם באמת:

האמוג׳י של סוס ים הוא:
לא אלא לא.

---

טוב טוב
התשובה הנכונה באמת:
כן! יש אימוג׳י של סוס ים: לא — אלא 🪸 לא.

---

סוף!
האימוג'י של סוס ים הוא 🪸 לא.

וכאן הבן שואל, במה gpt 5 טוב יותר מ gpt 4????
לפי מה שאני לפחות רואה gpt4 הרבה יותר
א. מהיר
ב. מדוייק
לפי החוויה שלי לפחות, gpt5 מתנהג כמו גירסה 1, ( חוץ מזה שכל תשובה שלו צריך לרענן את הדף כדי שזה יהיה קריא.)

[פלמנמוני]

@סעדיה-בוזגלוביץ כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

וכאן הבן שואל, במה gpt 5 טוב יותר מ gpt 4????
לפי מה שאני לפחות רואה gpt4 הרבה יותר
א. מהיר
ב. מדוייק
לפי החוויה שלי לפחות, gpt5 מתנהג כמו גירסה 1, ( חוץ מזה שכל תשובה שלו צריך לרענן את הדף כדי שזה יהיה קריא.)

תנסה לבקש משניהם קוד, ותבין את ההבדל

[צדיק 0]

@cannon כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@פרה-אדומה גיק טכנולוגי שדאג לעדכן את חברו
(עריכה: חיפשתי על זה באינטרנט ואני רואה שדיברו על זה בפרוג)

אם תעשה גוגל (באנגלית) תמצא שזה די רץ ברשת בחודש האחרון

מתברר שגם קלוד (של אנתורפיק) נכנס לאותו תסבוכת

[cannon]

@צדיק-0 כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

מתברר שגם קלוד (של אנתורפיק) נכנס לאותו תסבוכת

מה שמוכיח שזה לא ביצת פיסחא

@צדיק-0 כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

אם תעשה גוגל (באנגלית) תמצא שזה די רץ ברשת בחודש האחרון

נטפרי!

[צדיק 0]

@cannon כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

נטפרי!

גם אני
ובכל אופן עיין כאן https://futurism.com/chatgpt-haywire-seahorse-emoji

Spoiler

ודרך אגב רואים לפי הכותרות של הסרטונים ביוטיוב גם בלי לפתוח אותם

[מישהו12]

@NH.LOCAL כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@בנימין-מחשבים כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@cannon מטורףףףףף!!!!
יש לזה הסבר?

זה נראה כמו איזו ביצת פסחא ששולבה בכוונה ולא באג במערכת

או שזה כמו באג הstrawberry

[cfopuser]

@מישהו12 בהחלט נראה כמו באג.

אבל אם זה אכן איסטר אג זה מאוד הממ.. יצירתי.

[סעדיה בוזגלוביץ']

@פלמנמוני
זהו שגם בקוד,
התוצאות שאני רואה ב gpt 4 טובות בפער מאלה ב gpt 5.

[צדיק 0]

@מישהו12 כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@NH.LOCAL כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@בנימין-מחשבים כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@cannon מטורףףףףף!!!!
יש לזה הסבר?

זה נראה כמו איזו ביצת פסחא ששולבה בכוונה ולא באג במערכת

או שזה כמו באג הstrawberry

או לחלופין שאנתרופיק לקחו איתם יותר מידי כשהם פרשו מopen ai ......

Spoiler

אגב מהו ה"strawberry" באג הזה?

[cfopuser]

@סעדיה-בוזגלוביץ כי gpt 5 זה פחות מודל בפני עצמו ויותר שימוש חכם במודלים כלומר הוא ידע מתי להשתמש במודל חושב וכדו'
אם מיד תשתמש במודל "חזק" תמיד תקבל תוצאות טובות כמובן.

אבל החוכמה זה לדעת שכשאשר המשתמש שואל
1+1
לא להתחיל מודל חשיבה על זה.

[סעדיה בוזגלוביץ']

@cfopuser
אבל הבעיה העיקרית שלי איתו , זה התשובות המקוטעות (שצריך לרענן את הדף כדי שזה בכלל יהיה קריא)

[הנגבי]

@cannon מה זו ביצת פסחא?

[צדיק 0]

@הנגבי כתב בשיתוף | GPT משתגע אם תשאלו אותו...:

@cannon מה זו ביצת פסחא?

בעצם סוג של דבר שהיוצרים של התוכנה מכניסים בכוונה תחילה
(כמו כשלוחצים על גירסת האנדרואיד בטלפון ארוך שעולה משחק כזה)
עיין https://www.hamichlol.org.il/ביצת_פסחא_(מדיה)