המלצה | שימו לב AI Hallucination [או הזיות של ה-AI בשבילכם]
-
איך זה יתכן? איפה כל המידע שלו?
בדיוק כמו שאתה לא זוכר כל מספר טלפון ששמעת בעבר, או כל טקסט בפרסומת שקראת.
את התנ"ך הוא יודע בעל פה, כי הוא שינן אותו אינסוף פעמים במאות שפות, אבל נתונים על סופרים חרדיים שהוא ראה פעם או פעמיים בויקיפדיה ומקומות אחרים לא נחרטים בצורה כזו. ביחוד כשמודל עובר זיקוק, שמסיר ממנו חלק גדול מהמשקלים שלו ומשאיר את המידע החשוב ביותר.
AI דומה לבני אדם באופן מפתיע.
-
מהיום
GPT הכניס לי לקוד מודל gemini-2.5-flash-lite שנראה לי שכיום כבר אינו קיים, אך גם גמיני עלה על זה כשבקשתי הערות על הקוד, וזל"ק:
שם המודל של Gemini:
בקוד מוגדר: gemini-2.5-flash-lite. נכון להיום, המודל הרשמי ל-Lite הוא לרוב gemini-2.0-flash-lite (או gemini-1.5-flash ליציב). מודל שלא קיים יחזיר שגיאת HTTP 404/400.בינתיים אמרתי לGPT להפעיל את gemini-3.5-flash-lite והוא לפחות הבין ותיקן, שלחתי שוב לגמיני [בשביל דברים אחרים] וזל"ק:
3. מודל Gemini ועדכניות שמות מודלים
ב-background.js:
code
JavaScript
const GEMINI_MODEL = "gemini-3.5-flash-lite";
שים לב ששם מודל זה עשוי להיות לא תקין ב-Google AI Studio API / Generative Language API.
ב-Google API המודלים הזמינים ל-Flash Lite הם בדרך כלל gemini-2.0-flash-lite (או gemini-1.5-flash). אם ה-API יחזיר שגיאת HTTP 404 Model Not Found, מומלץ להחזיק שם מודל מוכח ונתמך, או לאפשר למשתמש לבחור/להגדיר את שם המודל ב-Options.עד שבפעם הבאה נאלצתי לבקש ממנו לא להתייחס לשם המודל.
-
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה זה לא נכון וכן על זה הדרך. -
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה זה לא נכון וכן על זה הדרך.הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
-
@עניו-כמשה בחרת בדוגמה פחות מוצלחת, כיוון שזה דבר שידוע שהמודלים טועים בו כבר שנים ומשום מה גם לא עוזר לשכנע אותם בטעות
@ע-ה-דכו-ע זה מה שעלה בחכה
הייתה עוד דוגמא עכשיו שגמיני החליט שהמודל הכי מתקדם בקוד זה תקשיבו טוב... SONNET 3.5 המתקדם ביותר מבית אנתרופיק!! -
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
-
-
@עניו-כמשה אבל ג'מיני הוא ידוע כדוגמה לא-מוצלחת של ai מעודכן...
אא"כ הכוונה לג'מיני 4...
-
@עניו-כמשה בדיוק בדקתי במקרה אתמול הזיות עם GPT. הוא היה עם אפס הזיות.
כדי לבדוק אותו בצורה אמינה הפעלתי אותו ללא זיכרון והיסטוריה במצב זמני, והורתי בבירור לא לחפש באינטרנט.
ביקשתי מידע על סופרים חרדים כמו מ. ארבל, יונה ספיר וכדומה.
בכולם המידע שהוא הביא היה מהימן ומדויק, והוא ידע לומר בצורה ברורה: "מ. ארבל הוא סופר לציבור החרדי, אני חושב שזה שם עט, אבל אני לא זוכר בוודאות את השם המקורי."
בדקתי עם כמה סופרים נוספים והכל היה מדויק ללא שום הזיות, ועם הודאה ברורה במקרים שהוא לא ידע.
בקיצור: ג'מיני הוא מוצר נחות ומיושן בתחום הזה לפי איך שזה נראה, שפשוט לא מייצג את מודלי החזית.
ביחוד אם השתמשת במודל החינמי ג'מיני פלאש לייט, שבבירור לא מייצג מודלים בעלי יכולת גבוהה!הטעות המרכזית היא לבחון את יכולות המודלים כיום, עם מודלי צעצוע חינמיים בעלות אפס וברמה מינוס.
והבעיה הגדולה יותר? זה בדיוק מה שהמשתמשים החינמיים מקבלים.בצ’אט GPT זה מודל Luna הזעיר. ובג’מיני זה מודל הפלאש לייט, ששמו מעיד עליו.
מודלים נהדרים ביחס למחיר, אבל רחוקים מאוד מביצועי הפרונט של 2026.@NH.LOCAL ג'מיני מכיר הרבה יותר מבפנים את הציבור החרדי
אגב אותה שאלה ששאלת שמתי בספויילר מה שג'מיני ענה לי בAI STUDIO (במקרה יש לי גם מנוי, אבל זה לא נפק"מ לכאו'), לא יודע אם זה נכון הכל או לא כי אני עצמי לא מספיק מכיר...
מ. ארבל הוא שם העט של הסופר והעיתונאי החרדי יאיר וינשטוק.
הנה עיקרי הדברים עליו:
מי הוא ומה ייחודו?
- חלוץ ז'אנר המתח החרדי: עד לפריצתו בשנות ה-90, הספרות החרדית התמקדה בעיקר בסיפורי צדיקים, היסטוריה יהודית וספרות חינוכית/רגשית. מ. ארבל היה הראשון שיצר במגזר ספרי מתח, ריגול ופעולה ברמה עלילתית גבוהה ובקצב מהיר (בסגנון מערבי קלאסי), אך תוך התאמה קפדנית לכללי הצניעות וההשקפה החרדית.
- נושאי הכתיבה: ספריו עוסקים לרוב בפרשיות ריגול בינלאומיות (המוסד, השב"כ, הקג"ב/רוסיה), כתות, מאפיות, עסקאות נשק, היסטוריה יהודית עלומה ומזימות בינלאומיות. העלילות כוללות תחקיר מעמיק, ידע גיאוגרפי ותרבותי רב, ושילוב של מסרים אמוניים והשגחה פרטית.
- פעילות נוספת: בשמו האמיתי (יאיר וינשטוק) הוא עיתונאי ותיק וסופר פורה שכתב עשרות ספרים מז'אנרים אחרים – בעיקר ספרי סיפורי צדיקים, ביוגרפיות רבניות וסיפורי השגחה פרטית.
ספרים בולטים שכתב (תחת השם מ. ארבל):
- קשר גורדי – ספרו הראשון שחולל מהפכה בספרות החרדית והפך לרב-מכר ענק.
- בלתי הפיך
- סיכון מחושב
- שם נרדף
- דמי שתיקה
- מטרה נעה
- עין תחת עין
הצלחתו של מ. ארבל סללה את הדרך לסופרי מתח חרדים בולטים שבאו אחריו (כמו חיים גרינבוים, יונה ספיר ועוד).
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
@עניו-כמשה כמו שכבר כתבו פה.
אתה פותח אשכול על הזיות AI עם דוגמא שהיא בכלל לא הזיה.
וכן עוד דוגמאות שהבאת בהמשך.
פשוט המודל לא מעודכן במידע הזה (לפעמים הוא לא יודע מי הוא עצמו גם)
אז הוא מתעקש שזה לא נכון.
זה מה שאתה אמור לצפות ממודל.
הזיה זה להגיד "בטח סדרת קוין יצאה בשנת XXX וכו" בלי שיש קשר למציאות.
ולענ"ד בימינו ההזיות די נמוכות אצל כולם, כמובן שגמיני במודל החלש נחות גם בזה אבל זו לא דוגמא טובה.אתן דוגמא להזיה, פעם דיברתי עם גמיני בפרופיל אורח (לכן לצערי אין לי אתהשיחה הזו, לפני שנטפרי חסמו את האופציה הזו) ודיברתי איתו על דרכי הלימוד (כן, בנטפרי. ולמי שדואג זה לא היה למעשה) ובתוך הדברים שאלתי אותו איזה רבנים למדו לבד (בלי חברותות) חוץ מהרב אלישיב, והוא הביא לי שם של רב שלצערי איני את זוכר אותו, אבל הוא הביא פרטים בעקביות איפה גר מתי פעל וביוגרפיה וכו' וכיון שלא שמעתי עליו מימי התווכחתי איתו על זה, וגם שלח אותי לויקיפדיה עם שם הערך. כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי, נדמהלי שגם שם המקום היה אמיתי, רק אחרי שסגרתי את השיחה עשיתי חיפוש מעמיק יותר וגיליתי שזו היתה הזיה מוצלחת במיוחד.
וכן יש לי שיחה שדיברתי איתו בתחילת המהומות באיראן (לפני כשנה) שבה הצגתי את עצמי כאיראני, וביקשתי ממנו חדשות מאיראן כיון שראיתי שהוא הוזה המשכתי איתו והוא הזה בקצב כזה שהמשטר כמעט נפל תוך יום יומיים... (אגב הוא התעקש שהמפגינים מצליחים לעשות הכל בלי אלימות, ואולי אפילו שחמינאי ערק לצד שלהם)
אחפש את זה בל"נ.
ודבר נוסף שהפתיע אותי לצד השני שלאחרנה בהקשר שהיה נצרך ובלי שביקשתי הוא הביא את כל פרשת האזינו מנוקדת ובצורה נכונה (בבדיקה מלמעלה בלי תיקון קוראים) מה עם נטפרי? גם אני שואל (וגם שאלתי אותו)אציין שגמיני הרי הניסוחים שלו בעברית הם הטובים ביותר (כך לפחות נראה) וכן הידידותיות שלו והכישרון בדברים שדורשים יצירתיות (כמו להמציא סיפורים...) וזו אותה תכונה שהוא משתמש בה במקום לא נכון, להמציא דבר כשביקשת דבר אמיתי. וכמובן שמודל יותר רציני וקשוח פחות ימציא עובדות וזה לכאן ולכאן.
ו @יעב-ץ הפוסט הראשון שלך פה, במחילה, מיותר ולא מחכים. במחילה שוב.
![ע"ה דכו"ע](/assets/uploads/profile/uid-24261/24261-profileavatar-1774768870385.png "ע"ה דכו"ע"){kind=avatar}
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}