המלצה | שימו לב AI Hallucination [או הזיות של ה-AI בשבילכם]
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
@עניו-כמשה בדיוק בדקתי במקרה אתמול הזיות עם GPT. הוא היה עם אפס הזיות.
כדי לבדוק אותו בצורה אמינה הפעלתי אותו ללא זיכרון והיסטוריה במצב זמני, והורתי בבירור לא לחפש באינטרנט.
ביקשתי מידע על סופרים חרדים כמו מ. ארבל, יונה ספיר וכדומה.
בכולם המידע שהוא הביא היה מהימן ומדויק, והוא ידע לומר בצורה ברורה: "מ. ארבל הוא סופר לציבור החרדי, אני חושב שזה שם עט, אבל אני לא זוכר בוודאות את השם המקורי."
בדקתי עם כמה סופרים נוספים והכל היה מדויק ללא שום הזיות, ועם הודאה ברורה במקרים שהוא לא ידע.
בקיצור: ג'מיני הוא מוצר נחות ומיושן בתחום הזה לפי איך שזה נראה, שפשוט לא מייצג את מודלי החזית.
ביחוד אם השתמשת במודל החינמי ג'מיני פלאש לייט, שבבירור לא מייצג מודלים בעלי יכולת גבוהה!הטעות המרכזית היא לבחון את יכולות המודלים כיום, עם מודלי צעצוע חינמיים בעלות אפס וברמה מינוס.
והבעיה הגדולה יותר? זה בדיוק מה שהמשתמשים החינמיים מקבלים.בצ’אט GPT זה מודל Luna הזעיר. ובג’מיני זה מודל הפלאש לייט, ששמו מעיד עליו.
מודלים נהדרים ביחס למחיר, אבל רחוקים מאוד מביצועי הפרונט של 2026. -
רבותי!
הפרזידנט טראמפ החליט שקוראים לזה SI ולא AI!
דהיינו בינת־על (סופר אינטליגנציה) ולא בינה מלאכותית.
ראו הוזהרתם! -
@עניו-כמשה בדיוק בדקתי במקרה אתמול הזיות עם GPT. הוא היה עם אפס הזיות.
כדי לבדוק אותו בצורה אמינה הפעלתי אותו ללא זיכרון והיסטוריה במצב זמני, והורתי בבירור לא לחפש באינטרנט.
ביקשתי מידע על סופרים חרדים כמו מ. ארבל, יונה ספיר וכדומה.
בכולם המידע שהוא הביא היה מהימן ומדויק, והוא ידע לומר בצורה ברורה: "מ. ארבל הוא סופר לציבור החרדי, אני חושב שזה שם עט, אבל אני לא זוכר בוודאות את השם המקורי."
בדקתי עם כמה סופרים נוספים והכל היה מדויק ללא שום הזיות, ועם הודאה ברורה במקרים שהוא לא ידע.
בקיצור: ג'מיני הוא מוצר נחות ומיושן בתחום הזה לפי איך שזה נראה, שפשוט לא מייצג את מודלי החזית.
ביחוד אם השתמשת במודל החינמי ג'מיני פלאש לייט, שבבירור לא מייצג מודלים בעלי יכולת גבוהה!הטעות המרכזית היא לבחון את יכולות המודלים כיום, עם מודלי צעצוע חינמיים בעלות אפס וברמה מינוס.
והבעיה הגדולה יותר? זה בדיוק מה שהמשתמשים החינמיים מקבלים.בצ’אט GPT זה מודל Luna הזעיר. ובג’מיני זה מודל הפלאש לייט, ששמו מעיד עליו.
מודלים נהדרים ביחס למחיר, אבל רחוקים מאוד מביצועי הפרונט של 2026. -
איך זה יתכן? איפה כל המידע שלו?
בדיוק כמו שאתה לא זוכר כל מספר טלפון ששמעת בעבר, או כל טקסט בפרסומת שקראת.
את התנ"ך הוא יודע בעל פה, כי הוא שינן אותו אינסוף פעמים במאות שפות, אבל נתונים על סופרים חרדיים שהוא ראה פעם או פעמיים בויקיפדיה ומקומות אחרים לא נחרטים בצורה כזו. ביחוד כשמודל עובר זיקוק, שמסיר ממנו חלק גדול מהמשקלים שלו ומשאיר את המידע החשוב ביותר.
AI דומה לבני אדם באופן מפתיע.
-
איך זה יתכן? איפה כל המידע שלו?
בדיוק כמו שאתה לא זוכר כל מספר טלפון ששמעת בעבר, או כל טקסט בפרסומת שקראת.
את התנ"ך הוא יודע בעל פה, כי הוא שינן אותו אינסוף פעמים במאות שפות, אבל נתונים על סופרים חרדיים שהוא ראה פעם או פעמיים בויקיפדיה ומקומות אחרים לא נחרטים בצורה כזו. ביחוד כשמודל עובר זיקוק, שמסיר ממנו חלק גדול מהמשקלים שלו ומשאיר את המידע החשוב ביותר.
AI דומה לבני אדם באופן מפתיע.
-
מהיום
GPT הכניס לי לקוד מודל gemini-2.5-flash-lite שנראה לי שכיום כבר אינו קיים, אך גם גמיני עלה על זה כשבקשתי הערות על הקוד, וזל"ק:
שם המודל של Gemini:
בקוד מוגדר: gemini-2.5-flash-lite. נכון להיום, המודל הרשמי ל-Lite הוא לרוב gemini-2.0-flash-lite (או gemini-1.5-flash ליציב). מודל שלא קיים יחזיר שגיאת HTTP 404/400.בינתיים אמרתי לGPT להפעיל את gemini-3.5-flash-lite והוא לפחות הבין ותיקן, שלחתי שוב לגמיני [בשביל דברים אחרים] וזל"ק:
3. מודל Gemini ועדכניות שמות מודלים
ב-background.js:
code
JavaScript
const GEMINI_MODEL = "gemini-3.5-flash-lite";
שים לב ששם מודל זה עשוי להיות לא תקין ב-Google AI Studio API / Generative Language API.
ב-Google API המודלים הזמינים ל-Flash Lite הם בדרך כלל gemini-2.0-flash-lite (או gemini-1.5-flash). אם ה-API יחזיר שגיאת HTTP 404 Model Not Found, מומלץ להחזיק שם מודל מוכח ונתמך, או לאפשר למשתמש לבחור/להגדיר את שם המודל ב-Options.עד שבפעם הבאה נאלצתי לבקש ממנו לא להתייחס לשם המודל.
-
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה זה לא נכון וכן על זה הדרך. -
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה זה לא נכון וכן על זה הדרך.הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
-
@עניו-כמשה בחרת בדוגמה פחות מוצלחת, כיוון שזה דבר שידוע שהמודלים טועים בו כבר שנים ומשום מה גם לא עוזר לשכנע אותם בטעות
@ע-ה-דכו-ע זה מה שעלה בחכה
הייתה עוד דוגמא עכשיו שגמיני החליט שהמודל הכי מתקדם בקוד זה תקשיבו טוב... SONNET 3.5 המתקדם ביותר מבית אנתרופיק!! -
הדבר שכל המודלים מצטיינים בו זה ביטחון עצמי מופרז וניסוח משכנע.
כל בקשה שלי למודלים למיניהם מסתיימת ב : תבדוק טוב לפני שאתה עונה, אל תשלוף את התשובה שקופצת לך בלי לבדוק לעומק ותביא לי את המקורות שלך כקישורים פעילים.
ואז אני משתמש בו כמראי מקומות בלבד.
לפעמים אתה רואה שהתשובה הנחרצת שהוא הביא, הגיעה מאיזה ייוזר מסטול ברדיט ומיד אחריו יש שלש יוזרים אחרים שמסבירים למה לזה לא נכון וכן על זה הדרך.תשלם על מנוי למודלים מתקדמים ותגלה את העולם של אחרי 2024.
-
-
-
@עניו-כמשה אבל ג'מיני הוא ידוע כדוגמה לא-מוצלחת של ai מעודכן...
אא"כ הכוונה לג'מיני 4...
![ע"ה דכו"ע](/assets/uploads/profile/uid-24261/24261-profileavatar-1774768870385.png "ע"ה דכו"ע"){kind=avatar}
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}