המלצה | שימו לב AI Hallucination [או הזיות של ה-AI בשבילכם]
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
@עניו-כמשה כמו שכבר כתבו פה.
אתה פותח אשכול על הזיות AI עם דוגמא שהיא בכלל לא הזיה.
וכן עוד דוגמאות שהבאת בהמשך.
פשוט המודל לא מעודכן במידע הזה (לפעמים הוא לא יודע מי הוא עצמו גם)
אז הוא מתעקש שזה לא נכון.
זה מה שאתה אמור לצפות ממודל.
הזיה זה להגיד "בטח סדרת קוין יצאה בשנת XXX וכו" בלי שיש קשר למציאות.
ולענ"ד בימינו ההזיות די נמוכות אצל כולם, כמובן שגמיני במודל החלש נחות גם בזה אבל זו לא דוגמא טובה.אתן דוגמא להזיה, פעם דיברתי עם גמיני בפרופיל אורח (לכן לצערי אין לי אתהשיחה הזו, לפני שנטפרי חסמו את האופציה הזו) ודיברתי איתו על דרכי הלימוד (כן, בנטפרי. ולמי שדואג זה לא היה למעשה) ובתוך הדברים שאלתי אותו איזה רבנים למדו לבד (בלי חברותות) חוץ מהרב אלישיב, והוא הביא לי שם של רב שלצערי איני את זוכר אותו, אבל הוא הביא פרטים בעקביות איפה גר מתי פעל וביוגרפיה וכו' וכיון שלא שמעתי עליו מימי התווכחתי איתו על זה, וגם שלח אותי לויקיפדיה עם שם הערך. כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי, נדמהלי שגם שם המקום היה אמיתי, רק אחרי שסגרתי את השיחה עשיתי חיפוש מעמיק יותר וגיליתי שזו היתה הזיה מוצלחת במיוחד.
וכן יש לי שיחה שדיברתי איתו בתחילת המהומות באיראן (לפני כשנה) שבה הצגתי את עצמי כאיראני, וביקשתי ממנו חדשות מאיראן כיון שראיתי שהוא הוזה המשכתי איתו והוא הזה בקצב כזה שהמשטר כמעט נפל תוך יום יומיים... (אגב הוא התעקש שהמפגינים מצליחים לעשות הכל בלי אלימות, ואולי אפילו שחמינאי ערק לצד שלהם)
אחפש את זה בל"נ.
ודבר נוסף שהפתיע אותי לצד השני שלאחרנה בהקשר שהיה נצרך ובלי שביקשתי הוא הביא את כל פרשת האזינו מנוקדת ובצורה נכונה (בבדיקה מלמעלה בלי תיקון קוראים) מה עם נטפרי? גם אני שואל (וגם שאלתי אותו)אציין שגמיני הרי הניסוחים שלו בעברית הם הטובים ביותר (כך לפחות נראה) וכן הידידותיות שלו והכישרון בדברים שדורשים יצירתיות (כמו להמציא סיפורים...) וזו אותה תכונה שהוא משתמש בה במקום לא נכון, להמציא דבר כשביקשת דבר אמיתי. וכמובן שמודל יותר רציני וקשוח פחות ימציא עובדות וזה לכאן ולכאן.
ו @יעב-ץ הפוסט הראשון שלך פה, במחילה, מיותר ולא מחכים. במחילה שוב.
-
@עניו-כמשה כמו שכבר כתבו פה.
אתה פותח אשכול על הזיות AI עם דוגמא שהיא בכלל לא הזיה.
וכן עוד דוגמאות שהבאת בהמשך.
פשוט המודל לא מעודכן במידע הזה (לפעמים הוא לא יודע מי הוא עצמו גם)
אז הוא מתעקש שזה לא נכון.
זה מה שאתה אמור לצפות ממודל.
הזיה זה להגיד "בטח סדרת קוין יצאה בשנת XXX וכו" בלי שיש קשר למציאות.
ולענ"ד בימינו ההזיות די נמוכות אצל כולם, כמובן שגמיני במודל החלש נחות גם בזה אבל זו לא דוגמא טובה.אתן דוגמא להזיה, פעם דיברתי עם גמיני בפרופיל אורח (לכן לצערי אין לי אתהשיחה הזו, לפני שנטפרי חסמו את האופציה הזו) ודיברתי איתו על דרכי הלימוד (כן, בנטפרי. ולמי שדואג זה לא היה למעשה) ובתוך הדברים שאלתי אותו איזה רבנים למדו לבד (בלי חברותות) חוץ מהרב אלישיב, והוא הביא לי שם של רב שלצערי איני את זוכר אותו, אבל הוא הביא פרטים בעקביות איפה גר מתי פעל וביוגרפיה וכו' וכיון שלא שמעתי עליו מימי התווכחתי איתו על זה, וגם שלח אותי לויקיפדיה עם שם הערך. כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי, נדמהלי שגם שם המקום היה אמיתי, רק אחרי שסגרתי את השיחה עשיתי חיפוש מעמיק יותר וגיליתי שזו היתה הזיה מוצלחת במיוחד.
וכן יש לי שיחה שדיברתי איתו בתחילת המהומות באיראן (לפני כשנה) שבה הצגתי את עצמי כאיראני, וביקשתי ממנו חדשות מאיראן כיון שראיתי שהוא הוזה המשכתי איתו והוא הזה בקצב כזה שהמשטר כמעט נפל תוך יום יומיים... (אגב הוא התעקש שהמפגינים מצליחים לעשות הכל בלי אלימות, ואולי אפילו שחמינאי ערק לצד שלהם) אחפש את זה בל"נ.
ודבר נוסף שהפתיע אותי לצד השני שלאחרנה בהקשר שהיה נצרך ובלי שביקשתי הוא הביא את כל פרשת האזינו מנוקדת ובצורה נכונה (בבדיקה מלמעלה בלי תיקון קוראים) מה עם נטפרי? גם אני שואל (וגם שאלתי אותו)אציין שגמיני הרי הניסוחים שלו בעברית הם הטובים ביותר (כך לפחות נראה) וכן הידידותיות שלו והכישרון בדברים שדורשים יצירתיות (כמו להמציא סיפורים...) וזו אותה תכונה שהוא משתמש בה במקום לא נכון, להמציא דבר כשביקשת דבר אמיתי. וכמובן שמודל יותר רציני וקשוח פחות ימציא עובדות וזה לכאן ולכאן.
ו @יעב-ץ הפוסט הראשון שלך פה, במחילה, מיותר ולא מחכים. במחילה שוב.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
@עניו-כמשה סלח לי שאני כותב כאן אבל אם לא שמת לב ג'מיני בדרך כלל לא מעודכן בחלקים כאלו של מודלים של בינה מלאכותית, אין שום קשר בין זה לרמת החשיבה והיכולות של המודל וזה ממש לא הזיות...
בהצלחה וכדאי לבדוק יותר לפני כאלו דברים... -
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
-
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית. כלומר:
קלוד למשל הרבה יותר אמין מה שכן יש דברים שאתה לא יכול לסמוך עליו או לחילופין לבדוק אותו היטב כי הוא גם הוזה לי הרבה. -
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
-
-
וואי איזה כיף שסוף סוף חזרתי אליכם היית מורחק טוב תקשיבו גם גימיני בגימיני 1.5 אמרתי לו ווגם אחים שלי אאמרו לו שאנחנו לוחמי ניגה וחיזרים רוצים לרדוף אחירינו והוא האמין
-
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית. כלומר:
קלוד למשל הרבה יותר אמין מה שכן יש דברים שאתה לא יכול לסמוך עליו או לחילופין לבדוק אותו היטב כי הוא גם הוזה לי הרבה.ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית
יש מדדים לזה, ג'מיני לא כזה גרוע
https://artificialanalysis.ai/evaluations/omniscience
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}