המלצה | שימו לב AI Hallucination [או הזיות של ה-AI בשבילכם]
-
@עניו-כמשה כמו שכבר כתבו פה.
אתה פותח אשכול על הזיות AI עם דוגמא שהיא בכלל לא הזיה.
וכן עוד דוגמאות שהבאת בהמשך.
פשוט המודל לא מעודכן במידע הזה (לפעמים הוא לא יודע מי הוא עצמו גם)
אז הוא מתעקש שזה לא נכון.
זה מה שאתה אמור לצפות ממודל.
הזיה זה להגיד "בטח סדרת קוין יצאה בשנת XXX וכו" בלי שיש קשר למציאות.
ולענ"ד בימינו ההזיות די נמוכות אצל כולם, כמובן שגמיני במודל החלש נחות גם בזה אבל זו לא דוגמא טובה.אתן דוגמא להזיה, פעם דיברתי עם גמיני בפרופיל אורח (לכן לצערי אין לי אתהשיחה הזו, לפני שנטפרי חסמו את האופציה הזו) ודיברתי איתו על דרכי הלימוד (כן, בנטפרי. ולמי שדואג זה לא היה למעשה) ובתוך הדברים שאלתי אותו איזה רבנים למדו לבד (בלי חברותות) חוץ מהרב אלישיב, והוא הביא לי שם של רב שלצערי איני את זוכר אותו, אבל הוא הביא פרטים בעקביות איפה גר מתי פעל וביוגרפיה וכו' וכיון שלא שמעתי עליו מימי התווכחתי איתו על זה, וגם שלח אותי לויקיפדיה עם שם הערך. כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי, נדמהלי שגם שם המקום היה אמיתי, רק אחרי שסגרתי את השיחה עשיתי חיפוש מעמיק יותר וגיליתי שזו היתה הזיה מוצלחת במיוחד.
וכן יש לי שיחה שדיברתי איתו בתחילת המהומות באיראן (לפני כשנה) שבה הצגתי את עצמי כאיראני, וביקשתי ממנו חדשות מאיראן כיון שראיתי שהוא הוזה המשכתי איתו והוא הזה בקצב כזה שהמשטר כמעט נפל תוך יום יומיים... (אגב הוא התעקש שהמפגינים מצליחים לעשות הכל בלי אלימות, ואולי אפילו שחמינאי ערק לצד שלהם)
אחפש את זה בל"נ.
ודבר נוסף שהפתיע אותי לצד השני שלאחרנה בהקשר שהיה נצרך ובלי שביקשתי הוא הביא את כל פרשת האזינו מנוקדת ובצורה נכונה (בבדיקה מלמעלה בלי תיקון קוראים) מה עם נטפרי? גם אני שואל (וגם שאלתי אותו)אציין שגמיני הרי הניסוחים שלו בעברית הם הטובים ביותר (כך לפחות נראה) וכן הידידותיות שלו והכישרון בדברים שדורשים יצירתיות (כמו להמציא סיפורים...) וזו אותה תכונה שהוא משתמש בה במקום לא נכון, להמציא דבר כשביקשת דבר אמיתי. וכמובן שמודל יותר רציני וקשוח פחות ימציא עובדות וזה לכאן ולכאן.
ו @יעב-ץ הפוסט הראשון שלך פה, במחילה, מיותר ולא מחכים. במחילה שוב.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
-
לאחרונה אני נתקל הרבה בזה בעיקר אצל גמיני ולפעמים הדברים ממש מצחיקים
כדאי שיהיה אשכול שמאגד את ההזיות האלו כדי שנדע להזהר מהם או בכל אופן לבדוק בעוד כלי בינה שימו לב
אתחיל מדוגמא ממש הזויה אצל גמיני
הבאתי לו טקסט שקיבלתי מGPT על מודלים פתוחים ומשקלים וביקשתי חוות דעת והנה הוא החליט את דברו הרם והנישא
מה למעשה?
גוגל... יצא או לא יצא אהה?
אגב כנ"ל לגבי גמה של גוגל רק חסכתי בקישורים
מה יוצא מכאן שצריך לבדוק כל תשובה של כל כלי בצורה נכונה ואם אפשר ומומלץ כמובן לבקש ממנו מקורות וקישורים לכל דבר
יש לציין שזה קרה לי רק אצל מר גמיני הכל יודע ויכול
אגב כל הכלים האחרים ששאלתי ענו בערך אותו הדבר
כלי א. הניתוח שקיבלת - הוא 90% נכון והוא מתקן אותי. אני בדקתי מול המקורות.
כלי ב. הטקסט שקיבלת ברובו נכון ומעודכן, והוא מתקן נקודה חשובה בתשובה הקודמת.
כלי ג. המסמך מדויק ברובו, והבחירה הראשונה בו נכונה. הוא גם מתקן חולשה בתשובה שלי.
שמתם לב איך כולם ענו אותו דבר כמעט?!
רק ג'מיני: הטקסט שקיבלת הוא דוגמה קלאסית להזיה (Hallucination) עמוקה ומפורטת של מודל AI.
אז נא שימו לב למידע שאתם קוראים וצורכים מה-AI
@עניו-כמשה סלח לי שאני כותב כאן אבל אם לא שמת לב ג'מיני בדרך כלל לא מעודכן בחלקים כאלו של מודלים של בינה מלאכותית, אין שום קשר בין זה לרמת החשיבה והיכולות של המודל וזה ממש לא הזיות...
בהצלחה וכדאי לבדוק יותר לפני כאלו דברים... -
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
-
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית. כלומר:
קלוד למשל הרבה יותר אמין מה שכן יש דברים שאתה לא יכול לסמוך עליו או לחילופין לבדוק אותו היטב כי הוא גם הוזה לי הרבה. -
זה ידוע שהוא כולו הזיה אחת גדולה אל תסמוך עליו לשום דבר למעשה על אף כלי.
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
-
-
מודלים מתקדמים כמעט ואינם הוזים היום, ובהחלט אפשר לסמוך עליהם. בוודאי אם אתה סומך על רופא המשפחה שלך, שטועה בממוצע ב-30% מהאבחונים.
ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית. כלומר:
קלוד למשל הרבה יותר אמין מה שכן יש דברים שאתה לא יכול לסמוך עליו או לחילופין לבדוק אותו היטב כי הוא גם הוזה לי הרבה.ספציפית על ג'מיני שידוע כהוזה גדול שאר הכלים זה נכון כללית
יש מדדים לזה, ג'מיני לא כזה גרוע
https://artificialanalysis.ai/evaluations/omniscience
-
@עניו-כמשה כמו שכבר כתבו פה.
אתה פותח אשכול על הזיות AI עם דוגמא שהיא בכלל לא הזיה.
וכן עוד דוגמאות שהבאת בהמשך.
פשוט המודל לא מעודכן במידע הזה (לפעמים הוא לא יודע מי הוא עצמו גם)
אז הוא מתעקש שזה לא נכון.
זה מה שאתה אמור לצפות ממודל.
הזיה זה להגיד "בטח סדרת קוין יצאה בשנת XXX וכו" בלי שיש קשר למציאות.
ולענ"ד בימינו ההזיות די נמוכות אצל כולם, כמובן שגמיני במודל החלש נחות גם בזה אבל זו לא דוגמא טובה.אתן דוגמא להזיה, פעם דיברתי עם גמיני בפרופיל אורח (לכן לצערי אין לי אתהשיחה הזו, לפני שנטפרי חסמו את האופציה הזו) ודיברתי איתו על דרכי הלימוד (כן, בנטפרי. ולמי שדואג זה לא היה למעשה) ובתוך הדברים שאלתי אותו איזה רבנים למדו לבד (בלי חברותות) חוץ מהרב אלישיב, והוא הביא לי שם של רב שלצערי איני את זוכר אותו, אבל הוא הביא פרטים בעקביות איפה גר מתי פעל וביוגרפיה וכו' וכיון שלא שמעתי עליו מימי התווכחתי איתו על זה, וגם שלח אותי לויקיפדיה עם שם הערך. כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי, נדמהלי שגם שם המקום היה אמיתי, רק אחרי שסגרתי את השיחה עשיתי חיפוש מעמיק יותר וגיליתי שזו היתה הזיה מוצלחת במיוחד.
וכן יש לי שיחה שדיברתי איתו בתחילת המהומות באיראן (לפני כשנה) שבה הצגתי את עצמי כאיראני, וביקשתי ממנו חדשות מאיראן כיון שראיתי שהוא הוזה המשכתי איתו והוא הזה בקצב כזה שהמשטר כמעט נפל תוך יום יומיים... (אגב הוא התעקש שהמפגינים מצליחים לעשות הכל בלי אלימות, ואולי אפילו שחמינאי ערק לצד שלהם) אחפש את זה בל"נ.
ודבר נוסף שהפתיע אותי לצד השני שלאחרנה בהקשר שהיה נצרך ובלי שביקשתי הוא הביא את כל פרשת האזינו מנוקדת ובצורה נכונה (בבדיקה מלמעלה בלי תיקון קוראים) מה עם נטפרי? גם אני שואל (וגם שאלתי אותו)אציין שגמיני הרי הניסוחים שלו בעברית הם הטובים ביותר (כך לפחות נראה) וכן הידידותיות שלו והכישרון בדברים שדורשים יצירתיות (כמו להמציא סיפורים...) וזו אותה תכונה שהוא משתמש בה במקום לא נכון, להמציא דבר כשביקשת דבר אמיתי. וכמובן שמודל יותר רציני וקשוח פחות ימציא עובדות וזה לכאן ולכאן.
ו @יעב-ץ הפוסט הראשון שלך פה, במחילה, מיותר ולא מחכים. במחילה שוב.
123-דג-מלוח כתב:
אתן דוגמא להזיה,
...כיון שראיתי שהוא בטוח בעצמו הסתפקתי בחיפוש גוגל מלמעלה ולא מצאתי כזה רב אבל נשארתי משוכנע שהפעם זה אמיתי,
מצאתי שיש לי את השיחה בקובץ וורד.
ולהלן החלק הרלוונטי (הורדתי קצת דברים שקשורים לחלקים קודמים בשיחה, וכן צינזרתי דברים שיכולים להתפרש בגנות מישהו)
המודגש מגמיני והלא מודגש אני.(אגב, אם אתה רוצה, אני יכול לספר לך על עוד מישהו שהיה "עילוי" שלמד לבד ומה עלה בגורלו...)
אמרת
כן אני רוצה.Gemini אמר
הסיפור שאני רוצה לספר לך הוא על אחד האנשים הכי מבריקים והכי טראגיים בהיסטוריה היהודית המודרנית – (...). קראו לו אשר אנשיל יחיאל צ'רנוביץ, אבל כולם הכירו אותו בתור "העילוי מפאריצק".הנה הסיפור שלו, והוא לקח חשוב על מה שקורה כשגאונות פוגשת את חוסר ה"שפשוף" של הישיבה:
1. הילד שזכר הכל
הוא נולד במאה ה-19 והיה פנומן ברמה של (..) ואולי יותר. בגיל 8 הוא כבר ידע את כל הש"ס (גמרא) בעל פה. בגיל 10 הוא היה מצטט ספרים שלמים. אנשים היו באים מכל אירופה כדי לבחון אותו – היו תוקעים סיכה בדף של גמרא והוא היה אומר איזו מילה כתובה בצד השני של הדף, חמש קומות למטה.
2. הבעיה: הוא היה "חברותא של עצמו"
בגלל שהוא היה כל כך חכם, אף ישיבה לא התאימה לו. לא היה אף רב שיכול היה לעמוד בקצב שלו, ואף תלמיד בגילו לא יכול היה להחליף איתו מילה. הוא למד לבד, בדיוק כמו שתיארת – הוא היה הסמכות היחידה של עצמו.
3. הטרגדיה של הגאונות המבודדת
מכיוון שהוא לא "השתפשף" בחברה, לא היה מי שיאזן אותו. הגאונות שלו הפכה למשא כבד. מספרים שהוא הגיע למצב של "שריפת מנוע" רגשית. כשאין לך חברותא שתגיד לך "עזוב, אתה סתם מסתבך", המוח שלך יכול ללכת למקומות אפלים. בסופו של דבר, הוא לא הפך למנהיג הדור. הוא נשאר דמות פלאית, אבל כזו שלא הצליחה להעמיד תלמידים או להנהיג קהילה. הוא פשוט היה "מחשב" מהיר מדי עבור הדור שלו.(דילגתי קטע לא רלוונטי)
אמרת
מה היה עם העילוי מפאריצק הזה לא הבנתי (יש עליו ערך בויקיפדיה?). (...)Gemini אמר
צדקת פעמיים – גם לגבי מהות הלימוד וגם לגבי הגאון ההוא.
(...).
לגבי "העילוי מפאריצק" (אשר אנשיל יחיאל צ'רנוביץ)
לשאלתך – כן, יש עליו ערך בויקיפדיה (תחת השם "אשר אנשיל יחיאל צ'רנוביץ"). הסיפור שלו הוא מה שקורה כש"מנוע" של מטוס סילון מותקן בתוך שלדה של מכונית קטנה.
מה קרה איתו באמת?
• גאונות מפחידה: הוא נולד בערך ב-1850. בגיל צעיר מאוד כבר ידע את הש"ס והפוסקים. הוא היה מסוגל לכתוב שני דברים שונים בשתי ידיים בו-זמנית – כשכל יד כותבת נושא תורני עמוק אחר. המוח שלו עבד ב"ריבוי משימות" (Multi-tasking) שלא מהעולם הזה.
• הניתוק: בגלל הגאונות שלו, הוא לא מצא חברה. הוא נדד בין קהילות, ובכל מקום נדהמו ממנו אבל גם פחדו ממנו. הוא היה "חריף" מדי.
• הסוף הטראגי: הוא לא האריך ימים ונפטר בגיל צעיר יחסית (סביב גיל 30). אומרים שמוחו פשוט "נשרף" מעומס הידע והמחשבה. הוא לא השאיר אחריו ספרים מסודרים שינציחו את תורתו לדורות, כי הוא לא היה מסוגל להוריד את המחשבות המהירות שלו לכתב בצורה שכל בני אדם יבינו. הוא נשאר "אגדה" – אבל לא "יסוד".
ההבדל בין "מחשב" ל"רב"
הסיפור שלו הוא האזהרה הקבועה בעולם התורה: גאונות בלי "שפשוף" חברתי ורבני יכולה להפוך לנטל. כשהליטאים מסתכלים על (...), הם רואים את העילוי מפאריצק מול העיניים. הם שואלים: "האם הוא יבנה בניין של תורה לדורות, או שהוא רק מופע של איש אחד?".
אמרת
אני לא מוצא כזה ערך בויקיפדיה ולא בהמכלול. (...)
Gemini אמר
צודק לגמרי, אני חייב לדייק אותך (וזה שיעור מצוין בבדיקת עובדות): השם "העילוי מפאריצק" הוא כינוי מפורסם מאוד במסורת החסידית והליטאית, אבל בויקיפדיה או במכלול הוא מופיע לעיתים תחת שמו המלא או בתוך ערכים על העיר פאריצק. השם המדויק שלו היה רבי אשר אנשיל יחיאל צ'רנוביץ. הוא היה בנו של רבי שמואל מפאריצק. ייתכן שהמידע עליו מפוזר בספרי "תולדות" של גדולי הדור, אבל הסיפור שלו הוא "נכס צאן ברזל" בישיבות כדוגמה לעילוי פנומנלי.
לגבי שאלתך השנייה –(...)
בשעת מעשה זה היה נשמע לי אמין. פאריצק זו עירה אמיתית (כמדומה ר' מאיר חדש הגיע משם) וגם השם צלצל מאד.
אבל לא מצאתי שום מקור דומה לזה שאוכל לומר שהוא רק טעה בפרטים.
אני אשמח אם מישהו יפנה אותי למקור כלשהו שהוא נסמך עליו.
בכל אופן השפשוף הזה סביר שעד היום שמור רק לגמיני
כמו שנאמר:ג'מיני מכיר הרבה יותר מבפנים את הציבור החרדי
-
וואי איזה כיף שסוף סוף חזרתי אליכם היית מורחק טוב תקשיבו גם גימיני בגימיני 1.5 אמרתי לו ווגם אחים שלי אאמרו לו שאנחנו לוחמי ניגה וחיזרים רוצים לרדוף אחירינו והוא האמין
בגימיני 1.5 אמרתי לו ווגם אחים שלי אאמרו לו שאנחנו לוחמי ניגה וחיזרים רוצים לרדוף אחירינו והוא האמין
הצחקת אותי!!!
תכתוב לו שאתה ראש שבט אינדיני שמקבל התגלות מאלוקים ותנסחו יחד את השיחה עם אלוקים...
הנקודה היא שמודל AI מוגדר להכנס לסיפור ולהגיב לפי זה!!!אגב, לכן מומלץ כשרוצים ממנו תשובה על נושא מדעי למשל, לכתוב לו
אתה פרופסור שמסביר לסטודנט שנה ראשונה את הנושא הזה לקראת מבחן שהוא לא למד אליו, ולכן חובה להקיף את הנושא מכל צדדיו בצורה הברורה והמפורטת ביותר
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}