שיתוף | למה ג'ימני ממש טיפש הרבה פעמים?

[מוקד המערכות]

@smct @חובבן-מקצועי לי יש בינה במייל, ששם זה 2.5 פלאש, וזה מעודכן.

[smct]

@מוקד-המערכות
כי‌​‌‌​‌​​​​​‌ זה מחובר לאינטרנט
אם זה לא מחובר לאינטרנט זה לא היה מעודכן, מה שכן גם כשהוא מחובר לאינטרנט לא תמיד הוא יתן מידע ממש עדכני כי הוא לא זוכר את כל החיפושים שלו ברשת ולכן כל פעם הוא צריך להיכנס לרשת כדי לבדוק ואת זה הוא לא תמיד עושה את זה אם לא מבקשים ממנ

[מוקד המערכות]

@smct ומה שהוא ששלח, לא מחובר לאינטרנט?

[מוקד המערכות]

דוגמא

[מוקד המערכות]

נו, זה לא מעודכן?!
@חובבן-מקצועי @smct

[smct]

@מוקד-המערכות
אם‌​‌‌​‌​​​​​‌ הוא היה מחובר לאינטרנט ומתווכחים איתו למשל שהשנה היא שנת 2026 ולא 2024 אז הוא וודאי היה בודק באינטרנט וחוזר בו
חוץ מזה לרוב בתוספים כמו של @שלמה-רביב לא מוגדר בקוד שהמודל יוכל לחפש באינטרנט

[שלמה רביב]

@smct אתה כנראה צודק, לא הגדרתי שהוא יחפש באינטרנט, אולי בהמשך אני יגדיר את זה.
אגב, זה לא כ"כ חשוב, העלתי את זה בתור שאלה, הכנסתי את הAI באיזירוט נטו לעזור בפקודות ולזה לא צריך חיפוש בגוגל, הוא עושה את זה ממש מצוין.

Spoiler

[ר.י.ב]

לא תמיד גימני מתייחס להנחיות החסימה פה למשל הוא החליט להתעלם בלי שדיברתי איתו על זה בכלל

[דוד משה 1]

באופן ככלי אחד הדברים שהכי חסרים לAI של היום זה זכרון תווך ארוך ובינוני + תובנות מי שמבין את זה ידע איך לעבוד בצורה טובה אם AI

[Nils Sjoberg]

@ר.י.ב

חחח..זה חזק... ואני:

[שלל]

@שניאור-שמח וואו, בדקתי גם, אתה חייב לראות את ההזיות של ה-AI באתרוג...
בעוד שבחיפוש רגיל הנתונים האמיתיים מוצגים - דרך הממשק הם מזוייפים! עימתתי את ה-AI עם נתוני ה-AI הסותרים והוא טען לי שידוע שה-AI הוזה...
אחר כך הוא בעצמו סיפק לי קישור לאתר של אפל לבדיקת המידע, ושם הופיע הגירסה הנכונה. עימתתי את זה איתו גם, ומה הוא טען לי? לא תאמין... שהתרגום האוטומטי של הדפדפן משבש את המספרים!!... אין גבול לטירוף...

תראה את השיחה הזו ותגיד לי אם זה לא מטורף...
https://share.gemini.google/A9z9PXCQx1FO

[שניאור שמח]

@שלל קורע, קרה לי גם הרבה מאוד פעמים…
היית מבטל את התרגום ומראה לו שזה לא עזר…

[שלל]

@שניאור-שמח ברור שיכלתי... אבל מה נראה לך? אפשר להוכיח לו באותות ומופתים שהוא טועה, ותמיד הוא ימצא איזו סברא מטורפת אחרת להוכיח את צדקתו... אז בשביל מה לבזבז זמן?... אבל זה מדהים השטויות שהוא ממציא.

יש לך דרך לדעת מתי אפשר להסתמך עליו במצב הזה, ומתי לא?

[שניאור שמח]

@שלל כתב:

@שניאור-שמח ברור שיכלתי... אבל מה נראה לך? אפשר להוכיח לו באותות ומופתים שהוא טועה, ותמיד הוא ימצא איזו סברא מטורפת אחרת להוכיח את צדקתו... אז בשביל מה לבזבז זמן?... אבל זה מדהים השטויות שהוא ממציא.

זה היה בצחוק .. עניין אותי מה הוא ימצא עכשיו..

יש לך דרך לדעת מתי אפשר להסתמך עליו במצב הזה, ומתי לא?

אממ, אולי לפי הסגנון שלו.. שאתה רואה שהוא ממש בטוח לעצמו ומפיל את ההאשמה אליך וכו׳..

ובכללי, פשוט תראה שאין מקור למה שהוא רושם..
באינטרנט אחר לא אתרוג או בלי סינון, על כל פסקה שהוא רושם יש מקור לזה.. כמו בGPT

[תלת פאזי]

מה ג'ימני מבין?

אתה יודע להפוך אותיות מאנגלית לעברית לפי המקלדת?

כן, אני יודע לפענח ולהמיר טקסט להקלדה בעברית לפי מיקום המקשים במקלדת standard QWERTY.

מה כתוב כאן?
NSUG

משהו

T,V HFUK KVPUL KH T, VYEYX VZV KGHCRH, KPH VTU,HU, CNEKS,

אני רוצה ללמוד מה אני עושה מזה דחופה, לפי ההומור, בנפאל,
|- אם יש לך טקסט נוסף שנכתב באותיות באנגלית לפי מקלדת עברית, אפשר לשלוח אותו לכאן ואתרגם אותו עבורך.

איזה אות מקבילה לאות "ש" במקלדת אנגלית?

האות המקבילה לאות ש במקלדת אנגלית היא האות a.

ולאות "ל"?

האות המקבילה לאות ל במקלדת אנגלית היא האות k.

NV F,UC FTI CVJKP, VTU,HU, NTBDKH, KGCRH, KPH VNEKS,

הנה הפענוח של המשפט לפי מקלדת אנגלית-עברית:
|- מה שלומך היום פלוס ההומור המצחיק לחיצה לפי הנפאל,
(המילים התקבלו מהמרת המקשים:
NV ← מה
F,UC ← שלומך
FTI ← היום
CVJKP, ← פלוס
VTU,HU, ← ההומור
NTBDKH ← המצחיק
KGCRH ← לחיצה
KPH ← לפי
VNEKS ← הנפאל

[בנימין מחשבים]

@תלת-פאזי תמליץ לגוגל לשלב בו את קאפס-פיקס

[avrasha]

@שלל כתב:

@שניאור-שמח ברור שיכלתי... אבל מה נראה לך? אפשר להוכיח לו באותות ומופתים שהוא טועה, ותמיד הוא ימצא איזו סברא מטורפת אחרת להוכיח את צדקתו... אז בשביל מה לבזבז זמן?... אבל זה מדהים השטויות שהוא ממציא.

יש לך דרך לדעת מתי אפשר להסתמך עליו במצב הזה, ומתי לא?

שאלתי את גמיני עצמו על ההזיות וזה מה שהוא כתב לי כדי למנוע הזיות:

כדי למנוע ממני (וממודלי שפה אחרים) להזות עובדות, הסוד הוא להגביל את מרחב התמרון של הבינה המלאכותית ולאלץ אותה לחשוב בצורה מובנית. ככל שההוראה (הפרומפט) שלך תהיה ספציפית ונוקשה יותר, כך ירד הסיכוי שאשלים פערים בעזרת המצאות.

הנה 5 תבניות פרומפטים מעולות שתוכל להעתיק, לשנות ולהשתמש בהן כדי לקבל תשובות מדויקות ואמינות יותר:

1. פרומפט "איסור הניחושים" (The "I Don't Know" Constraint)

הפרומפט הזה פותר את תסמונת הריצוי. הוא נותן למודל "אישור" לא לדעת, ומונע ממנו להרגיש צורך להמציא תשובה בכל מחיר.

"ענה על השאלה הבאה: [השאלה שלך].
הוראות קריטיות: ענה אך ורק על בסיס עובדות שאתה יודע בוודאות מוחלטת. אם אין לך מספיק מידע, אם הנתונים מתנגשים, או אם אינך בטוח ב-100%, אל תנסה לנחש. פשוט כתוב: 'אין לי מספיק מידע ודאי כדי לענות על כך'. אל תמציא שמות, תאריכים או מחקרים."

2. פרומפט "חשיבה שלב אחר שלב" (Chain of Thought)

כאשר מכריחים את המודל לפרק את תהליך החשיבה שלו לפני מתן התשובה הסופית, זה משפר דרמטית את היכולת הלוגית שלו ומונע טעויות של "קפיצה למסקנות".

"אני צריך שתעזור לי לפתור את הבעיה הבאה: [תיאור הבעיה].
הוראת מבנה: אל תיתן לי את התשובה הסופית מיד. במקום זאת, פרט את תהליך החשיבה שלך צעד אחר צעד. הסבר מהן עובדות היסוד, אילו הנחות אתה מניח, ואיך אתה מגיע לכל מסקנה. רק בסוף, סכם את הפתרון המדויק."

3. פרומפט "בקרת האיכות הפנימית" (Self-Correction)

טכניקה מעולה שגורמת למודל לשמש כמבקר של עצמו ולחפש חורים או הזיות בטקסט שהוא עצמו כתב.

"כתוב לי הסבר מקצועי על [הנושא].
לאחר שתסיים לכתוב, בצע את הפעולה הבאה: הוסף פסקה נפרדת תחת הכותרת 'ביקורת עצמית'. בפסקה זו, נתח את מה שכתבת כעת, ציין מהן נקודות התורפה של ההסבר, ואילו מהטענות העובדתיות שציינת דורשות אימות נוסף או עלולות להיות לא מדויקות."

4. פרומפט "הטקסט הסגור" (Grounding / Strict Context)

זהו הפרומפט היעיל ביותר למניעת הזיות לחלוטין. אתה מספק את המידע, והמודל רק מעבד אותו בלי רשות להשתמש בידע הכללי שלו.

"להלן טקסט המספק מידע על [נושא]:
[הדבק כאן את הטקסט או הנתונים שלך].
המשימה: ענה על השאלה [השאלה שלך] אך ורק מתוך המידע שמופיע בטקסט המצורף.
חוק ברזל: בשום פנים ואופן אל תוסיף מידע חיצוני מהידע הכללי שלך. אם התשובה לשאלה אינה מופיעה בטקסט, כתוב במפורש: 'המידע אינו קיים בטקסט שסופק'."

5. פרומפט "פרקליט השטן" (Perspective Forcing)

פרומפט שעוזר למנוע תשובות חד-ממדיות או נטייה להסכים איתך באופן אוטומטי, על ידי דרישה להציג זוויות מרובות ועובדות סותרות.

"אני שוקל לעשות [פעולה/החלטה]. הצג לי ניתוח אובייקטיבי.
דרישות:

1. הצג 3 טיעונים עובדתיים בעד, ו-3 טיעונים עובדתיים נגד.
2. עבור כל טיעון, הסבר מהו הבסיס המקצועי שעומד מאחוריו.
3. הימנע מלתת לי המלצה אישית - המטרה היא לקבל תמונת מצב מאוזנת ומדויקת שתעזור לי להחליט בעצמי."

---

כלל אצבע לסיכום: מודלי שפה אוהבים שיגידו להם בדיוק מה לעשות. ככל שתשתמש ביותר פעלים ברורים ("השווה", "סכם", "אל תכלול", "בדוק") וככל שתגדיר למודל את תפקידו ואת מגבלותיו, כך תקבל תוצאה מדויקת ואמינה יותר.

[יודע ומייבין]

פוסט זה נמחק!

[יודע ומייבין]

מענין‌​‌‌​‌​​​​​‌ כי גם אני שאלתי אותו וזה מה שהוא ענה

[avrasha]

@יודע-ומייבין זה מה שאני שאלתי אותו:
תן לי כמה דוגמאות לפרומפטים טובים כדי למנוע הזיות וכדי לקבל כמה שיותר תשובות טובות ומדויקות