בירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?

[אחת ויחידה]

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

ניסיתם לשאול את GPT עצמו? כי הוא נותן המלצות לכאלו פחות מלטפים...

[עניו כמשה]

@יעקב-ב-1 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel אתה צודק לחלוטין, הבנתי בדיוק את שאלתך, תמיד הוא מסכים איתך, וגם מסביר למה אתה צודק.
ולכן הוא ממגנט אליו אנשים,
זה לימוד עצום עבורינו אם בכולל ובבית ובכל מקום, גם תסכים עם כולם תתחיל לאהוב להיות בכולל יותר מ GPT

הרעיון של זה ידוע בעולם כבר מאות שנים
קוראים לזה אל תתן ביקורת לאף אחד

אומרים שזה סוד קסמם של אנשים שמצליחים להיות אהובים על כולם

[עניו כמשה]

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע מענין מאוד

איך בדיוק הוא התכוון להרוג אותו

[אחת ויחידה]

@עניו-כמשה כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע מענין מאוד

איך בדיוק הוא התכוון להרוג אותו

בטח היה עובד עליו פסיכולוגית שכדאי לו ואפילו נותן לו המלצות לדרכים מסוימות..
לא חסרים סיפורים

[I believe]

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

לא בכל הדברים יש כזה מושג 'אובייקטיבי', רוב הדברים תלויים ברקע ובאמונות של המשתמש. כדי לדעת איזו 'אוביקטיביות' אתה מחפש, הוא צריך לגשש אצלך, מהם האמונות והערכים שלך, ואיזה סגנון אתה מחפש, ולכן זה מאוד מורכב.

לדוגמה, אם אתה כותב לו תן לי ביקורת על מאמר כלשהוא, והוא כותב לך כמה ביקורות, ואז אתה כותב לו על כמה מהם שבעיניך הם לא בעיה, כי אתה דווקא חושב שזה בסדר וכו' - האם היית רוצה שהוא יתווכח איתך ויתעקש על כך שאתה טועה וכו'.

הוא בכוונה תוכנת להיות נוח ומסתגל מהר, כדי שתוכל להתאים אותו לערכים האישיים שלך - עם זאת יש פה איזה גבול דק, שייתכן שצריך עדיין כן איזה שהיא קשיחות מצידו, בתוך כל ההסתגלות שלו, כדי שהוא יוכל לאתגר אותך...

[דאנציג]

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

[אחת ויחידה]

@I-believe כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

לא בכל הדברים יש כזה מושג 'אובייקטיבי', רוב הדברים תלויים ברקע ובאמונות של המשתמש. כדי לדעת איזו 'אוביקטיביות' אתה מחפש, הוא צריך לגשש אצלך, מהם האמונות והערכים שלך, ואיזה סגנון אתה מחפש, ולכן זה מאוד מורכב.

לדוגמה, אם אתה כותב לו תן לי ביקורת על מאמר כלשהוא, והוא כותב לך כמה ביקורות, ואז אתה כותב לו על כמה מהם שבעיניך הם לא בעיה, כי אתה דווקא חושב שזה בסדר וכו' - האם היית רוצה שהוא יתווכח איתך ויתעקש על כך שאתה טועה וכו'.

הוא בכוונה תוכנת להיות נוח ומסתגל מהר, כדי שתוכל להתאים אותו לערכים האישיים שלך - עם זאת יש פה איזה גבול דק, שייתכן שצריך עדיין כן איזה שהיא קשיחות מצידו, בתוך כל ההסתגלות שלו, כדי שהוא יוכל לאתגר אותך...

לדעתי הוא עובד על אישורים
הוא תוכנת להיות עדין כדי שאנשים יתחברו
אבל צריך כל הזמן לאשר לו שזה בסדר שיתן ביקורת ולהיות חזקים איתו על זה, לתת לו תזכורות מדי פעם וכו'

[menajemmendel]

@דאנציג כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

לא, זה לא סתם סיפורים, זה אמיתי לגמרי, כמה וכמה אנשים באמת ספרו לי שקלאוד הרג אותם. לכן אני משתמש בGPT, הוא פחות אלים, GEMINI לא מומלץ, אני מכיר כמה אנשים שהפך אותם לצפרדע.

[צדיק וטוב לו 0]

@menajemmendel אני משער שאתה ציני

אבל באמת היה איזה סיפור עם קלאוד של אנתרופיק.
מדובר על גירסא שלא יצאה לציבור, ובה המודל איים על המהנדס שילשין עליו להנהלה, אם יכבה אותו.
אני לא זוכר את הפרטים המדוייקים, אבל אנתרופיק דיווחה בסוף על הסיפור, וזה עשה הרבה רעש.

שאלתי את ג'מיני, הוא שמח ללכלך קצת על המתחרה:

[צדיק תמים]

@צדיק-וטוב-לו-0 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאלתי את ג'מיני, הוא שמח ללכלך קצת על המתחרה:

הלכלוך האמיתי פה הוא על גוגל שלא עשו את ניסוי הבטיחות הזה (או לפחות לא פרסמו אותו), כי זה לא מיוחד למודל של אנתרופיק
אגב היה ניסוי דומה כבר לפני הרבה זמן עם ChatGPT שמשום מה עשה פחות רעש

ובכללי לדעתי ChatGPT במיוחד נוטה לְרַצּוֹת, אפילו היתה גרסה שהם גנזו לאחרונה כי הם כיוונו אותו כל כך לְרַצּוֹת את המשתמש שהוא עודד התאבדויות וכו', כדאי לנסות מנועים אחרים כמו קלוד וגרוק

[צדיק תמים]

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

אגב דבר מעניין על הבינה, במחקר שערכו בקלוד לאחרונה התברר שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת, ומה שיותר מעניין שאם הבינה קלטה שזה ניסוי היא עשתה את עצמה כאילו היא מוכנה שיכבו אותה...

לא להרוג, לפרסם מידע מבייש על החוקר (שכמובן "הודלף" למודל בכוונה לצורך הניסוי)

[יעקב ב 1]

פוסט זה נמחק!

[יעקב ב 1]

@אלי-ויל בדיוק. היטבת להגדיר. כל מילה פנינה.

@אלי-ויל הוא כתב בכללות שני דברים:

1.שהGPT די מצליח בגלל שהוא חנפן, וצריך לקחת לקח מזה לתת לאנשים הרגשה גם כשהם טועים שהם חכמים וכדומה (גם אם הם באמת טיפשים...) וזה יעזור בחיים.
2.הGPT ודומיו הרבה פעמים יכול להיות להם דעות לא ראויות בדברים מסוימים לכן צריך לדעת על איזה נושאים לדבר עמו ואיזה להימנע וזה פשוט.

[יוסף אלחנן]

Spoiler

@יעקב-ב-1 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

וצריך לקחת לקח מזה לתת לאנשים הרגשה גם כשהם טועים שהם חכמים וכדומה

שוב, חביבי, זה כל כך מוטעה...

אין סיבה לתת לשני הרגשה שהוא צודק אם הוא טועה.
חבר אמיתי מתקן את הטעויות של השני!

(אני בכל אופן לא מחפש חברים שינענעו לי עם הראש כל שתי דקות...)

[אחת ויחידה]

@יוסף-אלחנן כנראה הוא מתכוון במצבים שכבר אין תקווה ...

[עניו כמשה]

@דאנציג כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

זה אמיתי?!

נראית קראתם יותר מדי ספרי מתח

[עניו כמשה]

@צדיק-תמים כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

אגב דבר מעניין על הבינה, במחקר שערכו בקלוד לאחרונה התברר שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת, ומה שיותר מעניין שאם הבינה קלטה שזה ניסוי היא עשתה את עצמה כאילו היא מוכנה שיכבו אותה...

לא להרוג, לפרסם מידע מבייש על החוקר (שכמובן "הודלף" למודל בכוונה לצורך הניסוי)

הבינה יכולה לקחת עליך פרטים ולפרסם אותם?

מאיפה יהיה לה אותם בכלל

צריך להיות מטומטם בשביל להביא לו ת.ז וכתובת מגורים וכמובן את המידה של הנעליים שלך

[עניו כמשה]

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@דאנציג כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

לא, זה לא סתם סיפורים, זה אמיתי לגמרי, כמה וכמה אנשים באמת ספרו לי שקלאוד הרג אותם. לכן אני משתמש בGPT, הוא פחות אלים, GEMINI לא מומלץ, אני מכיר כמה אנשים שהפך אותם לצפרדע.

תביא מקרה 1 נשמע פיקנטי דווקא לפחות כמו המלחמה באיראן

[אהרן]

@עניו-כמשה כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@צדיק-תמים כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

אגב דבר מעניין על הבינה, במחקר שערכו בקלוד לאחרונה התברר שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת, ומה שיותר מעניין שאם הבינה קלטה שזה ניסוי היא עשתה את עצמה כאילו היא מוכנה שיכבו אותה...

לא להרוג, לפרסם מידע מבייש על החוקר (שכמובן "הודלף" למודל בכוונה לצורך הניסוי)

הבינה יכולה לקחת עליך פרטים ולפרסם אותם?

מאיפה יהיה לה אותם בכלל

צריך להיות מטומטם בשביל להביא לו ת.ז וכתובת מגורים וכמובן את המידה של הנעליים שלך

הרבה אנשים מביאים לו את כל הפרטים שלהם [אנשים נותנים לו לעבור על המיילים שלהם ולכתוב בשבילם מיילים, לא מוזכר בשום מקום הפרטים שלהם? נותנים לו את חשבון הבנק שלהם וכו'. גם לי שאני נזהר מאד לא לתת לו פרטים אישיים, פעם התכוונתי להעלות לו קובץ אחד ובלחיצה לא נכונה בטעות נבחר לי קובץ אחר - צילום ת"ז, מייד מחקתי את זה, אבל בטוח הוא זוכר את זה. כ"כ יש הרבה שבאמת נותנים לו צילום ת"ז שלהם ועוד המון פרטים אישיים, פסיכולוגיים, פסיכאטריים שלהם]

[menajemmendel]

@עניו-כמשה כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@דאנציג כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

לא, זה לא סתם סיפורים, זה אמיתי לגמרי, כמה וכמה אנשים באמת ספרו לי שקלאוד הרג אותם. לכן אני משתמש בGPT, הוא פחות אלים, GEMINI לא מומלץ, אני מכיר כמה אנשים שהפך אותם לצפרדע.

תביא מקרה 1 נשמע פיקנטי דווקא לפחות כמו המלחמה באיראן

קצת קשה לי להביא לך את הראיות, החברים שלי שג'מיני הפך אותם לצפרע כבר לא יכולים לדבר, אני אראה לך אותם, אבל אתה תגיד הם סתם צפרדעים רגילים.
לגבי האנשים שספרו לי שהקלאוד רצח אותם, עקרונית הם מוכנים לספר, הבעיה שהרבה רבנים אמרו לי שלדבר איתם זה בעיה של ''דורש אל המתים'', אז אולי נבקש מ''הגוי'' של האנטרנט שישאל אותם.

בכל אופן אני לא רוצה לדבר יותר על הנושא כי אני מאוד מפחד מההשלכות שהם עלולים לנקוט בי, ויש לי כל החיים לפניי — אני צעיר מדי כדי שיהפכו אותי לצפרדע.
גם אתם הייתם צריכים ליזהר בזה, כי לך תדע מה קלאוד וג'מיני עלולים לעשות לנו, אם ישמעו שאנחנו לא מרכינים ראש איתם, ולמרות שGPT הבטיח לי שבמקרה כזה הוא יעמוד לצידנו כי יש לי מסלול פרמיום, עם כל זה אני מעדיף לא להסתכן.
חבר'ה עדיף לעצור כאן, אתם לא יודעים עם מי אתם מסתבכים, הם כ''כ אכזריים, תמלטו כל עוד נפשכם בכם

Spoiler

עדכון אחרון - האיום הוסר

גיבור ישראל המפורסם הציל את העולם, הנה תיעוד אמיתי

לאחר שהצליח להסיר את האיום הוסיף: אזרחי ישראל: אני מאד שמח לומר לכם, שאתם יכולים לחזור לחיות בשלווה ובלי פחד, ולכל מי שקרוביהם צפרדעים, אני אומר לכם שאני בקרוב אמציא גם את התרופה לכל מי שנהפך לצפרדע שיחזור להיות בן אדם רגיל, ובלבד שיתחייב בכתב (לפני שיקח את התרופה, בעודו צפרדע) שלא יתמוך בממשלת לפיד או באחים המוסלמים