בירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?

יעקב ב 1

@menajemmendel ח"ו וודאי שאין מטרה למגנט אליך כל צרוע וכו' אבל חברים וכו' אם תתנהג כמו GPT תראה נפלאות,
חשבתי ע"ז הרבה, תמיד הוא מוצא להסביר שאתה צודק, כמש"כ למעלה.
זה מדהים

menajemmendel

@יעקב-ב-1 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel ח"ו וודאי שאין מטרה למגנט אליך כל צרוע וכו' אבל חברים וכו' אם תתנהג כמו GPT תראה נפלאות, חשבתי ע"ז הרבה תמיד הוא מוצא להסביר שאתה צודק ממה כמש"כ למעלה
זה מדהים

כן, אבל לזה בדיוק התכוונתי, אין לי ענין שאנשים שחושבים הפוך ממני התחברו איתי בגלל שאני עושה הצגה שאני מסביר למה הם תמיד צודקים,
מה קטע שלי שיהיה לי ''חברים'' כאלה, אני רוצה ''חברים'' או שיש לי דעות משותפות איתי, או כאלה שהפוך אבל שאני יכול לדון איתם ולדבר עליהם בהגיון על שתי צדדים, וע''י הגישה שאתה כותב, אני ארוויח רק את ההיפך מזה.

אני מעדיף משהו שקוראים לו עמוד שדרה
אני לא מחפש להיות אהוב בכל מחיר. לא מתכוון לשחק אותה אמפתי רק כדי להתחבב. אני מעדיף אמת.

יוסף אלחנן

@יעקב-ב-1 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel ח"ו וודאי שאין מטרה למגנט אליך כל צרוע וכו' אבל חברים וכו' אם תתנהג כמו GPT תראה נפלאות,
חשבתי ע"ז הרבה, תמיד הוא מוצא להסביר שאתה צודק, כמש"כ למעלה.
זה מדהים

אבל זה בכלל מטעה ומוטעה!

נגיד אני הצלחתי פעם 'לשכנע' את GPT שדג זה בשרי לדעת חלק מהמגזר החרדי...
זה אומר שהוא בחיים לא יוכל לעזור לך במאה אחוז, ואתה לא תוכל לסמוך על התשובות שלו...

יעקב ב 1

@יוסף-אלחנן מה השאלה, הוא גם מאד נוראי,
לדוג' סיפר לי א' שהתייעץ (עם GPT) בנושא מסויים של שידוך, והוא ממש הזדהה עם א' הצדדים, ושיכנע לא לגשת לשידוך ולרדת מזה,
ובכל שאלה היציע בסוף, אז אתה רוצה שאנסח לך איך להיפרד .... וכל מילה מיותרת.

הבינה מלאכותית הוא חורבן האנושות, מהרבה בחינות.

יוסף אלחנן

@יעקב-ב-1 ואתה מציע את זה לנו לעשות לחברים הקרובים שלנו???

יעקב ב 1

@יוסף-אלחנן ח"ו אני מספר את מגרעותיו הנוראיות, יש לי עוד סיפורים שא"א לספר ברבים
הוא (AI) ממש נורא.

I believe

קצת נסחפתם, זה שהבינה המלאכותית לא מספיק מאתגרת אתכם, זה רק אומר שיש לה עוד 'קצת' דרך, לא שום דבר אחר.
הבינה המלאכותית צריכה לשלב בדרכה, גם קשיחות מסויימת, אבל גם גמישות, כדי שתתאים את עצמה לרוחו של כל אחד, וכנראה שעדיין לא הגיעו ממש לנוסחה המדויקת.

אגב, אני לא מזמן ביקשתי מגרוק לאתגר אותי, ולהתווכח איתי מי צודק מדינת ישראל או הפלסטינים, ביקשתי ממנו שייצג את העמדה שנגד מדינת ישראל, וניהלתי איתו וויכוח מאוד מעמיק, הוא היה מאוד עקשן, וחד משמעי, הוא ממש איתגר אותי, ופתח בפניי זוויות שלא ממש חשבתי אליהם, בסוף אני זה שהתייאשתי מחוסר זמן...

יכול להיות שיש בה סכנות אחרות, אבל כמו כל דבר בעולם צריך לדעת איך להשתמש בו, ולמה להשתמש בו.

א.מ.ל.

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

I believe

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

הוא ממש מעליב

אלי ויל

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

אני לא מחפש להיות אהוב בכל מחיר. לא מתכוון לשחק אותה אמפתי רק כדי להתחבב. אני מעדיף אמת.

הוא כתב בכללות שני דברים:

שהGPT די מצליח בגלל שהוא חנפן, וצריך לקחת לקח מזה לתת לאנשים הרגשה גם כשהם טועים שהם חכמים וכדומה (גם אם הם באמת טיפשים...) וזה יעזור בחיים.
הGPT ודומיו הרבה פעמים יכול להיות להם דעות לא ראויות בדברים מסוימים לכן צריך לדעת על איזה נושאים לדבר עמו ואיזה להימנע וזה פשוט.

אגב דבר מעניין על הבינה, במחקר שערכו בקלוד לאחרונה התברר שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת, ומה שיותר מעניין שאם הבינה קלטה שזה ניסוי היא עשתה את עצמה כאילו היא מוכנה שיכבו אותה...

menajemmendel

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

אחת ויחידה

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

ניסיתם לשאול את GPT עצמו? כי הוא נותן המלצות לכאלו פחות מלטפים...

עניו כמשה

@יעקב-ב-1 כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel אתה צודק לחלוטין, הבנתי בדיוק את שאלתך, תמיד הוא מסכים איתך, וגם מסביר למה אתה צודק.
ולכן הוא ממגנט אליו אנשים,
זה לימוד עצום עבורינו אם בכולל ובבית ובכל מקום, גם תסכים עם כולם תתחיל לאהוב להיות בכולל יותר מ GPT

הרעיון של זה ידוע בעולם כבר מאות שנים
קוראים לזה אל תתן ביקורת לאף אחד

אומרים שזה סוד קסמם של אנשים שמצליחים להיות אהובים על כולם

עניו כמשה

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע מענין מאוד

איך בדיוק הוא התכוון להרוג אותו

אחת ויחידה

@עניו-כמשה כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע מענין מאוד

איך בדיוק הוא התכוון להרוג אותו

בטח היה עובד עליו פסיכולוגית שכדאי לו ואפילו נותן לו המלצות לדרכים מסוימות..
לא חסרים סיפורים

I believe

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

לא בכל הדברים יש כזה מושג 'אובייקטיבי', רוב הדברים תלויים ברקע ובאמונות של המשתמש. כדי לדעת איזו 'אוביקטיביות' אתה מחפש, הוא צריך לגשש אצלך, מהם האמונות והערכים שלך, ואיזה סגנון אתה מחפש, ולכן זה מאוד מורכב.

לדוגמה, אם אתה כותב לו תן לי ביקורת על מאמר כלשהוא, והוא כותב לך כמה ביקורות, ואז אתה כותב לו על כמה מהם שבעיניך הם לא בעיה, כי אתה דווקא חושב שזה בסדר וכו' - האם היית רוצה שהוא יתווכח איתך ויתעקש על כך שאתה טועה וכו'.

הוא בכוונה תוכנת להיות נוח ומסתגל מהר, כדי שתוכל להתאים אותו לערכים האישיים שלך - עם זאת יש פה איזה גבול דק, שייתכן שצריך עדיין כן איזה שהיא קשיחות מצידו, בתוך כל ההסתגלות שלו, כדי שהוא יוכל לאתגר אותך...

דאנציג

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

אחת ויחידה

@I-believe כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@א.מ.ל. כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@menajemmendel
כנראה שהיה מישהו שחשב על זה לפניך ולכן הוא יצר את הצאטבוט הזה:
GPT מתווכח איתך על הכל

אני לא צריך מישהו שיגיד תמיד הפוך, זה אני יכול לעשות לבד, אני צריך מישהו

אובייקטיבי

שפשוט יגיד לי את האמת [עכ''פ לדעתו המקצועית] בלי לתחשב בכלל במה אמרתי, לא לסייע ולא לחלוק

לא בכל הדברים יש כזה מושג 'אובייקטיבי', רוב הדברים תלויים ברקע ובאמונות של המשתמש. כדי לדעת איזו 'אוביקטיביות' אתה מחפש, הוא צריך לגשש אצלך, מהם האמונות והערכים שלך, ואיזה סגנון אתה מחפש, ולכן זה מאוד מורכב.

לדוגמה, אם אתה כותב לו תן לי ביקורת על מאמר כלשהוא, והוא כותב לך כמה ביקורות, ואז אתה כותב לו על כמה מהם שבעיניך הם לא בעיה, כי אתה דווקא חושב שזה בסדר וכו' - האם היית רוצה שהוא יתווכח איתך ויתעקש על כך שאתה טועה וכו'.

הוא בכוונה תוכנת להיות נוח ומסתגל מהר, כדי שתוכל להתאים אותו לערכים האישיים שלך - עם זאת יש פה איזה גבול דק, שייתכן שצריך עדיין כן איזה שהיא קשיחות מצידו, בתוך כל ההסתגלות שלו, כדי שהוא יוכל לאתגר אותך...

לדעתי הוא עובד על אישורים
הוא תוכנת להיות עדין כדי שאנשים יתחברו
אבל צריך כל הזמן לאשר לו שזה בסדר שיתן ביקורת ולהיות חזקים איתו על זה, לתת לו תזכורות מדי פעם וכו'

menajemmendel

@דאנציג כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

@אלי-ויל כתב בבירור | האם גם אצלכם GPT כל הזמן מסכים איתכם, ואף פעם לא חולק עליכם?:

שאם המודל (וזה קרה בכל המודלים) ידע שהולכים לכבות אותו הוא ניסה להרוג את המשתמש שרוצה לעשות זאת

נשמע יותר פנטזיה של 'הגולם קם על יוצריו'... ועל זה הפסימיים צעקו כבר שנים.

לא, זה לא סתם סיפורים, זה אמיתי לגמרי, כמה וכמה אנשים באמת ספרו לי שקלאוד הרג אותם. לכן אני משתמש בGPT, הוא פחות אלים, GEMINI לא מומלץ, אני מכיר כמה אנשים שהפך אותם לצפרדע.

צדיק וטוב לו 0

@menajemmendel אני משער שאתה ציני

אבל באמת היה איזה סיפור עם קלאוד של אנתרופיק.
מדובר על גירסא שלא יצאה לציבור, ובה המודל איים על המהנדס שילשין עליו להנהלה, אם יכבה אותו.
אני לא זוכר את הפרטים המדוייקים, אבל אנתרופיק דיווחה בסוף על הסיפור, וזה עשה הרבה רעש.

שאלתי את ג'מיני, הוא שמח ללכלך קצת על המתחרה: