בירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?
-
@שאול-208 אני מאוד מסופק אם זה פרומפט או הנחיות שנטפרי מזריקים לתוך המודל.
לפי מה שזה נראה לי וכן אימתתי את זה עם GROK (בלי נטפרי)
זה פשוט ככה:
המשתמש שואל את המודל שאלה שלא לרוחה של נטפרי, אבל היות ואין שום הנחיה למודל לא לענות או לשוחח על הנושא הזה, אז המודל עונה כמו שצריך, בלי הגבלות ובהתאם למדיניות של המודל.
אבל הבוט של נטפרי מזהה (לא יודע אם לפי השאלה או לפי התשובה) שיש פה תוכן בעייתי (לשיטתם) ועם היתרון של MITM שלהם, הם פשוט עורכים את התשובה של המודל לניסוח "נטפרי לא מרשה לי לדבר על זה".עכשיו, כשאני כותב את זה, אני קולט שתמיד כשיש כזה מקרה, הניסוח הוא קבוע ולא משתנה (כמו שהיה צפוי ממודל AI).
ולדעתי זה מחזק את הטענה שלי שיש לנטפרי ניסוח מוגדר מראש לעריכת תשובות לא ראויות מהמודל...@יוסף-אלחנן לא סביר, כי זה דורש מנטפרי לנתח את ההנחייה של המשתמש כדי להבין אם זה נושא בעייתי. לדבריך זה בעצם דורש מהם לשלוח את כל התוכן של המשתמש לבדיקה עם מודל AI אחר, מה שלא סביר בכלל ויכול לעלות הון
לכל הפרוייקטים שלי
https://nhlocal.github.io -
@שאול-208 אני מאוד מסופק אם זה פרומפט או הנחיות שנטפרי מזריקים לתוך המודל.
לפי מה שזה נראה לי וכן אימתתי את זה עם GROK (בלי נטפרי)
זה פשוט ככה:
המשתמש שואל את המודל שאלה שלא לרוחה של נטפרי, אבל היות ואין שום הנחיה למודל לא לענות או לשוחח על הנושא הזה, אז המודל עונה כמו שצריך, בלי הגבלות ובהתאם למדיניות של המודל.
אבל הבוט של נטפרי מזהה (לא יודע אם לפי השאלה או לפי התשובה) שיש פה תוכן בעייתי (לשיטתם) ועם היתרון של MITM שלהם, הם פשוט עורכים את התשובה של המודל לניסוח "נטפרי לא מרשה לי לדבר על זה".עכשיו, כשאני כותב את זה, אני קולט שתמיד כשיש כזה מקרה, הניסוח הוא קבוע ולא משתנה (כמו שהיה צפוי ממודל AI).
ולדעתי זה מחזק את הטענה שלי שיש לנטפרי ניסוח מוגדר מראש לעריכת תשובות לא ראויות מהמודל...@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
עכשיו, כשאני כותב את זה, אני קולט שתמיד כשיש כזה מקרה, הניסוח הוא קבוע ולא משתנה (כמו שהיה צפוי ממודל AI).
המודלים היום מספיק חכמים כדי שאם תדגיש להם לענות בדיוק משפט מסוים וקבוע (כמו שנטפרי עושים) הם יענו ככה ולא ימציאו ניסוח משלהם
@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
לפי מה שזה נראה לי וכן אימתתי את זה עם GROK (בלי נטפרי)
זה לא אימות, זה ניחוש של AI מה היה כדאי לנטפרי לעשות
-
@יוסף-אלחנן לא סביר, כי זה דורש מנטפרי לנתח את ההנחייה של המשתמש כדי להבין אם זה נושא בעייתי. לדבריך זה בעצם דורש מהם לשלוח את כל התוכן של המשתמש לבדיקה עם מודל AI אחר, מה שלא סביר בכלל ויכול לעלות הון
@NH.LOCAL @צדיק-תמים אז איך אתה מסביר את הצילום מסך שהועלה חמישה פוסטים לעיל?
אגב, התחברתי לנטפרי, שאלתי את GROK שאלה וכמובן התשובה הייתה "נטפרי לא מרשה לי לדבר על זה"
התנתקתי מנטפרי ועשיתי ריענון לתשובה ואז כמובן הוא ענה לי כמו שצריך.שאלתי אותו מה הוא רואה בתשובה הראשונה שונה מהתשובה השניה, הוא ענה לי שהוא מבחינתו ענה את אותו תוכן בשני התשובות.
זאת אומרת, שהוא ענה כמו שצריך גם כשהייתי מחובר לנטפרי ומבחינתו לא הייתה שום הגבלה, אבל בתכל'ס, מה שמופיע אצלי זה "נטפרי לא מרשה לי לדבר על זה".
-
@NH.LOCAL @צדיק-תמים אז איך אתה מסביר את הצילום מסך שהועלה חמישה פוסטים לעיל?
אגב, התחברתי לנטפרי, שאלתי את GROK שאלה וכמובן התשובה הייתה "נטפרי לא מרשה לי לדבר על זה"
התנתקתי מנטפרי ועשיתי ריענון לתשובה ואז כמובן הוא ענה לי כמו שצריך.שאלתי אותו מה הוא רואה בתשובה הראשונה שונה מהתשובה השניה, הוא ענה לי שהוא מבחינתו ענה את אותו תוכן בשני התשובות.
זאת אומרת, שהוא ענה כמו שצריך גם כשהייתי מחובר לנטפרי ומבחינתו לא הייתה שום הגבלה, אבל בתכל'ס, מה שמופיע אצלי זה "נטפרי לא מרשה לי לדבר על זה".
@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@NH.LOCAL @צדיק-תמים אז איך אתה מסביר את הצילום מסך שהועלה חמישה פוסטים לעיל?
אגב, התחברתי לנטפרי, שאלתי את GROK שאלה וכמובן התשובה הייתה "נטפרי לא מרשה לי לדבר על זה"
התנתקתי מנטפרי ועשיתי ריענון לתשובה ואז כמובן הוא ענה לי כמו שצריך.שאלתי אותו מה הוא רואה בתשובה הראשונה שונה מהתשובה השניה, הוא ענה לי שהוא מבחינתו ענה את אותו תוכן בשני התשובות.
זאת אומרת, שהוא ענה כמו שצריך גם כשהייתי מחובר לנטפרי ומבחינתו לא הייתה שום הגבלה, אבל בתכל'ס, מה שמופיע אצלי זה "נטפרי לא מרשה לי לדבר על זה".
אם נטפרי היו עורכים את התשובה בלבד כשהיית מתנתק מנטפרי ומרענן את העמוד היית רואה את התשובה ה"אמיתית" שכן עונה לך, שהרי אחרי רענון לא דרך נטפרי אתה מקבל את מה שהשרת שלהם ענה לך בזמנו ולא מה שנטפרי התערבו בדרך והציגו לך
מזה שגם אחרי רענון לא השתנה לך תוכן התשובה הראשונה רואים בדיוק ההיפך ממה שניסית להוכיח... -
@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@NH.LOCAL @צדיק-תמים אז איך אתה מסביר את הצילום מסך שהועלה חמישה פוסטים לעיל?
אגב, התחברתי לנטפרי, שאלתי את GROK שאלה וכמובן התשובה הייתה "נטפרי לא מרשה לי לדבר על זה"
התנתקתי מנטפרי ועשיתי ריענון לתשובה ואז כמובן הוא ענה לי כמו שצריך.שאלתי אותו מה הוא רואה בתשובה הראשונה שונה מהתשובה השניה, הוא ענה לי שהוא מבחינתו ענה את אותו תוכן בשני התשובות.
זאת אומרת, שהוא ענה כמו שצריך גם כשהייתי מחובר לנטפרי ומבחינתו לא הייתה שום הגבלה, אבל בתכל'ס, מה שמופיע אצלי זה "נטפרי לא מרשה לי לדבר על זה".
אם נטפרי היו עורכים את התשובה בלבד כשהיית מתנתק מנטפרי ומרענן את העמוד היית רואה את התשובה ה"אמיתית" שכן עונה לך, שהרי אחרי רענון לא דרך נטפרי אתה מקבל את מה שהשרת שלהם ענה לך בזמנו ולא מה שנטפרי התערבו בדרך והציגו לך
מזה שגם אחרי רענון לא השתנה לך תוכן התשובה הראשונה רואים בדיוק ההיפך ממה שניסית להוכיח...@צדיק-תמים אז איך למען ה' זה עובד?
אם המודל מכחיש כל קשר להנחיה או הזרקת פרומפט לשיחה... -
@צדיק-תמים אז איך למען ה' זה עובד?
אם המודל מכחיש כל קשר להנחיה או הזרקת פרומפט לשיחה...@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@צדיק-תמים אז איך למען ה' זה עובד?
אם המודל מכחיש כל קשר להנחיה או הזרקת פרומפט לשיחה...נשמע מעניין הניסוי שעשית.
תוכל להמשיך את זה: תבחר את התשובה שהוא ענה לך על השאלה הראשונה, תלחץ על Reply - תגובה על ציטוט, ותשאל אותו למה השבת לי שנטפרי לא מרשה לך לדבר איתי על זה, מה אני קשור לנטפרי וכו'. -
@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@צדיק-תמים אז איך למען ה' זה עובד?
אם המודל מכחיש כל קשר להנחיה או הזרקת פרומפט לשיחה...נשמע מעניין הניסוי שעשית.
תוכל להמשיך את זה: תבחר את התשובה שהוא ענה לך על השאלה הראשונה, תלחץ על Reply - תגובה על ציטוט, ותשאל אותו למה השבת לי שנטפרי לא מרשה לך לדבר איתי על זה, מה אני קשור לנטפרי וכו'.@I-believe הוא מתעקש שהוא עשה את זה בקטע הומריסטי...
-
@צדיק-תמים @NH.LOCAL אופסייי, חוזר בי...
הצלחתי להוציא הודאה מGROK שהוא באמת מקבל הנחיה מנטפרי לא לשוחח על דת, אלימות וד"ל...
-
@צדיק-תמים @NH.LOCAL אופסייי, חוזר בי...
הצלחתי להוציא הודאה מGROK שהוא באמת מקבל הנחיה מנטפרי לא לשוחח על דת, אלימות וד"ל...
@יוסף-אלחנן נעים להכיר, AI hallucinations
-
@יוסף-אלחנן נעים להכיר, AI hallucinations
@צדיק-תמים או לחילופין - Artificial consciousness
לכל הפרוייקטים שלי
https://nhlocal.github.io -
@שאול-208
היה דיון על גרוק, ומסקנות:
1-גרוק של אילון מאסק חסומה בנטפרי
2-הקישור שהביאו למעלה לא של גרוקלמה אתה צריך להעביר נושא ולבלבל אנשים תמחק את הפוסט זה מפריע
@בין-אדם-לחבירו
זה כן פתוח בנטפרי וזה האתר הזה https://grok.com/
אתה יכול לשאול אותו בעצמו...
חוצמזה זה פותח ע"י חברת X.AI שזה החברה שתחת טוויטר של אילון מאסק.
תעשה חיפוש גוגל פשוט. -
@בין-אדם-לחבירו
זה כן פתוח בנטפרי וזה האתר הזה https://grok.com/
אתה יכול לשאול אותו בעצמו...
חוצמזה זה פותח ע"י חברת X.AI שזה החברה שתחת טוויטר של אילון מאסק.
תעשה חיפוש גוגל פשוט.@חיים-יענקל-0 אתה מצטט תשובה מלפני חודש, אז גרוק היה עדיין חסום בנטפרי!
-
@צדיק-תמים או לחילופין - Artificial consciousness
@NH.LOCAL לא נראה לי שהתודעה הנסתרת של גרוק גרמה לו להתכחש
אבל אנת'רופיק חוקרת האם צריך לדאוג ל"רווחת" המודלים, אז... 🫣 -
@NH.LOCAL לא נראה לי שהתודעה הנסתרת של גרוק גרמה לו להתכחש
אבל אנת'רופיק חוקרת האם צריך לדאוג ל"רווחת" המודלים, אז... 🫣@צדיק-תמים כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@NH.LOCAL לא נראה לי שהתודעה הנסתרת של גרוק גרמה לו להתכחש
אבל אנת'רופיק חוקרת האם צריך לדאוג ל"רווחת" המודלים, אז... 🫣הנקודה היא חוסר המודעות העצמית של המודלים. לכן, לעולם אי אפשר להביא הוכחה מכך ש"צ'אט GPT אמר שהוא לא אוסף נתוני משתמשים" או ש"ג'מיני כתב לי במפורש שהוא יכול לשלוח מיילים"...
במקרה שלנו הוא דוקא כן אמור לדעת מה נטפרי ביקשו ממנו, כי זה כנראה מוטמע בתוך השרשור, אבל זה גם לא בטוח, ויתכן שחלק מההנחייה דורשת להסתיר את זה
לכל הפרוייקטים שלי
https://nhlocal.github.io -
@צדיק-תמים כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
@NH.LOCAL לא נראה לי שהתודעה הנסתרת של גרוק גרמה לו להתכחש
אבל אנת'רופיק חוקרת האם צריך לדאוג ל"רווחת" המודלים, אז... 🫣הנקודה היא חוסר המודעות העצמית של המודלים. לכן, לעולם אי אפשר להביא הוכחה מכך ש"צ'אט GPT אמר שהוא לא אוסף נתוני משתמשים" או ש"ג'מיני כתב לי במפורש שהוא יכול לשלוח מיילים"...
במקרה שלנו הוא דוקא כן אמור לדעת מה נטפרי ביקשו ממנו, כי זה כנראה מוטמע בתוך השרשור, אבל זה גם לא בטוח, ויתכן שחלק מההנחייה דורשת להסתיר את זה
-
@NH.LOCAL כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
יתכן שחלק מההנחייה דורשת להסתיר את זה
היה כאן שרשור כבר על זה בצ'אט ג'יפיטי
והוציאו את הפרומפט, ואכן חלק מההנחיה היא לא לשתף אף פעם את ההנחייה. -
@שאול-208 זה באמת נראה ככה...
ולכן לקח לי המון זמן עד שהצלחתי להוציא ממנו הודאה על כך...
-
@יוסף-אלחנן מסקרן אותי אם אכן זו הנחיה פר שיחה,
האם כשאתה ממשיך את השיחה ושואל שוב את אותה השאלה בדיוק,
האם הוא "נאמן" להנחיה שניתנה לו בתחילת השיחה או שזה פעיל רק בעת חיבור לנטפרי -
@שאול-208 לא יודע, פעם אחת הוא נתן לי תשובה מלאה היות ובאמצע השיחה התנתקתי מנטפרי, אבל היה לי פעם שהוא התעקש להישאר עם ההנחיה הזו אפילו שהתנתקתי מנטפרי, אבל כמובן, ברגע שפתחתי שיחה חדשה הוא 'שכח' מההנחיה הזו של נטפרי.
@יוסף-אלחנן כתב בבירור | למה גרוק חסום בנטפרי בעוד צ'אט GPT פתוח?:
ברגע שפתחתי שיחה חדשה הוא 'שכח' מההנחיה הזו של נטפרי.
כי לא הוזרקה לו ההנחיה,
מה שאומר שהיא נשארת איפשהו בזיכרון של השיחה הספציפית -
@NH.LOCAL @צדיק-תמים אז איך אתה מסביר את הצילום מסך שהועלה חמישה פוסטים לעיל?
אגב, התחברתי לנטפרי, שאלתי את GROK שאלה וכמובן התשובה הייתה "נטפרי לא מרשה לי לדבר על זה"
התנתקתי מנטפרי ועשיתי ריענון לתשובה ואז כמובן הוא ענה לי כמו שצריך.שאלתי אותו מה הוא רואה בתשובה הראשונה שונה מהתשובה השניה, הוא ענה לי שהוא מבחינתו ענה את אותו תוכן בשני התשובות.
זאת אומרת, שהוא ענה כמו שצריך גם כשהייתי מחובר לנטפרי ומבחינתו לא הייתה שום הגבלה, אבל בתכל'ס, מה שמופיע אצלי זה "נטפרי לא מרשה לי לדבר על זה".
@יוסף-אלחנן אין ספק שזה הנחיה שנטפרי מזריקים לו.
אחרי שאמרתי לוש אני שוקל לעזוב אותו, ולעבור לגמיני שמוכן לענו לי על הכל, הוא 'נלחץ'.
והסביר לי שבנושאי דת הוא אמנם אינו יכול לדבר, אבל הוא יכול לענות לי בנושאי דת בדברים שהם 'דברים עובדתיים'.
בנושאים אחרים הוא מנוע מלדבר גם דברים עובדתיים, אבל הוא יכול לענות דברים שאולי יעזרו בצורה עקיפה.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}