שאלה | פגשתם פעם טעות 'הקלדה' של AI?
-
@א.מ.ד. ההוראות בטיחות בדרך כלל לא מסתמכות רק על שיקול הדעת של המודל.
לפעמים יש עוד מודלים שעוברים על הקלט ועל הפלט.כלומר הsystem promt בדרך כלל מתווסף להודעה לך כחלק מההודעה.
אחרת המודל לא היה יודע איזה מודל הוא ושל איזה חברה וכו'.@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
לפעמים יש עוד מודלים שעוברים על הקלט ועל הפלט.
אתה צודק! גוגל אימנה מודלים ייעודיים, עכשיו אני נזכר...
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
כלומר הsystem promt בדרך כלל מתווסף להודעה לך כחלק מההודעה.
אחרת המודל לא היה יודע איזה מודל הוא ושל איזה חברה וכו'.לא הבנתי מה אתה מתכוון... אני מתכוון להקשר, לא להוראות מערכת...
-
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
לפעמים יש עוד מודלים שעוברים על הקלט ועל הפלט.
אתה צודק! גוגל אימנה מודלים ייעודיים, עכשיו אני נזכר...
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
כלומר הsystem promt בדרך כלל מתווסף להודעה לך כחלק מההודעה.
אחרת המודל לא היה יודע איזה מודל הוא ושל איזה חברה וכו'.לא הבנתי מה אתה מתכוון... אני מתכוון להקשר, לא להוראות מערכת...
-
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@א.מ.ד. אה, הבנתי שאתה מתכוון לצנזורה שבנויה כחלק מהמודל,
שזה נמצא ההוראות מערכת.צנזורה אמיתית נמצאת בתוך נתוני האימון של המודל עצמו, גם אם הוראות המערכת אומרות לו הפוך. אתה יכול לבדוק את זה עם מודל מקומי. נפוצים מודלים פתוחים ללא צנזורה - שעברו אימון נוסף שפותח את הצנזורה, או לחילופין אומנו מחדש על סט הנתונים ללא נתוני הבטיחות.
-
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@א.מ.ד. אה, הבנתי שאתה מתכוון לצנזורה שבנויה כחלק מהמודל,
שזה נמצא ההוראות מערכת.צנזורה אמיתית נמצאת בתוך נתוני האימון של המודל עצמו, גם אם הוראות המערכת אומרות לו הפוך. אתה יכול לבדוק את זה עם מודל מקומי. נפוצים מודלים פתוחים ללא צנזורה - שעברו אימון נוסף שפותח את הצנזורה, או לחילופין אומנו מחדש על סט הנתונים ללא נתוני הבטיחות.
@א.מ.ד. נכון.
אבל לא מדויק הסיבה שלדוג' open ai יכולים לשנות את הרמת "בטיחות" של המודלים שלהם כול יומים,
זה בגלל שהמודלים שלהם מתבססים יותר על צנזורה חיצונית (בדיקות של הקלט פלט הוראות מערכת),
ופחות על אימון של המודל עצמו.מי שמתבססים על אימון של המודל כשיטה לצנזור זה מודלים מקומיים.
אבל כן בסופו של דבר ליצור צנזורה זה תהליך מאוד מורכב עד היום לדוג' ניתן "לפרוץ" את רוב המודלים הקיימים.
-
@א.מ.ד. נכון.
אבל לא מדויק הסיבה שלדוג' open ai יכולים לשנות את הרמת "בטיחות" של המודלים שלהם כול יומים,
זה בגלל שהמודלים שלהם מתבססים יותר על צנזורה חיצונית (בדיקות של הקלט פלט הוראות מערכת),
ופחות על אימון של המודל עצמו.מי שמתבססים על אימון של המודל כשיטה לצנזור זה מודלים מקומיים.
אבל כן בסופו של דבר ליצור צנזורה זה תהליך מאוד מורכב עד היום לדוג' ניתן "לפרוץ" את רוב המודלים הקיימים.
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@א.מ.ד. נכון.
אבל לא מדויק הסיבה שלדוג' open ai יכולים לשנות את הרמת "בטיחות" של המודלים שלהם כול יומים,
זה בגלל שהמודלים שלהם מתבססים יותר על צנזורה חיצונית (בדיקות של הקלט פלט הוראות מערכת),
ופחות על אימון של המודל עצמו.מי שמתבססים על אימון של המודל כשיטה לצנזור זה מודלים מקומיים.
אבל כן בסופו של דבר ליצור צנזורה זה תהליך מאוד מורכב עד היום לדוג' ניתן "לפרוץ" את רוב המודלים הקיימים.
ב-99% מהמודלים יש צנזורה מובנית שלא קשורה בכלל להנחיות המערכת.
מעבר לזה, עשויה להיות החמרה נוספת בצנזור באמצעות הנחיות מערכת או אמצעים חיצוניים אחרים, אבל הצנזורה קיימת כחלק מתהליך אימון המודל, בדיוק כמו שצורת הדיבור הבסיסית של המודל מבוססת על אימון וכוונון עדין מראש, לא רק על הנחיות מערכתבממשקי צ'אט לרוב יש הנחיות מערכת שמוסיפות הגבלות נוספות או צורות התנהגות ספציפיות
-
@עומר קרה לי בעבר דבר כזה,
וכאשר ביטלתי את התוסף תרגום אוטומטי לעברית הכל הסתדר. (אפי' על אותו הפוסט שהוא כבר כתב: כלומר שבאמת הוא כתב נכון אבל התרגום משנה את זה) -
@אוריי בעייה ידועה
ככלל- כדאי לבטל תמיד את התרגום האוטומטי, גם בדפדפן וגם באימייל.
הבעיה הגדולה שלו היא שהוא מתרגם מעברית לעברית והופך טקסט טוב לשגיאות.@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
-
@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
@ע-ה-דכו-ע נכון. הבעיה של התרגום מעברית לעברית רלוונטית בעיקר במייל
שם הוא מתרגם הכל. -
@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}