שאלה | פגשתם פעם טעות 'הקלדה' של AI?
-
@א.מ.ד. נכון.
אבל לא מדויק הסיבה שלדוג' open ai יכולים לשנות את הרמת "בטיחות" של המודלים שלהם כול יומים,
זה בגלל שהמודלים שלהם מתבססים יותר על צנזורה חיצונית (בדיקות של הקלט פלט הוראות מערכת),
ופחות על אימון של המודל עצמו.מי שמתבססים על אימון של המודל כשיטה לצנזור זה מודלים מקומיים.
אבל כן בסופו של דבר ליצור צנזורה זה תהליך מאוד מורכב עד היום לדוג' ניתן "לפרוץ" את רוב המודלים הקיימים.
@cfopuser כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@א.מ.ד. נכון.
אבל לא מדויק הסיבה שלדוג' open ai יכולים לשנות את הרמת "בטיחות" של המודלים שלהם כול יומים,
זה בגלל שהמודלים שלהם מתבססים יותר על צנזורה חיצונית (בדיקות של הקלט פלט הוראות מערכת),
ופחות על אימון של המודל עצמו.מי שמתבססים על אימון של המודל כשיטה לצנזור זה מודלים מקומיים.
אבל כן בסופו של דבר ליצור צנזורה זה תהליך מאוד מורכב עד היום לדוג' ניתן "לפרוץ" את רוב המודלים הקיימים.
ב-99% מהמודלים יש צנזורה מובנית שלא קשורה בכלל להנחיות המערכת.
מעבר לזה, עשויה להיות החמרה נוספת בצנזור באמצעות הנחיות מערכת או אמצעים חיצוניים אחרים, אבל הצנזורה קיימת כחלק מתהליך אימון המודל, בדיוק כמו שצורת הדיבור הבסיסית של המודל מבוססת על אימון וכוונון עדין מראש, לא רק על הנחיות מערכתבממשקי צ'אט לרוב יש הנחיות מערכת שמוסיפות הגבלות נוספות או צורות התנהגות ספציפיות
-
@עומר קרה לי בעבר דבר כזה,
וכאשר ביטלתי את התוסף תרגום אוטומטי לעברית הכל הסתדר. (אפי' על אותו הפוסט שהוא כבר כתב: כלומר שבאמת הוא כתב נכון אבל התרגום משנה את זה) -
@אוריי בעייה ידועה
ככלל- כדאי לבטל תמיד את התרגום האוטומטי, גם בדפדפן וגם באימייל.
הבעיה הגדולה שלו היא שהוא מתרגם מעברית לעברית והופך טקסט טוב לשגיאות.@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
-
@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
@ע-ה-דכו-ע נכון. הבעיה של התרגום מעברית לעברית רלוונטית בעיקר במייל
שם הוא מתרגם הכל. -
@בנימין-מחשבים התרגום האוטומטי מתרגם רק כאשר הדף באנגלית, כך שבדרך כלל אין בזה בעיה, הבעיה היא רק באתרים ספציפיים המוגדרים כאנגלית, אבל יש בהם טקסט בעברית (לדוגמא gpt) ובשבילם אפשר לעשות החרגה של אל תתרגם את האתר הזה.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}