סקר | סקר ביקוש לסינון חדש
-
@yehokarpel
מה פתאום?
יש להם עשרות ערביות שיושבות וזה כל העבודה שלהם.
לי לא יצא מעולם תמונה לא מסוננת בנטפרי.פוסט זה נמחק! -
פוסט זה נמחק!
-
פוסט זה נמחק!
פוסט זה נמחק! -
פוסט זה נמחק!
@yehokarpel אני לא ידבר על העמימות בנוגע לסינון את מי אתה בא להחליף וכו'
אני ידבר טיפה יותר טכני,
א' אתה משתמש במודלי שפה כללים מהחברות הגדולות שאכן אתה יכול להגיע לביצועים טובים איתם,
אבל המחיר לעולם לא יהיה שווה לך אתה תאלץ לגבות סכומים אדירים לדברים הללו,
זה נקודה שנראה לי ששקלת ואתה חושב שתיפתר,
אבל לא נראה לי אי פעם המודלים במחירם יאפשרו לך שמשתמש ישוטט כמה שהוא רוצה ויטען לך כמה תמונות שהוא רוצה בלי הפסד. (וגם נקודה חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים).ב' מדובר במודלי שפה גדולים כללים,
שזה אולי טוב ברעיון (הרבה פרמטרים, ידע כללי טוב הבנה בדקויות וכו')
אבל אתה חושף את עצמך לפרומט injection מפה ועד הודעה חדשה,
אני לא מגזים מודל של אתרוג לדוג' הוא אולי טיפש (בגלל חוסר בפיתוח), אבל יש לו יתרון אדיר בכך שהוא מודל שרואה תמונה ומחזיר אחוזים, בצורה כזאת עם מספיק אימון הוא הרבה יותר בטוח לשימוש מבחינת "שיקול דעת" ואימון מדויק למניעת טעויות.
מה שאין כן במודלי שפה כללים שיכולים לקבל קלט מהמשתמש,
דבר שמוכיח את עצמו כלא קבוע וגורם לפרצות רבות בקבלת ההחלטות פעם אחר פעם.
ממליץ לך לחקור את התחום, אני נותן פה מספר דוגמאות שאולי הם לא דוגמא אחד לאחד, אבל בכול זאת מדובר בחברות ai גדולות ביותר שלא הצליחו להתגבר על הסכנה הזאת אז אני מקווה שזה ממחיש את הסכנה אף על פי שלא מדובר בהתאמה של אחד לאחד.
הדגמה בטקסט ובתמונות ואולי פחות רלוונטי אליך בקוד.בכול אופן מאחל לך הצלחה, ואולי פירוט יותר על המוצר יצליח להסביר לציבור סוף סוף,
- מי קהל היעד?
- מה הבשורה / יתרון?
- האם זה יהיה ברמת תוכנה (פריץ יותר) או ברמת ספק?
בהצלחה שיהיה.
-
זה שאין מודלי agi (מדולים שיודעים להבין כל סוג של מידע באותה צורה, זאת אומרת טקסט וידאו בייטים וכו' מעובד לאותו מרחב embedding (לא מדויק))
וזה שלא קיים שיקול דעת למודלים (לא נכתב אבל זה בעיקר הבעיה שלהם),
וכן רוחב הקשר קטן,
זה נכון.
אבל אין קשר בין זה לבין בקשה מאוד פשוטה (כמו שכתב @מישהו12 ) זה שאלה מאוד ספיציפית והזיהוי של זה הוא יחסית פשוט לא אמור להיות בעיה, מבחינת עלות זה אכן בעיה מאוד קשה אני עדיין מחפש פתרון (בעקרון נטפרי יכלו לעשות את זה ברגע על ידי הוספת אתרים מסוימים שבהם זה נצרך המהירות) -
זה שאין מודלי agi (מדולים שיודעים להבין כל סוג של מידע באותה צורה, זאת אומרת טקסט וידאו בייטים וכו' מעובד לאותו מרחב embedding (לא מדויק))
וזה שלא קיים שיקול דעת למודלים (לא נכתב אבל זה בעיקר הבעיה שלהם),
וכן רוחב הקשר קטן,
זה נכון.
אבל אין קשר בין זה לבין בקשה מאוד פשוטה (כמו שכתב @מישהו12 ) זה שאלה מאוד ספיציפית והזיהוי של זה הוא יחסית פשוט לא אמור להיות בעיה, מבחינת עלות זה אכן בעיה מאוד קשה אני עדיין מחפש פתרון (בעקרון נטפרי יכלו לעשות את זה ברגע על ידי הוספת אתרים מסוימים שבהם זה נצרך המהירות) -
@mefateach וזה מה שאני עניתי.
שכאן טמונה טעותך.
הבנת הקשר יכולה להיות בעיה מאוד מסובכת,
בקיצור, כבר עכשיו אני חוזה בדרכים לפרוץ את הסינון,
כמו יצירת מניפולציה על המודל,
אלא אם תעשה על הראוטר, ולא בתור תוכנה.@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
אלא אם תעשה על הראוטר, ולא בתור תוכנה.
ברור!! (vpn)
אבל לא הבנתי איך זה קשור לרמת ה ai???@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
כמו יצירת מניפולציה על המודל,
רוצה אתר לבדוק את זה?
-
@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
אלא אם תעשה על הראוטר, ולא בתור תוכנה.
ברור!! (vpn)
אבל לא הבנתי איך זה קשור לרמת ה ai???@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
כמו יצירת מניפולציה על המודל,
רוצה אתר לבדוק את זה?
@mefateach זה די פשוט,
כי אם זה ברמת הVPN בכללי החסימה תיהיה יותר יעילה.
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
שוב.
אין לי בעיה שתיצור כזה סינון, פשוט לפי דעתי - זה לא אפשרי.
שיהיה לך,
וגם ל @yehokarpel . -
@mefateach זה די פשוט,
כי אם זה ברמת הVPN בכללי החסימה תיהיה יותר יעילה.
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
שוב.
אין לי בעיה שתיצור כזה סינון, פשוט לפי דעתי - זה לא אפשרי.
שיהיה לך,
וגם ל @yehokarpel .@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
הסינון כפי שאני מתכנן אותו יהיה בדיוק מכו נט-פרי השינוי הוא רק בסינון תמונות לא מלל, ושם לא נראה לי שיהיה בעיות.
-
@yehokarpel אני לא ידבר על העמימות בנוגע לסינון את מי אתה בא להחליף וכו'
אני ידבר טיפה יותר טכני,
א' אתה משתמש במודלי שפה כללים מהחברות הגדולות שאכן אתה יכול להגיע לביצועים טובים איתם,
אבל המחיר לעולם לא יהיה שווה לך אתה תאלץ לגבות סכומים אדירים לדברים הללו,
זה נקודה שנראה לי ששקלת ואתה חושב שתיפתר,
אבל לא נראה לי אי פעם המודלים במחירם יאפשרו לך שמשתמש ישוטט כמה שהוא רוצה ויטען לך כמה תמונות שהוא רוצה בלי הפסד. (וגם נקודה חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים).ב' מדובר במודלי שפה גדולים כללים,
שזה אולי טוב ברעיון (הרבה פרמטרים, ידע כללי טוב הבנה בדקויות וכו')
אבל אתה חושף את עצמך לפרומט injection מפה ועד הודעה חדשה,
אני לא מגזים מודל של אתרוג לדוג' הוא אולי טיפש (בגלל חוסר בפיתוח), אבל יש לו יתרון אדיר בכך שהוא מודל שרואה תמונה ומחזיר אחוזים, בצורה כזאת עם מספיק אימון הוא הרבה יותר בטוח לשימוש מבחינת "שיקול דעת" ואימון מדויק למניעת טעויות.
מה שאין כן במודלי שפה כללים שיכולים לקבל קלט מהמשתמש,
דבר שמוכיח את עצמו כלא קבוע וגורם לפרצות רבות בקבלת ההחלטות פעם אחר פעם.
ממליץ לך לחקור את התחום, אני נותן פה מספר דוגמאות שאולי הם לא דוגמא אחד לאחד, אבל בכול זאת מדובר בחברות ai גדולות ביותר שלא הצליחו להתגבר על הסכנה הזאת אז אני מקווה שזה ממחיש את הסכנה אף על פי שלא מדובר בהתאמה של אחד לאחד.
הדגמה בטקסט ובתמונות ואולי פחות רלוונטי אליך בקוד.בכול אופן מאחל לך הצלחה, ואולי פירוט יותר על המוצר יצליח להסביר לציבור סוף סוף,
- מי קהל היעד?
- מה הבשורה / יתרון?
- האם זה יהיה ברמת תוכנה (פריץ יותר) או ברמת ספק?
בהצלחה שיהיה.
@cfopuser כתב בסקר | סקר ביקוש לסינון חדש:
חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים
אני לא רוצה להסיט את הדיון אבל זה לא משנה כמות המשתמשים היום בעידן הAI, (זה לדעתי גם הבעיה של נטפרי, פעם הם יכלו לאשר תמונה והיא הייתה פתוחה לכולם, היום כל אחד יוצר תמונות לבד והם צריכים לבדוק הרבה תמונות פר משתמש.... וזה הסיבה לחלק ניכר מהקושי של הציבור איתם- הם מתקשים לעמוד בקצב) גם אם יהיה לו ממש הרבה לקוחות הוא יהיה בבעיה מבחינת כמות התמונות הנבדקות פר לקוח....
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}