סקר | סקר ביקוש לסינון חדש
-
פוסט זה נמחק!
פוסט זה נמחק! -
פוסט זה נמחק!
@yehokarpel אני לא ידבר על העמימות בנוגע לסינון את מי אתה בא להחליף וכו'
אני ידבר טיפה יותר טכני,
א' אתה משתמש במודלי שפה כללים מהחברות הגדולות שאכן אתה יכול להגיע לביצועים טובים איתם,
אבל המחיר לעולם לא יהיה שווה לך אתה תאלץ לגבות סכומים אדירים לדברים הללו,
זה נקודה שנראה לי ששקלת ואתה חושב שתיפתר,
אבל לא נראה לי אי פעם המודלים במחירם יאפשרו לך שמשתמש ישוטט כמה שהוא רוצה ויטען לך כמה תמונות שהוא רוצה בלי הפסד. (וגם נקודה חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים).ב' מדובר במודלי שפה גדולים כללים,
שזה אולי טוב ברעיון (הרבה פרמטרים, ידע כללי טוב הבנה בדקויות וכו')
אבל אתה חושף את עצמך לפרומט injection מפה ועד הודעה חדשה,
אני לא מגזים מודל של אתרוג לדוג' הוא אולי טיפש (בגלל חוסר בפיתוח), אבל יש לו יתרון אדיר בכך שהוא מודל שרואה תמונה ומחזיר אחוזים, בצורה כזאת עם מספיק אימון הוא הרבה יותר בטוח לשימוש מבחינת "שיקול דעת" ואימון מדויק למניעת טעויות.
מה שאין כן במודלי שפה כללים שיכולים לקבל קלט מהמשתמש,
דבר שמוכיח את עצמו כלא קבוע וגורם לפרצות רבות בקבלת ההחלטות פעם אחר פעם.
ממליץ לך לחקור את התחום, אני נותן פה מספר דוגמאות שאולי הם לא דוגמא אחד לאחד, אבל בכול זאת מדובר בחברות ai גדולות ביותר שלא הצליחו להתגבר על הסכנה הזאת אז אני מקווה שזה ממחיש את הסכנה אף על פי שלא מדובר בהתאמה של אחד לאחד.
הדגמה בטקסט ובתמונות ואולי פחות רלוונטי אליך בקוד.בכול אופן מאחל לך הצלחה, ואולי פירוט יותר על המוצר יצליח להסביר לציבור סוף סוף,
- מי קהל היעד?
- מה הבשורה / יתרון?
- האם זה יהיה ברמת תוכנה (פריץ יותר) או ברמת ספק?
בהצלחה שיהיה.
-
זה שאין מודלי agi (מדולים שיודעים להבין כל סוג של מידע באותה צורה, זאת אומרת טקסט וידאו בייטים וכו' מעובד לאותו מרחב embedding (לא מדויק))
וזה שלא קיים שיקול דעת למודלים (לא נכתב אבל זה בעיקר הבעיה שלהם),
וכן רוחב הקשר קטן,
זה נכון.
אבל אין קשר בין זה לבין בקשה מאוד פשוטה (כמו שכתב @מישהו12 ) זה שאלה מאוד ספיציפית והזיהוי של זה הוא יחסית פשוט לא אמור להיות בעיה, מבחינת עלות זה אכן בעיה מאוד קשה אני עדיין מחפש פתרון (בעקרון נטפרי יכלו לעשות את זה ברגע על ידי הוספת אתרים מסוימים שבהם זה נצרך המהירות) -
זה שאין מודלי agi (מדולים שיודעים להבין כל סוג של מידע באותה צורה, זאת אומרת טקסט וידאו בייטים וכו' מעובד לאותו מרחב embedding (לא מדויק))
וזה שלא קיים שיקול דעת למודלים (לא נכתב אבל זה בעיקר הבעיה שלהם),
וכן רוחב הקשר קטן,
זה נכון.
אבל אין קשר בין זה לבין בקשה מאוד פשוטה (כמו שכתב @מישהו12 ) זה שאלה מאוד ספיציפית והזיהוי של זה הוא יחסית פשוט לא אמור להיות בעיה, מבחינת עלות זה אכן בעיה מאוד קשה אני עדיין מחפש פתרון (בעקרון נטפרי יכלו לעשות את זה ברגע על ידי הוספת אתרים מסוימים שבהם זה נצרך המהירות) -
@mefateach וזה מה שאני עניתי.
שכאן טמונה טעותך.
הבנת הקשר יכולה להיות בעיה מאוד מסובכת,
בקיצור, כבר עכשיו אני חוזה בדרכים לפרוץ את הסינון,
כמו יצירת מניפולציה על המודל,
אלא אם תעשה על הראוטר, ולא בתור תוכנה.@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
אלא אם תעשה על הראוטר, ולא בתור תוכנה.
ברור!! (vpn)
אבל לא הבנתי איך זה קשור לרמת ה ai???@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
כמו יצירת מניפולציה על המודל,
רוצה אתר לבדוק את זה?
-
@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
אלא אם תעשה על הראוטר, ולא בתור תוכנה.
ברור!! (vpn)
אבל לא הבנתי איך זה קשור לרמת ה ai???@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
כמו יצירת מניפולציה על המודל,
רוצה אתר לבדוק את זה?
@mefateach זה די פשוט,
כי אם זה ברמת הVPN בכללי החסימה תיהיה יותר יעילה.
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
שוב.
אין לי בעיה שתיצור כזה סינון, פשוט לפי דעתי - זה לא אפשרי.
שיהיה לך,
וגם ל @yehokarpel . -
@mefateach זה די פשוט,
כי אם זה ברמת הVPN בכללי החסימה תיהיה יותר יעילה.
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
שוב.
אין לי בעיה שתיצור כזה סינון, פשוט לפי דעתי - זה לא אפשרי.
שיהיה לך,
וגם ל @yehokarpel .@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
הסינון כפי שאני מתכנן אותו יהיה בדיוק מכו נט-פרי השינוי הוא רק בסינון תמונות לא מלל, ושם לא נראה לי שיהיה בעיות.
-
@yehokarpel אני לא ידבר על העמימות בנוגע לסינון את מי אתה בא להחליף וכו'
אני ידבר טיפה יותר טכני,
א' אתה משתמש במודלי שפה כללים מהחברות הגדולות שאכן אתה יכול להגיע לביצועים טובים איתם,
אבל המחיר לעולם לא יהיה שווה לך אתה תאלץ לגבות סכומים אדירים לדברים הללו,
זה נקודה שנראה לי ששקלת ואתה חושב שתיפתר,
אבל לא נראה לי אי פעם המודלים במחירם יאפשרו לך שמשתמש ישוטט כמה שהוא רוצה ויטען לך כמה תמונות שהוא רוצה בלי הפסד. (וגם נקודה חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים).ב' מדובר במודלי שפה גדולים כללים,
שזה אולי טוב ברעיון (הרבה פרמטרים, ידע כללי טוב הבנה בדקויות וכו')
אבל אתה חושף את עצמך לפרומט injection מפה ועד הודעה חדשה,
אני לא מגזים מודל של אתרוג לדוג' הוא אולי טיפש (בגלל חוסר בפיתוח), אבל יש לו יתרון אדיר בכך שהוא מודל שרואה תמונה ומחזיר אחוזים, בצורה כזאת עם מספיק אימון הוא הרבה יותר בטוח לשימוש מבחינת "שיקול דעת" ואימון מדויק למניעת טעויות.
מה שאין כן במודלי שפה כללים שיכולים לקבל קלט מהמשתמש,
דבר שמוכיח את עצמו כלא קבוע וגורם לפרצות רבות בקבלת ההחלטות פעם אחר פעם.
ממליץ לך לחקור את התחום, אני נותן פה מספר דוגמאות שאולי הם לא דוגמא אחד לאחד, אבל בכול זאת מדובר בחברות ai גדולות ביותר שלא הצליחו להתגבר על הסכנה הזאת אז אני מקווה שזה ממחיש את הסכנה אף על פי שלא מדובר בהתאמה של אחד לאחד.
הדגמה בטקסט ובתמונות ואולי פחות רלוונטי אליך בקוד.בכול אופן מאחל לך הצלחה, ואולי פירוט יותר על המוצר יצליח להסביר לציבור סוף סוף,
- מי קהל היעד?
- מה הבשורה / יתרון?
- האם זה יהיה ברמת תוכנה (פריץ יותר) או ברמת ספק?
בהצלחה שיהיה.
@cfopuser כתב בסקר | סקר ביקוש לסינון חדש:
חשובה היא שמכיון שמאגר המשתמשים קטן אתה תאלץ לבדוק הרבה תמונות פר משתמש ולא תמונה אחת שתעזור להרבה משתמשים
אני לא רוצה להסיט את הדיון אבל זה לא משנה כמות המשתמשים היום בעידן הAI, (זה לדעתי גם הבעיה של נטפרי, פעם הם יכלו לאשר תמונה והיא הייתה פתוחה לכולם, היום כל אחד יוצר תמונות לבד והם צריכים לבדוק הרבה תמונות פר משתמש.... וזה הסיבה לחלק ניכר מהקושי של הציבור איתם- הם מתקשים לעמוד בקצב) גם אם יהיה לו ממש הרבה לקוחות הוא יהיה בבעיה מבחינת כמות התמונות הנבדקות פר לקוח....
-
@המלאך כתב בסקר | סקר ביקוש לסינון חדש:
בלי קשר לזה, יהיה ניתן לבצע מניפולציה, או ברשתות חברתיות שבהם המשתמשים יכולים לכתוב דברים שההקשר שלהם לדברים שדורשים סינון - קיים אך מסובך מדי למודל AI, או דברים יותר פשוטים - AI שבו תוכל לבקש מהמודל שיתן לך את הדבר האסור בצורה שלא תיחסם על ידי הסינון, (כמובן שלא להגיד במילים האלה, זה יותר היסוד של הדברים).
הסינון כפי שאני מתכנן אותו יהיה בדיוק מכו נט-פרי השינוי הוא רק בסינון תמונות לא מלל, ושם לא נראה לי שיהיה בעיות.
@mefateach גם זה עלול להיות בעייתי, כי גם בתמונות עדיין לא הכל מזוהה על ידי הבינה,
אם כי זה יהיה פחות בעייה, ממה שפותח האשכול דיבר. -
אני כמובן ידוע לחלק מהאנשים שאני עובד כבר זמן מה על לפתח סינון שכל הבדיקות בו מתבססות על בינה מלאכותית לגבי בדיקת סרטונים תמונות שאני משתמש במודלים הכי טובים היום למטרה הזאת ושזה לאעובד על בדיקה אנושית הבנתי שאף על גב שאני מפתח את זה בכל מקרה רציתי לדעת כמה באמת הציבור מעוניין בפרוייקט שכזה אז אשמח שכל אחד יתן דעתו בסקר
@yehokarpel והנה נטפרי התקדמו
-
@yehokarpel והנה נטפרי התקדמו
@יוסף-מאיר-וייס
לא יאומן שזה קרה בסוף.......
אני מאמין שזה רק לחסימה ולא שהם סומכים על זה לפתיחה
(כלומר מה שאושר ע"י AI עובר לבדיקה... מה שחוסך מהם לעבור על כל הבעייתיות)
אבל זה גם התקדמות... -
@yehokarpel והנה נטפרי התקדמו
@יוסף-מאיר-וייס זה ידוע לי שהם חוסמים תמונות עם AI ומשתמשים לזה לבדיקה בעבר דנו על זה בפורום
-
בקיצור אני לא מסכים עם מי שאומר שAI לא יכול בצורה מדוייקת לבדוק תמונות ולדעתי אין בכלל מה לקחת דוגמא מאתרוג לבדיקת תמונות שלהם שלדעתי היא לא טובה מספיק ויש סיבות אך שאני לא יכול לפרט אותם.... מבחן המציאות יוכיח בסוף ולכן אני רגוע
-
בקיצור אני לא מסכים עם מי שאומר שAI לא יכול בצורה מדוייקת לבדוק תמונות ולדעתי אין בכלל מה לקחת דוגמא מאתרוג לבדיקת תמונות שלהם שלדעתי היא לא טובה מספיק ויש סיבות אך שאני לא יכול לפרט אותם.... מבחן המציאות יוכיח בסוף ולכן אני רגוע
מה אני כן מסכים עליו שיש דרכים לרמות את המודל כמו שהזכירו פה שעל זה צריך לתת פיטרון
-
מי אמר שחייבים ללכת על בדיקת תמונות על ידי AI?
לדעתי שנטפרי יקח פי ארבעה של מחיר הקיים, ככה הם יוכלו להעסיק פי ארבעה כמות בודקים.
ככה הזמן שיקח לבדוק תמונות חדשות יקח לא יותר מ10 שניות.אז אם נטפרי לא מבינים את זה, שמישהו אחר יעשה את זה.
לדעתי, סינון, שיהיה בדיוק אותו דבר, רק בדיקת התמונות כנ"ל, וסיווג אתרים על ידי AI, זה יהיה הסינון המוביל.
נטפרי ישאר לאלו שלא רוצים לשלם שווה פרוטה בשביל סינון, וחלק גדול מאוד בא"י, וכמעט כולם בחו"ל יעברו לסינון כזה.
-
@yehokarpel והנה נטפרי התקדמו
@יוסף-מאיר-וייס איפה נתקלת עם הכיתוב הזה?
-
@יוסף-מאיר-וייס איפה נתקלת עם הכיתוב הזה?
@מוגן שיתוף מחבר (שמוכר פה היטב בפורום אבל אין כאן המקום להאריך)
-
@מוגן שיתוף מחבר (שמוכר פה היטב בפורום אבל אין כאן המקום להאריך)
אני עכשיו רואה שזה לא חשיפה ראשונית. תראה מה פורסם פה בעבר https://mitmachim.top/post/1083722
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}