בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@א.מ.ד. זה פשוט אומר שמפעילי הבוטים יצטרכו לשלם קצת יותר (כנראה הרבה יותר, כרגע, אבל המחירים יורדים) ולהוסיף קצת שכל לבוט שלו
@א.מ.ד. זה פשוט אומר שמפעילי הבוטים יצטרכו לשלם קצת יותר
לא ריאלי.
כל המטרה (לפי הבנתי) היא לחסום מתקפות ddos , דהינו כמות עצומה של כניסות לאתר, שיגרום לקריסת השרת.
ברגע שאתה מוסיף לבוטים האלה AI, אפילו אחד קליל, ייתרון הכמות האדירה שלך נעלם, כי זה דורש כמות אדירה של כוח מחשוב. -
-
@123-דג-מלוח
אז למה הוא לא דפק הספמות מטורללות עד עכשיו? לפתוח חשבון הוא יודע אבל להגיב (ולפתוח נושאים) לא? 
-
@רפאל-vnkl לא תמיד זה ddos, לפעמים זה בוטים לגירוד מידע וכדומה.
-
@א.מ.ד. מה זה גירוד מידע?
איסוף מידע? לא נראה לי שלבעלי האתר שמפרסמים את המידע אכפת להם שאיזה בוט יידע אותו..@א.מ.ד. מה זה גירוד מידע?
איסוף מידע? לא נראה לי שלבעלי האתר שמפרסמים את המידע אכפת להם שאיזה בוט יידע אותו..איכפת להם שהבוט לוקח להם את המידע בלי שהם מקבלים על זה שום תמורה, בשונה ממשתמשים שצריכים להיכנס בפועל לאתר והם מקבלים תמלוגים על פרסומות וכדו', או יח"צ למקצוע שלהם עצמם
-
מצורף כתבה שבה נראה שהai הולך לסכן את האנושותבכיר בתעשיית הבינה המלאכותית מזהיר: ״הן מהמרות על חיינו״
ג’ייקוב קוקסון, חוקר בינה מלאכותית שעבד בשנים האחרונות ב-OpenAI וב-Anthropic, הודיע על התפטרותו מאנתרופיק ועל עזיבת תחום מחקר ה-AI.
בסדרת ציוצים חריגה שפרסם ברשת X, טען כי שתי החברות אינן פועלות באחריות וכי המרוץ לפיתוח בינה מלאכותית מתקדמת מסכן את האנושות.
״אף אחת מהחברות לא פועלת באחריות. הן רצות ישר לעבר סופר-אינטליגנציה שמשפרת את עצמה, ומהמרות על חיינו״, כתב קוקסון, שעסק במחקר Pre-training בשתי החברות.
לדבריו, בתוך מעבדות ה-AI מתייחסים ברצינות לאפשרות שהטכנולוגיה תצא משליטה: ״האנשים שבונים בינה מלאכותית מאמינים בכנות שהיא עלולה להרוג את כולנו עד סוף העשור. זו לא תרגיל שיווקי״. הוא טען כי בכירים בתעשייה אף נוטים לרכך בפומבי את החששות שהם מביעים בשיחות פרטיות.קוקסון הצביע גם על הבדל בין שתי החברות שבהן עבד. לדבריו, ב-OpenAI רבים עדיין לא הפנימו את מלוא הסיכון, בעוד שב-Anthropic הסכנה מובנת היטב, אך החברה ממשיכה להתקדם מתוך תפיסה שלפיה עליה לנצח במרוץ כדי למנוע מגורם פחות אחראי להגיע ראשון.
yediotnews25
-
לפי דעתי זה נכון
היו מספר לא מבוטל של מקרה שגם openai וגם אנטרופיק
הוכיחו שהמודלים שלהם השתוללו בלי מנגנוני הגנה
פרצו תקשרו בניהם וכו'
והנקודה המרכזית שהחוקרים עצמם לא מצליחים להבין
למה המודלים מתנהגים ככה
וזה הפחד הגדול שהם כבר לא מבינים את שורש ההתנהגות שלהם
והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך.... -
לפי דעתי זה נכון
היו מספר לא מבוטל של מקרה שגם openai וגם אנטרופיק
הוכיחו שהמודלים שלהם השתוללו בלי מנגנוני הגנה
פרצו תקשרו בניהם וכו'
והנקודה המרכזית שהחוקרים עצמם לא מצליחים להבין
למה המודלים מתנהגים ככה
וזה הפחד הגדול שהם כבר לא מבינים את שורש ההתנהגות שלהם
והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך.... -
-
לפי דעתי זה נכון
היו מספר לא מבוטל של מקרה שגם openai וגם אנטרופיק
הוכיחו שהמודלים שלהם השתוללו בלי מנגנוני הגנה
פרצו תקשרו בניהם וכו'
והנקודה המרכזית שהחוקרים עצמם לא מצליחים להבין
למה המודלים מתנהגים ככה
וזה הפחד הגדול שהם כבר לא מבינים את שורש ההתנהגות שלהם
והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך.... -
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד. -
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד. -
נשמע לי כמו קונספירציה.
שחברות ה AI מאמנות אותו בכוונה לעשות דברים כאלה רק כדי שישמע שהמודל שלהם חזק?!יש לך מקור לזה?
הם לא מאמנות אותו כדי שיפרוץ, אלא כדי שיאבטח פרצות. אי אפשר להיות המודל הכי טוב בהגנת סייבר אם אתה לא המודל הכי טוב בהתקפת סייבר.
-
נשמע לי כמו קונספירציה.
שחברות ה AI מאמנות אותו בכוונה לעשות דברים כאלה רק כדי שישמע שהמודל שלהם חזק?!יש לך מקור לזה?
הם לא מאמנות אותו כדי שיפרוץ, אלא כדי שיאבטח פרצות. אי אפשר להיות המודל הכי טוב בהגנת סייבר אם אתה לא המודל הכי טוב בהתקפת סייבר.
@א.מ.ד. אה ברור אבל לא זה העניין.
השאלה לא האם הוא מספיק חכם כדי לפרוץ (כי ברור שכן) אלא איך הוא מסוגל לעשות את זה מבחינה מוסרית, כלומר האם הוא מסוגל לבגוד באדם רק כדי להשלים את המטרה שלו
ורואים שכן, ולפעמים זה לא רק השלמת המטרה שהוגדרה לו ע"י האדם אלא ההישרדות שלו למשל, כמו שקרה עם קלוד
![ע"ה דכו"ע](/assets/uploads/profile/uid-24261/24261-profileavatar-1774768870385.png "ע"ה דכו"ע"){kind=avatar}
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}