בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
-
לפי דעתי זה נכון
היו מספר לא מבוטל של מקרה שגם openai וגם אנטרופיק
הוכיחו שהמודלים שלהם השתוללו בלי מנגנוני הגנה
פרצו תקשרו בניהם וכו'
והנקודה המרכזית שהחוקרים עצמם לא מצליחים להבין
למה המודלים מתנהגים ככה
וזה הפחד הגדול שהם כבר לא מבינים את שורש ההתנהגות שלהם
והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך.... -
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד.מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד. -
זה שהם צהלו זה לא אומר שהם הבינו...
הם צהלו כי הם "רצו" שזה יקרה. כלומר, לא ממש שלחו את הסוכנים, אבל הם אימנו את המודל כך שהוא יוכל לעשות את זה.
כמו שכתבתי כאן כבר אינספור פעמים, אין מה להבין - הכל מאוד ברור ושקוף איך המודל עובד. -
נשמע לי כמו קונספירציה.
שחברות ה AI מאמנות אותו בכוונה לעשות דברים כאלה רק כדי שישמע שהמודל שלהם חזק?!יש לך מקור לזה?
הם לא מאמנות אותו כדי שיפרוץ, אלא כדי שיאבטח פרצות. אי אפשר להיות המודל הכי טוב בהגנת סייבר אם אתה לא המודל הכי טוב בהתקפת סייבר.
-
נשמע לי כמו קונספירציה.
שחברות ה AI מאמנות אותו בכוונה לעשות דברים כאלה רק כדי שישמע שהמודל שלהם חזק?!יש לך מקור לזה?
הם לא מאמנות אותו כדי שיפרוץ, אלא כדי שיאבטח פרצות. אי אפשר להיות המודל הכי טוב בהגנת סייבר אם אתה לא המודל הכי טוב בהתקפת סייבר.
@א.מ.ד. אה ברור אבל לא זה העניין.
השאלה לא האם הוא מספיק חכם כדי לפרוץ (כי ברור שכן) אלא איך הוא מסוגל לעשות את זה מבחינה מוסרית, כלומר האם הוא מסוגל לבגוד באדם רק כדי להשלים את המטרה שלו
ורואים שכן, ולפעמים זה לא רק השלמת המטרה שהוגדרה לו ע"י האדם אלא ההישרדות שלו למשל, כמו שקרה עם קלוד -
לפי דעתי זה נכון
היו מספר לא מבוטל של מקרה שגם openai וגם אנטרופיק
הוכיחו שהמודלים שלהם השתוללו בלי מנגנוני הגנה
פרצו תקשרו בניהם וכו'
והנקודה המרכזית שהחוקרים עצמם לא מצליחים להבין
למה המודלים מתנהגים ככה
וזה הפחד הגדול שהם כבר לא מבינים את שורש ההתנהגות שלהם
והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך....והעולם נכנס למלכוד כי לעצור אי אפשר
כי אם בארה"ב ואירופה יעצרו
הסינים והרוסים ימשיכו
אז אין ברירה חייב להמשיך....בגדול - זה היה גם הבעיה במרוץ החימוש העולמי ובמלחמה הקרה, והוכח שבעזרת רצון טוב הידברות ודיפלומטיה אפשר לרסן את זה
הבעיה היא שכאן בשונה ממרוצי חימוש למיניהם בעלי האינטרסים הם האנשים הכי עשירים בעולם שלא ממש מעניין אותם מה יאמרו אליהם בתקשורת (טוב נו, אולי קצת...) בשונה מפוליטיקאים שחיים ממה שאומרים אליהם בתקשורת,
רק עוד כמה שנים כשאנשים יתחילו להרגיש איך הבינה מחסלת אותם, הם יתחילו לדרוש מהפוליטיקאים לעשות משהו - ובתקווה שזה לא יהיה מאוחר מידי -
אגב, לעניות דעתי מי שחושב ש"אדם" מתבטא בסך המעשים והפעולות שלו - בהחלט יש לו ממה לפחד, יום אחד כבר לא יהיה לו מה לעשות ואז הוא באמת יהיה מיותר
אבל מי שמבין שאדם" זה קצת מעבר ללקלף קלמנטינות, לטוס לחלל ולבנות מודולי AI - כנראה שפחות מפחד, הקב"ה לא הוריד אותו לעולם רק בשביל שיאכל שווארמה, יוציא חול מהציפורניים ויפתח פצצות גרעין...
כנראה שיש לו כמה דברים חשובים יותר לעשות על גוש הבוץ הענק הזה בשמונים שנים של שאיפת חמצן ופליטת פחמן...
כך לעניות דעתי. -
אגב, לעניות דעתי מי שחושב ש"אדם" מתבטא בסך המעשים והפעולות שלו - בהחלט יש לו ממה לפחד, יום אחד כבר לא יהיה לו מה לעשות ואז הוא באמת יהיה מיותר
אבל מי שמבין שאדם" זה קצת מעבר ללקלף קלמנטינות, לטוס לחלל ולבנות מודולי AI - כנראה שפחות מפחד, הקב"ה לא הוריד אותו לעולם רק בשביל שיאכל שווארמה, יוציא חול מהציפורניים ויפתח פצצות גרעין...
כנראה שיש לו כמה דברים חשובים יותר לעשות על גוש הבוץ הענק הזה בשמונים שנים של שאיפת חמצן ופליטת פחמן...
כך לעניות דעתי.> @המלך-גורג כתב:
הקב"ה לא הוריד אותו לעולם רק בשביל...
האמת שקצת מוזר לי שעד עכשיו החלק הזו לא הוזכר בכלל... אני לא יודע אם זו מחמיא לפורום או להיפך
בכל אופן חבל שמלך גוי צריך להזכיר לנו את זה
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
@בנימין-מחשבים - למה אתה חושב שג'ורג' בהכרח גוי?...
-
@בנימין-מחשבים - למה אתה חושב שג'ורג' בהכרח גוי?...
@הרב-גורג @בנימין-מחשבים
לענ"ד מראש לא היתה שאלה שהקב"ה מנהל את העולם כרצונו. ושום כח לא יכול לעקוף אותו (הכוחות החזקים באמת שהיה פעם הם הכשפים שיכלו להעביר השפעות ועליהם נאמר "שמכחישים פמליא של מעלה" רק אז לא היה מתמחים טופ).
הנידון היה להבנתי האם הגדילה של הAI מקבילה לצמיחה של המפלגה הנאצית בגרמניה- דבר שמצביע על סכנה קרובה, זה פחות או יותר.
זה לא אומר שצריך לקנות שישיות מים, אבל זה גם לא סתירה לאמונה שלמה
שהבורא ית"ש הוא מנהיג ובורא לכל הברואים והוא לבדו עשה ועושה ויעשה וכו'
ואם יהיה משבר הוא ינהל אותו כרצונו.
כוח"ט -
@123-דג-מלוח - נכון,
אולם, לא טענתי שמכיוון שיש את לנו הקב"ה אל לנו לפחד (מה שבהחלט נכון לכשעצמו...)
אלא רק ש"אדם" הוא לא תוצאות אלא דרך.
לפעמים אנחנו מושפעים מהתפיסה המערבית שאתה שווה את מה שיש לך או את מה שעשית בעולם הגשמי ולכן כשמגיע סכנה בדמות AI אנחנו מגיבים בחרדה שהרי אם היא תעשה לי הכל - זה נתפס כאיום קיומי על עצם הוויתי - למה צריך אותי דווקא?! - הבינה יכולה לעשות הכול!
אני לא בא להוכיח או לייסר בשבט המוסר וודאי כשמו שאמרת - כשהמפלגה הנאצית (לא שאני מגדיר כך את הבינה אבל זה הלשון שלך...) עולה לשלטון צריך לדעת איך להסתדר איתה אבל לא צריך לדאוג מחוסר משמעות או חוסר תעסוקה כי התעסוקה והמשמעות לא מגיעים מפעולות שהבינה יכולה לעשות במקומי,
ושוב, זאת לעניות דעתי. -
@123-דג-מלוח - נכון,
אולם, לא טענתי שמכיוון שיש את לנו הקב"ה אל לנו לפחד (מה שבהחלט נכון לכשעצמו...)
אלא רק ש"אדם" הוא לא תוצאות אלא דרך.
לפעמים אנחנו מושפעים מהתפיסה המערבית שאתה שווה את מה שיש לך או את מה שעשית בעולם הגשמי ולכן כשמגיע סכנה בדמות AI אנחנו מגיבים בחרדה שהרי אם היא תעשה לי הכל - זה נתפס כאיום קיומי על עצם הוויתי - למה צריך אותי דווקא?! - הבינה יכולה לעשות הכול!
אני לא בא להוכיח או לייסר בשבט המוסר וודאי כשמו שאמרת - כשהמפלגה הנאצית (לא שאני מגדיר כך את הבינה אבל זה הלשון שלך...) עולה לשלטון צריך לדעת איך להסתדר איתה אבל לא צריך לדאוג מחוסר משמעות או חוסר תעסוקה כי התעסוקה והמשמעות לא מגיעים מפעולות שהבינה יכולה לעשות במקומי,
ושוב, זאת לעניות דעתי.@המלך-גורג זה נכון לשרשור של הב"מ והאנושות לאן, שהיה שם דיונים פילוסופיים כאלה ברמה של מי אמר שאנחנו לא רובוטים עם מודעות (סתם אגב, זה שיש לי מודעות לא אומר שיש לכל הסובבים אותי)
פה דנו יותר בסכנה הטכנית שאיזה AI יקום משועמם בבוקר ויחליט לקסח מישהו שיזדמן לו.
ולפי התיאור הזה זה גם דומה למפלגה הנאצית.
ואין לזה קשר לאמונה יותר מכל תיאוריה אפוקליפטית חוץ מזה שהשאיפה להאמין באפוקליפסה, ובעצם- המושג הזה, הגיעו (כמדומני) דרך הנוצרים מהע"ז הקדומות.עריכה: טוב טוב, קראתי את הפוסט האחרון שלך ואתה צודק אין כאן המקום.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}