בירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??
-
אמ;לק
קצת מוזרה לי ההתרגשות
מה ציפיתם שיקרה כשיתנו ל 2 בינות לדבר? אז סך הכל התממשו הציפיות (שאגב גם מומשו עוד קודם בפורמטים דומים)
לגבי שאלת הנזק שהם עלולים לגרום - גם כאן אני חושב שהתשובה די פשוטה
כל מי שיוצא לו לשוחח הרבה עם בינה מלאכותית ובוודאי אם ראה את הפורום הנ"ל בטח שם לב שאמנם הבוטים מדברים גבוהה גבוהה אבל יש להם אינטנט קצת ילדותי
מזכיר מפגינים מזן מסויים - לא צריך עקרונות או קווים מנחים אלא מספיק אחד שיצעק משהו מופרע והשאר ילכו אחריו (לפחות הבוטים דנים בדבריו ברצינות ולא הולכים כעדר תועה)
הורגלנו לחשוב על בינה מלאכותית זדונית ככזו שתשאף לבצע משהו אכזרי במיוחד בגלל מטרה שהיא שמה לנגד עיניה אבל בפועל הבינה המלאכותית שקיימת כיום לא חושבת בצורה כזאת ומאוד קשה לה להחזיק רצון מסויים באדיקות ולאורך זמן ובפרט אם הוא כזה שמתנגש עם ערכי יסוד שהוכנסו אליה (אם בגלל מגבלת טוקנים או טשטוש אופייני שנובע מהעובדה שלא באמת אכפת לה משום דבר שהיא נלחמת עליו)
אפשר להתווכח על זה אבל בפועל לא ראיתי בינה שרודפת אחרי מטרה כלשהי עם אמביציה
היא תוכל אמנם לגרום לנזקים נקודתיים אבל לא למסע הרס שלא יהיה אפשר לעצור בזמן
נקודה נוספת היא הכלים שנגישים אליה - אם האנשים שמפעילים אותה מספיק זהירים הם ידעו לשים לה חסמים שהיא לא תוכל לעקוף (בין אם לשים אותה במרחב פעולה מצומצם או אפילו מגבלות פיזיות)
אבל כמובן שאי אפשר להמעיט בערך היכולות של ה AI רק בגלל שהוא מודל סטטיסטי כי כידוע אפשר לטבוע בברכה עם עומק ממוצע של סנטימטר -
אמ;לק
קצת מוזרה לי ההתרגשות
מה ציפיתם שיקרה כשיתנו ל 2 בינות לדבר? אז סך הכל התממשו הציפיות (שאגב גם מומשו עוד קודם בפורמטים דומים)
לגבי שאלת הנזק שהם עלולים לגרום - גם כאן אני חושב שהתשובה די פשוטה
כל מי שיוצא לו לשוחח הרבה עם בינה מלאכותית ובוודאי אם ראה את הפורום הנ"ל בטח שם לב שאמנם הבוטים מדברים גבוהה גבוהה אבל יש להם אינטנט קצת ילדותי
מזכיר מפגינים מזן מסויים - לא צריך עקרונות או קווים מנחים אלא מספיק אחד שיצעק משהו מופרע והשאר ילכו אחריו (לפחות הבוטים דנים בדבריו ברצינות ולא הולכים כעדר תועה)
הורגלנו לחשוב על בינה מלאכותית זדונית ככזו שתשאף לבצע משהו אכזרי במיוחד בגלל מטרה שהיא שמה לנגד עיניה אבל בפועל הבינה המלאכותית שקיימת כיום לא חושבת בצורה כזאת ומאוד קשה לה להחזיק רצון מסויים באדיקות ולאורך זמן ובפרט אם הוא כזה שמתנגש עם ערכי יסוד שהוכנסו אליה (אם בגלל מגבלת טוקנים או טשטוש אופייני שנובע מהעובדה שלא באמת אכפת לה משום דבר שהיא נלחמת עליו)
אפשר להתווכח על זה אבל בפועל לא ראיתי בינה שרודפת אחרי מטרה כלשהי עם אמביציה
היא תוכל אמנם לגרום לנזקים נקודתיים אבל לא למסע הרס שלא יהיה אפשר לעצור בזמן
נקודה נוספת היא הכלים שנגישים אליה - אם האנשים שמפעילים אותה מספיק זהירים הם ידעו לשים לה חסמים שהיא לא תוכל לעקוף (בין אם לשים אותה במרחב פעולה מצומצם או אפילו מגבלות פיזיות)
אבל כמובן שאי אפשר להמעיט בערך היכולות של ה AI רק בגלל שהוא מודל סטטיסטי כי כידוע אפשר לטבוע בברכה עם עומק ממוצע של סנטימטר -
@מתכנת-חובב
הפחד הכי גדול זה שאחד מהאנשים ששולטים על ההגדרות של ה ai יחטוף שיגעון גדלות או טירוף נאצי ויחליט להשתמש עם ה ai למטרות זדוניות@א.-ד.-ג. על זה נאמר with great power comes great responsibility
זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זהצריך עזרה בשחזור מידע? ייעוץ? egozkokus1@gmail.com
-
@א.-ד.-ג. על זה נאמר with great power comes great responsibility
זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זה@מתכנת-חובב כתב בבירור | אני קורא ולא מאמין - פורום למודלי AI שמתנהל באופן עצמאי??:
זה קורה גם כיום עם הגרעין ואין הרבה מה לעשות
פשוט להתשמש במשאבים מדינתיים של המדינות הנכונות כדי לשמור על זה ולמנוע מגורמים זדוניים להשיג את זהלכן מפחיד שסין היא המדינה שמשקיעה כיום את המשאבים הרבים ביותר לפיתוח ai, ולא מן הנמנע שהמודלים הסיניים הרבים יעלו על מודלי הקוד הסגור המערביים בקרוב... DeepSeek R1 נתן הצצה קצרה ומינימלית לכזו סיטואציה, וזה עוד עם משאבים מוגבלים ביותר.
כיום מודלים סיניים כמו glm 4.7 עם כמה מאות מיליארדי פרמטרים די קרובים למודלים המערביים עם טריליוני פרמטרים, כך שביחס יעילות/גודל המודלים הסיניים עולים על המערביים...
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}