בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים?@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
האתר שלי: https://amlaach.github.io/personal-site/
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI? -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.המקסימום זה יכולת לחקות רגשות.
כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש דווקא, אם נניח תאורטית שהוא מסוגל להשתלט על משאבים ברמה עולמית, מה שכן מהווה חשש, זה שמישהו שהוא כן בן אנוש, והוא יהיה רע ינצל אותו לצרכים שלו, וזה בדיוק החשש העיקרי מסין, לכן קיים המושג תחרות, ולכן אנחנו צריכים כמה שפחות להגביל את חברות הטכנולוגיה האמריקאיות.
כי בסוף בסוף הם תלויות בחוק האמריקני.
מבחינה טכנולוגית דעתי היא שכיום כל האימונים והמודלים החדשים זה בס"ה סידור טוב יותר של הדאטה סט, לא שיטות אימון חדשות או בכלל מנגנוני חישוב חדשים.
לכן בשביל להגיע למודלים ברמת agi יש צורך בפריצת דרך, אז לדעתי זה עניין של זמן עד שזה יקרה, אבל זה דורש שינוי של תצורות האימון.
(כמובן agi ברמה מסוימת, וכבר ידועה דעתי בנידון..).
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
-
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
אי אפשר ליצור פצצות אטום באמצעות AI.
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
בזמן קצר באמת לא -
-
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
כי להשיג חומרים (אורניום) וכלים (דרך להעשיר אותו) זה מסובך מאוד, ברור שאם העולם מפקח זה אפילו עוד פחות אםשרי
-
@לעכשיו לתימנים יש גב של איראן אם הם הנושא.
ואם הAI יוכל להחכים את האיראנים זה ודאי ככה.
אגב לא צריך דוקא פצצת אטום גם סטוקטנט (משהו כזה) לצד ההפוך יכול להיות מספיק מסוכן@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט@טופ-שבמתמחים אני חושב שברעיון פצצה גרעינית היא קצת מטמטיקה
ויש מלא מדריכים שמסבירים אך הפצצה עובדת פחות או פחות ואולי אם מעבד כמו שלא הוא יעצור אבל ככה"נ זה לא יצליח -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנטואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט
@אביעד כתב במדריך לבניית פצצת אטום
במדריך הזה ניסיתי לפרק את הנושא של פצצת אטום לחלקים פשוטים -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ
זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד
מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך
ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...
-
@טופ-שבמתמחים ע"ז @nh.local יענה.
@טופ-שבמתמחים ע"ז @nh.local יענה.
כן, ככל הנראה הוא יכול. בינה מלאכותית מתקדמת בנויה על הרבה מאוד חומר מדעי, וממש לא רק על האינטרנט הציבורי
לא ממש חקרתי את הנושא, אבל אני מניח שהעיקרון לייצור פצצה גרעינית לא כזה סודי, העניין המרכזי הוא המרחק העצום בין ידע תיאורטי ליישום בפועל
אגב תרחישים דיסטופיים, עוד לא ידוע אפילו על מקרה מתועד אחד שבינה מלאכותית עזרה לבצע שוד בנק, האח הקטן של "איך לבנות פצצת אטום"...
-
@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ
זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד
מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך
ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...
-
-
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}