בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
היינו, שתכלס אנחנו רחוקים (כנראה מאוד, במושגים של היום) מבינה מלאכותית פיזית.
לדעתי לא מאוד. גם 5 שנים הם מעט מאוד. ולפי ההשערות של אנשים כמו דמיס חסאביס, מדובר על שנתיים ואפילו פחות עד שנראה פריצת דרך גדולה בתחום.
צא מנקודת הנחה שהתקדמות והגעה ל-ASI (בינה מלאכותית סופר אינטלגנטית) תגרור כתופעת לוואי התקדמות מהירה בכל תחום אפשרי, כולל רובוטיקה
-
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
ואני מוסיף עליה שככה לא נראה התקדמות פורצת דרך בשנים הקרובות,
בל נשכח שזה בס"ה במודלי השפה.ומה עם מערכות רובוטיות עם גוף משלהם? זה דורש הרבה יותר..
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר
-
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר
-
למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים?@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
האתר שלי: https://amlaach.github.io/personal-site/
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI? -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.המקסימום זה יכולת לחקות רגשות.
כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש דווקא, אם נניח תאורטית שהוא מסוגל להשתלט על משאבים ברמה עולמית, מה שכן מהווה חשש, זה שמישהו שהוא כן בן אנוש, והוא יהיה רע ינצל אותו לצרכים שלו, וזה בדיוק החשש העיקרי מסין, לכן קיים המושג תחרות, ולכן אנחנו צריכים כמה שפחות להגביל את חברות הטכנולוגיה האמריקאיות.
כי בסוף בסוף הם תלויות בחוק האמריקני.
מבחינה טכנולוגית דעתי היא שכיום כל האימונים והמודלים החדשים זה בס"ה סידור טוב יותר של הדאטה סט, לא שיטות אימון חדשות או בכלל מנגנוני חישוב חדשים.
לכן בשביל להגיע למודלים ברמת agi יש צורך בפריצת דרך, אז לדעתי זה עניין של זמן עד שזה יקרה, אבל זה דורש שינוי של תצורות האימון.
(כמובן agi ברמה מסוימת, וכבר ידועה דעתי בנידון..).
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
-
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
אי אפשר ליצור פצצות אטום באמצעות AI.
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
בזמן קצר באמת לא -
-
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
כי להשיג חומרים (אורניום) וכלים (דרך להעשיר אותו) זה מסובך מאוד, ברור שאם העולם מפקח זה אפילו עוד פחות אםשרי
-
@לעכשיו לתימנים יש גב של איראן אם הם הנושא.
ואם הAI יוכל להחכים את האיראנים זה ודאי ככה.
אגב לא צריך דוקא פצצת אטום גם סטוקטנט (משהו כזה) לצד ההפוך יכול להיות מספיק מסוכן@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט@טופ-שבמתמחים אני חושב שברעיון פצצה גרעינית היא קצת מטמטיקה
ויש מלא מדריכים שמסבירים אך הפצצה עובדת פחות או פחות ואולי אם מעבד כמו שלא הוא יעצור אבל ככה"נ זה לא יצליח -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנטואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט
@אביעד כתב במדריך לבניית פצצת אטום
במדריך הזה ניסיתי לפרק את הנושא של פצצת אטום לחלקים פשוטים -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ
זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד
מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך
ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}