בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI? -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.המקסימום זה יכולת לחקות רגשות.
כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש דווקא, אם נניח תאורטית שהוא מסוגל להשתלט על משאבים ברמה עולמית, מה שכן מהווה חשש, זה שמישהו שהוא כן בן אנוש, והוא יהיה רע ינצל אותו לצרכים שלו, וזה בדיוק החשש העיקרי מסין, לכן קיים המושג תחרות, ולכן אנחנו צריכים כמה שפחות להגביל את חברות הטכנולוגיה האמריקאיות.
כי בסוף בסוף הם תלויות בחוק האמריקני.
מבחינה טכנולוגית דעתי היא שכיום כל האימונים והמודלים החדשים זה בס"ה סידור טוב יותר של הדאטה סט, לא שיטות אימון חדשות או בכלל מנגנוני חישוב חדשים.
לכן בשביל להגיע למודלים ברמת agi יש צורך בפריצת דרך, אז לדעתי זה עניין של זמן עד שזה יקרה, אבל זה דורש שינוי של תצורות האימון.
(כמובן agi ברמה מסוימת, וכבר ידועה דעתי בנידון..).
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
-
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
אי אפשר ליצור פצצות אטום באמצעות AI.
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
בזמן קצר באמת לא -
-
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
כי להשיג חומרים (אורניום) וכלים (דרך להעשיר אותו) זה מסובך מאוד, ברור שאם העולם מפקח זה אפילו עוד פחות אםשרי
-
@לעכשיו לתימנים יש גב של איראן אם הם הנושא.
ואם הAI יוכל להחכים את האיראנים זה ודאי ככה.
אגב לא צריך דוקא פצצת אטום גם סטוקטנט (משהו כזה) לצד ההפוך יכול להיות מספיק מסוכן@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט@טופ-שבמתמחים אני חושב שברעיון פצצה גרעינית היא קצת מטמטיקה
ויש מלא מדריכים שמסבירים אך הפצצה עובדת פחות או פחות ואולי אם מעבד כמו שלא הוא יעצור אבל ככה"נ זה לא יצליח -
@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנטואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט
@אביעד כתב במדריך לבניית פצצת אטום
במדריך הזה ניסיתי לפרק את הנושא של פצצת אטום לחלקים פשוטים -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ
זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד
מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך
ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...
-
@טופ-שבמתמחים ע"ז @nh.local יענה.
@טופ-שבמתמחים ע"ז @nh.local יענה.
כן, ככל הנראה הוא יכול. בינה מלאכותית מתקדמת בנויה על הרבה מאוד חומר מדעי, וממש לא רק על האינטרנט הציבורי
לא ממש חקרתי את הנושא, אבל אני מניח שהעיקרון לייצור פצצה גרעינית לא כזה סודי, העניין המרכזי הוא המרחק העצום בין ידע תיאורטי ליישום בפועל
אגב תרחישים דיסטופיים, עוד לא ידוע אפילו על מקרה מתועד אחד שבינה מלאכותית עזרה לבצע שוד בנק, האח הקטן של "איך לבנות פצצת אטום"...
-
@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ
זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד
מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך
ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...
-
-
-
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
הבעיה המרכזית בכל הדיון הזה, מתחילה בכותרת שלו: "האם הAI הולך לאכול אותנו?"
אני במקומך הייתי שואל משהו אחר: "האם AI הולך למצוא את התרופה לסרטן ולאלצהיימר, לפתור את בעיית ההזדקנות, לשדרג את רמת החיים פי 10, לעצור את ההתחממות הגלובלית ולשפר את העולם מקצה לקצה?"
עכשיו אפשר לענות: "יתכן", "כן באופן חלקי", או "אולי". וזה יהיה נכון.
אפשר גם להגיד: נכון, אבל יש סיכונים, וזה גם יהיה נכון.
אבל ברגע שאתה מציב את השאלה הנכונה - הדיון הופך מ"AI הוא נוראי, בוא נעצור אותו", ל"AI זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן. עכשיו השאלה היא, האם כדאי לעצור את הסיכוי היחיד לפתור את כל מחלות האנושות בגלל הסיכון הקטן ש-AI יפרוץ לבנקים ויגנוב כסף או יעזור להאקרים רעים או למדינות דיקטוטוריות להשיג גרעין".
זה כמו להגיד: מעל מליון בני אדם מתים בכל שנה מתאונות דרכים, אז בוא נבטל את המכוניות. או: מאות אלפי בני אדם מתים כל שנה מהתחשמלות, אז נבטל את החשמל.
הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.
הכל תלוי במיצוב.
אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים
-
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
הבעיה המרכזית בכל הדיון הזה, מתחילה בכותרת שלו: "האם הAI הולך לאכול אותנו?"
אני במקומך הייתי שואל משהו אחר: "האם AI הולך למצוא את התרופה לסרטן ולאלצהיימר, לפתור את בעיית ההזדקנות, לשדרג את רמת החיים פי 10, לעצור את ההתחממות הגלובלית ולשפר את העולם מקצה לקצה?"
עכשיו אפשר לענות: "יתכן", "כן באופן חלקי", או "אולי". וזה יהיה נכון.
אפשר גם להגיד: נכון, אבל יש סיכונים, וזה גם יהיה נכון.
אבל ברגע שאתה מציב את השאלה הנכונה - הדיון הופך מ"AI הוא נוראי, בוא נעצור אותו", ל"AI זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן. עכשיו השאלה היא, האם כדאי לעצור את הסיכוי היחיד לפתור את כל מחלות האנושות בגלל הסיכון הקטן ש-AI יפרוץ לבנקים ויגנוב כסף או יעזור להאקרים רעים או למדינות דיקטוטוריות להשיג גרעין".
זה כמו להגיד: מעל מליון בני אדם מתים בכל שנה מתאונות דרכים, אז בוא נבטל את המכוניות. או: מאות אלפי בני אדם מתים כל שנה מהתחשמלות, אז נבטל את החשמל.
הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.
הכל תלוי במיצוב.
אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים
@NH.LOCAL אתה אמור להבין לבד שאנשים אוהבים הפחדות!
(תשאל את @אמנון-יצחק וחבריו וכן את @יונה-ספיר)
כולנו א. מאמינים באמונה שלמה שה' מנהיג את העולם ואם הוא רוצה שיחרב הוא לא צריך את ההתחממות הגלובלית, מלחמות, מגפות, ואטום.
וכן הוא יכול לקיים אותו למרות הנ"ל
ב. אין לנו שליטה על אנתרופיק אופן AI וכו' וכמובן לא הסינים.
ג. מוסכם שגם אם זו בעיה רצינית יש לנו בעיות קודמות בשפע (מה שפחות יש לאמריקנים).
ממילא כל הדיון פה הוא תיאורטי וגרם הנאה לאיזה 40 כותבים (ואלפי צפיות) ובזה מילא את מטרתו.
ולכן מגיע לך שאכתוב לך את מה שכתבתי לעיל
https://mitmachim.top/post/1239587אגב הטיימינג של ימים נוראים הוא פשוט מושלם.
שכחתי לציין, שאת העיקר כתבתי לפני שערכת וזה היה נראה שזה מאד כואב לך.
-
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
הבעיה המרכזית בכל הדיון הזה, מתחילה בכותרת שלו: "האם הAI הולך לאכול אותנו?"
אני במקומך הייתי שואל משהו אחר: "האם AI הולך למצוא את התרופה לסרטן ולאלצהיימר, לפתור את בעיית ההזדקנות, לשדרג את רמת החיים פי 10, לעצור את ההתחממות הגלובלית ולשפר את העולם מקצה לקצה?"
עכשיו אפשר לענות: "יתכן", "כן באופן חלקי", או "אולי". וזה יהיה נכון.
אפשר גם להגיד: נכון, אבל יש סיכונים, וזה גם יהיה נכון.
אבל ברגע שאתה מציב את השאלה הנכונה - הדיון הופך מ"AI הוא נוראי, בוא נעצור אותו", ל"AI זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן. עכשיו השאלה היא, האם כדאי לעצור את הסיכוי היחיד לפתור את כל מחלות האנושות בגלל הסיכון הקטן ש-AI יפרוץ לבנקים ויגנוב כסף או יעזור להאקרים רעים או למדינות דיקטוטוריות להשיג גרעין".
זה כמו להגיד: מעל מליון בני אדם מתים בכל שנה מתאונות דרכים, אז בוא נבטל את המכוניות. או: מאות אלפי בני אדם מתים כל שנה מהתחשמלות, אז נבטל את החשמל.
הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.
הכל תלוי במיצוב.
אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים
אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים
כן כן,וודאי וודאי, זה כמעט כמו לומר שמכוניות זה יותר גרוע מאבולה כי סטטיסטית מתו ממכויות יותר אנשים מאשר מאבולה...
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}