בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

NH.LOCAL

@המלאך כתב:

@רפאל-vnkl חבל..

אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.

זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות

המלאך

@NH.LOCAL והדרך יישום של זה, = על ידי הציבור.

אין עוד דרך בה אנטרופיק יכולים ללחוץ.

לא נראה לי שהסיפור יועד לאוזניו של טראמפ..

המלך גורג

שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?

המלך גורג

@המלאך כתב:

כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.

AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.

ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות...

NH.LOCAL

@המלך-גורג כתב:

מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?

אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.

הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.

כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר

123 דג מלוח

@NH.LOCAL כתב:

אי אפשר ליצור פצצות אטום באמצעות AI.

אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
בזמן קצר באמת לא

לעכשיו

@123-דג-מלוח כתב:

אם יש חומרים וכלים וצריך רק הדרכה למה לא?!

כי להשיג חומרים (אורניום) וכלים (דרך להעשיר אותו) זה מסובך מאוד, ברור שאם העולם מפקח זה אפילו עוד פחות אםשרי

123 דג מלוח

@לעכשיו לתימנים יש גב של איראן אם הם הנושא.
ואם הAI יוכל להחכים את האיראנים זה ודאי ככה.
אגב לא צריך דוקא פצצת אטום גם סטוקטנט (משהו כזה) לצד ההפוך יכול להיות מספיק מסוכן

טופ שבמתמחים

@123-דג-מלוח אתם באמת חושבים שAI יכול לתת מידע איך בונים פצצה גרעינית?
אאל"ט הוא מבוסס על נתונים מהאינטרנט ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט

123 דג מלוח

@טופ-שבמתמחים ע"ז @nh.local יענה.

קרט

@טופ-שבמתמחים אני חושב שברעיון פצצה גרעינית היא קצת מטמטיקה
ויש מלא מדריכים שמסבירים אך הפצצה עובדת פחות או פחות ואולי אם מעבד כמו שלא הוא יעצור אבל ככה"נ זה לא יצליח

123 דג מלוח

@טופ-שבמתמחים כתב:

ואני לא יודע אם יש מדריכים לבניית גרעין באינטרנט

@אביעד כתב במדריך לבניית פצצת אטום
במדריך הזה ניסיתי לפרק את הנושא של פצצת אטום לחלקים פשוטים

א.מ.ד.

@המלך-גורג לא צריך להגיע לפצצה גרעינית בשביל להזיק. לדעתי הנזקים הפוטנציאליים חמורים יותר מפצצה גרעינית.

בנימין מחשבים

כל העוקבים והאורחים בשרשור הזה - תוכלו לעזור לי כאן? תודה.

כמובן רק מי שדעתו כמוני!

NH.LOCAL

@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ

זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד

מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך

ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...

NH.LOCAL

@123-דג-מלוח כתב:

@טופ-שבמתמחים ע"ז @nh.local יענה.

כן, ככל הנראה הוא יכול. בינה מלאכותית מתקדמת בנויה על הרבה מאוד חומר מדעי, וממש לא רק על האינטרנט הציבורי

לא ממש חקרתי את הנושא, אבל אני מניח שהעיקרון לייצור פצצה גרעינית לא כזה סודי, העניין המרכזי הוא המרחק העצום בין ידע תיאורטי ליישום בפועל

אגב תרחישים דיסטופיים, עוד לא ידוע אפילו על מקרה מתועד אחד שבינה מלאכותית עזרה לבצע שוד בנק, האח הקטן של "איך לבנות פצצת אטום"...

שלץ

@NH.LOCAL כתב:

יש או היו להם לפחות מומחים ברמה בינלאומית בתחום

מצפון קוריאה.
סכנה בסדר גודל אחר לגמרי, עם או בלי ai

טופ שבמתמחים

> @שלץ כתב:

סכנה בסדר גודל אחר לגמרי, עם או בלי ai

אני לא חושב שהסכנה מצפון קוריאה כ"כ גדולה אחרי הכל גם אנחנו מדינה גרעינית

שלץ

> @טופ-שבמתמחים כתב:

אחרי הכל גם אנחנו מדינה גרעינית

כן. אם נפיל אותו בסביבה ניאלץ להגר ליבשת אחרת

לגבי צפון קוריאה -
נכון. הסכנה לדעתי היא רחוקה מאד מגרעין.(בימינו)

NH.LOCAL

@שלץ כתב:

השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.

תודה לכולם, ודיון פורה!

הבעיה המרכזית בכל הדיון הזה, מתחילה בכותרת שלו: "האם הAI הולך לאכול אותנו?"

אני במקומך הייתי שואל משהו אחר: "האם AI הולך למצוא את התרופה לסרטן ולאלצהיימר, לפתור את בעיית ההזדקנות, לשדרג את רמת החיים פי 10, לעצור את ההתחממות הגלובלית ולשפר את העולם מקצה לקצה?"

עכשיו אפשר לענות: "יתכן", "כן באופן חלקי", או "אולי". וזה יהיה נכון.

אפשר גם להגיד: נכון, אבל יש סיכונים, וזה גם יהיה נכון.

אבל ברגע שאתה מציב את השאלה הנכונה - הדיון הופך מ"AI הוא נוראי, בוא נעצור אותו", ל"AI זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן. עכשיו השאלה היא, האם כדאי לעצור את הסיכוי היחיד לפתור את כל מחלות האנושות בגלל הסיכון הקטן ש-AI יפרוץ לבנקים ויגנוב כסף או יעזור להאקרים רעים או למדינות דיקטוטוריות להשיג גרעין".

זה כמו להגיד: מעל מליון בני אדם מתים בכל שנה מתאונות דרכים, אז בוא נבטל את המכוניות. או: מאות אלפי בני אדם מתים כל שנה מהתחשמלות, אז נבטל את החשמל.

הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.

הכל תלוי במיצוב.

אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.

במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים