בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[א.מ.ד.]

@המלך-גורג לא צריך להגיע לפצצה גרעינית בשביל להזיק. לדעתי הנזקים הפוטנציאליים חמורים יותר מפצצה גרעינית.

[בנימין מחשבים]

כל העוקבים והאורחים בשרשור הזה - תוכלו לעזור לי כאן? תודה.

כמובן רק מי שדעתו כמוני!

[NH.LOCAL]

@123-דג-מלוח ומאיפה בדיוק תשיג את החומרים והכלים הללו? זה לא פלסטלינה וסלוטייפ

זה דורש מפעלי ייצור מורכבים מאוד ורכיבים יקרים מאוד

מצחיק שאתה מביא את האיראנים כמי שיעזרו לתימנים. ערבך ערבא צריך

ככלל, האיראנים ממש לא צריכים עזרה של AI לפיתוח גרעין, יש או היו להם לפחות מומחים ברמה בינלאומית בתחום וזה לא הספיק להם...

[NH.LOCAL]

@123-דג-מלוח כתב:

@טופ-שבמתמחים ע"ז @nh.local יענה.

כן, ככל הנראה הוא יכול. בינה מלאכותית מתקדמת בנויה על הרבה מאוד חומר מדעי, וממש לא רק על האינטרנט הציבורי

לא ממש חקרתי את הנושא, אבל אני מניח שהעיקרון לייצור פצצה גרעינית לא כזה סודי, העניין המרכזי הוא המרחק העצום בין ידע תיאורטי ליישום בפועל

אגב תרחישים דיסטופיים, עוד לא ידוע אפילו על מקרה מתועד אחד שבינה מלאכותית עזרה לבצע שוד בנק, האח הקטן של "איך לבנות פצצת אטום"...

[שלץ]

@NH.LOCAL כתב:

יש או היו להם לפחות מומחים ברמה בינלאומית בתחום

מצפון קוריאה.
סכנה בסדר גודל אחר לגמרי, עם או בלי ai

[טופ שבמתמחים]

Spoiler

> @שלץ כתב:

סכנה בסדר גודל אחר לגמרי, עם או בלי ai

אני לא חושב שהסכנה מצפון קוריאה כ"כ גדולה אחרי הכל גם אנחנו מדינה גרעינית

[שלץ]

Spoiler

> @טופ-שבמתמחים כתב:

אחרי הכל גם אנחנו מדינה גרעינית

כן. אם נפיל אותו בסביבה ניאלץ להגר ליבשת אחרת

לגבי צפון קוריאה -
נכון. הסכנה לדעתי היא רחוקה מאד מגרעין.(בימינו)

[NH.LOCAL]

@שלץ כתב:

השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.

תודה לכולם, ודיון פורה!

הבעיה המרכזית בכל הדיון הזה, מתחילה בכותרת שלו: "האם הAI הולך לאכול אותנו?"

אני במקומך הייתי שואל משהו אחר: "האם AI הולך למצוא את התרופה לסרטן ולאלצהיימר, לפתור את בעיית ההזדקנות, לשדרג את רמת החיים פי 10, לעצור את ההתחממות הגלובלית ולשפר את העולם מקצה לקצה?"

עכשיו אפשר לענות: "יתכן", "כן באופן חלקי", או "אולי". וזה יהיה נכון.

אפשר גם להגיד: נכון, אבל יש סיכונים, וזה גם יהיה נכון.

אבל ברגע שאתה מציב את השאלה הנכונה - הדיון הופך מ"AI הוא נוראי, בוא נעצור אותו", ל"AI זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן. עכשיו השאלה היא, האם כדאי לעצור את הסיכוי היחיד לפתור את כל מחלות האנושות בגלל הסיכון הקטן ש-AI יפרוץ לבנקים ויגנוב כסף או יעזור להאקרים רעים או למדינות דיקטוטוריות להשיג גרעין".

זה כמו להגיד: מעל מליון בני אדם מתים בכל שנה מתאונות דרכים, אז בוא נבטל את המכוניות. או: מאות אלפי בני אדם מתים כל שנה מהתחשמלות, אז נבטל את החשמל.

הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.

הכל תלוי במיצוב.

Spoiler

אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.

במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים

[123 דג מלוח]

@NH.LOCAL אתה אמור להבין לבד שאנשים אוהבים הפחדות!
(תשאל את @אמנון-יצחק וחבריו וכן את @יונה-ספיר)
כולנו א. מאמינים באמונה שלמה שה' מנהיג את העולם ואם הוא רוצה שיחרב הוא לא צריך את ההתחממות הגלובלית, מלחמות, מגפות, ואטום.
וכן הוא יכול לקיים אותו למרות הנ"ל
ב. אין לנו שליטה על אנתרופיק אופן AI וכו' וכמובן לא הסינים.
ג. מוסכם שגם אם זו בעיה רצינית יש לנו בעיות קודמות בשפע (מה שפחות יש לאמריקנים).
ממילא כל הדיון פה הוא תיאורטי וגרם הנאה לאיזה 40 כותבים (ואלפי צפיות) ובזה מילא את מטרתו.
ולכן מגיע לך שאכתוב לך את מה שכתבתי לעיל
https://mitmachim.top/post/1239587

אגב הטיימינג של ימים נוראים הוא פשוט מושלם.

Spoiler

שכחתי לציין, שאת העיקר כתבתי לפני שערכת וזה היה נראה שזה מאד כואב לך.

[המלך גורג]

@NH.LOCAL כתב:

אגב, גרעין הוא המצאה הרבה יותר טובה מהמבט עליה.
היא חסכה מלחמות רבות מאז המצאתה, וסיימה את מלחמת העולם השנייה.

במהלך מלחמת העולם השנייה מתו 60 מיליון אנשים, מפצצת אטום מתו עשרות אלפים

כן כן,וודאי וודאי, זה כמעט כמו לומר שמכוניות זה יותר גרוע מאבולה כי סטטיסטית מתו ממכויות יותר אנשים מאשר מאבולה...

[NH.LOCAL]

@המלך-גורג כתב:

כן כן,וודאי וודאי, זה כמעט כמו לומר שמכוניות זה יותר גרוע מאבולה כי סטטיסטית מתו ממכויות יותר אנשים מאשר מאבולה...

אתה מקשר בין שני דברים לא קשורים. אבולה מעולם לא מנעה מוות. פצצות האטום על הירושימה ונגאסקי דווקא בהחלט עשו זאת, ובאופן ישיר.

[המלך גורג]

וחיסון? לא נוצר מחיידק האבולה?,
ואל תענה שחיסון מציל ממה שהוא עצמו עושה, כי גם אטום מציל ממה שהוא עצמו עושה כי שניהם כלי מלחמה

[123 דג מלוח]

Spoiler

> @המלך-גורג כתב:

וחיסון? לא נוצר מחיידק האבולה?

לא ידעתי שיש חיסון לאבולה.
בכל אופן הדיון פה הוא על הערה לא רלוונטית בספוילר. שמת לב?

[לעכשיו]

@123-דג-מלוח כתב:

@NH.LOCAL אתה אמור להבין לבד שאנשים אוהבים הפחדות!
(תשאל את @אמנון-יצחק וחבריו וכן את @יונה-ספיר)
כולנו א. מאמינים באמונה שלמה שה' מנהיג את העולם ואם הוא רוצה שיחרב הוא לא צריך את ההתחממות הגלובלית, מלחמות, מגפות, ואטום.
וכן הוא יכול לקיים אותו למרות הנ"ל
ב. אין לנו שליטה על אנתרופיק אופן AI וכו' וכמובן לא הסינים.
ג. מוסכם שגם אם זו בעיה רצינית יש לנו בעיות קודמות בשפע (מה שפחות יש לאמריקנים).
ממילא כל הדיון פה הוא תיאורטי וגרם הנאה לאיזה 40 כותבים (ואלפי צפיות) ובזה מילא את מטרתו.
ולכן מגיע לך שאכתוב לך את מה שכתבתי לעיל
https://mitmachim.top/post/1239587

או בעצם-כל הדיון הזה מיותר לגמרי, והוא סתם אמצעי בידורי.

אגב הטיימינג של ימים נוראים הוא פשוט מושלם.

דווקא לפי זה, זה לא טיימינג טוב. אמנם יום כיפור הוא כ-פורים, אבל לא שמענו שנהגו לעשות בדיחות במיוחד בתשרי...

Spoiler

שכחתי לציין, שאת העיקר כתבתי לפני שערכת וזה היה נראה שזה מאד כואב לך.

[חובבן מקצועי]

@NH.LOCAL כתב:

זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן.

חושב שהקטנת את רמת הסיכון.
חושב שאם מחד יש סיכוי של 99.9 % שהוא ימצא פתרון למחלות , אז מאידך יש הרבה יותר סיכוי מ0.1 % שהAI יוכל לחולל הרס.
מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.

@NH.LOCAL כתב:

הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.

הכל תלוי במיצוב.

ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.

Spoiler

אם יש גוף רגולטורי / אמנה בינלואמית כלשהי פעילה ואפקטיבית, אשמח אם תחכימו אותי..

[NH.LOCAL]

@חובבן-מקצועי כתב:

חושב שהקטנת את רמת הסיכון.
חושב שאם מחד יש סיכוי של 99.9 % שהוא ימצא פתרון למחלות , אז מאידך יש הרבה יותר סיכוי מ0.1 % שהAI יוכל לחולל הרס.
מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.

אנשים רשעים יש בעולם מאז בריאתו פחות או יותר ועדיין הטוב מנצח או לפחות שורד, פשוט בשל העובדה שיש יותר טובים מרעים. תוספת של AI חזק לא תשנה את זה מהותית כל עוד כלי ההגנה יהיו חזקים וטובים יותר מכלי התקיפה של הרעים.

עצירה של ארצות הברית רק תגרום לרעים להשיג יכולות טובות יותר בזמן שלטובים לא יהיה כלים להתגונן.

הסיכון שבאמת יש להתייחס אליו, ולמעשה ממנו כנראה חוששים המנכ"לים הוא ש-AI מתקדם יצא משליטה ויעשה ככל העולה על רוחו, לא מניצול לרעה של היכולות שלו על ידי האקרים רעים או משטרים אפלים.

מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.

היכולות האלו כבר קיימות. יש מודלים בעלי יכולות סייבר תואמי קלוד מיתוס, שקיימים בקוד פתוח ואפשר להשתמש בהם ללא מגבלה כמעט. לא ידוע על אירוע סייבר בקנה מידה גדול שנגרם בגלל זה. ובוודאי לא על ידי מודלי AI קנייניים.

ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.

רגולוציה היא דבר גרוע ברוב המקרים שחוסם ומפריע להתקדמות טכנלוגית. כל שכן רגולציה בין לאומית. ע"ע הצלחתו המרשימה של האו"ם, בית הדין בהאג, אונר"א, אמנת ז'נבה וכל השאר - כולם גופים מסואבים ופוליטיים שרחוקים מלקדם את מה שהם נועדו לקדם. המערב מציית כמו פראייר והאיסלאם וחבר מרעיו חוגגים.

זה דבר שצריך לעשות רק כשאין ברירה, ולא רגע אחד לפני.

[חובבן מקצועי]

@NH.LOCAL כתב:

רגולוציה היא דבר גרוע ברוב המקרים שחוסם ומפריע להתקדמות טכנלוגית. כל שכן רגולציה בין לאומית. ע"ע הצלחתו המרשימה של האו"ם, בית הדין בהאג, אונר"א, אמנת ז'נבה וכל השאר - כולם גופים מסואבים ופוליטיים שרחוקים מלקדם את מה שהם נועדו לקדם. המערב מציית כמו פראייר והאיסלאם וחבר מרעיו חוגגים.

זה דבר שצריך לעשות רק כשאין ברירה, ולא רגע אחד לפני.

גם אני נגד רגולציה, וזה הדבר האחרון שמקדם את השוק. (שלא לומר - הדבר הראשון שתוקע אותו.)
אבל במקרה דנן הדבר דומה לפיתוח נשק המוני ללא כל רגולציה בסיסית..
וגם רגולציה יכולה להיות יותר קטע של תקן, פחות בקטע של פיקוח.. (נגיד לחייב חברות לאמן מודל מראש על הוראות ביטוח, ולא להוסיף לו אחרי זה פרומט שאפשר להסירו אחר כך בנקל..)