בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
זה 99.9% סיכוי לעולם מדהים ונהדר. עם זאת יש גם סיכון של 0.1% שהוא יהיה מסוכן.
חושב שהקטנת את רמת הסיכון.
חושב שאם מחד יש סיכוי של 99.9 % שהוא ימצא פתרון למחלות , אז מאידך יש הרבה יותר סיכוי מ0.1 % שהAI יוכל לחולל הרס.
מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.הרווח מהאצת התקדמות ה-AI יהיה גדול עשרת מונים מהחשמל ומהתחבורה.
הכל תלוי במיצוב.
ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.
אם יש גוף רגולטורי / אמנה בינלואמית כלשהי פעילה ואפקטיבית, אשמח אם תחכימו אותי..
ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.
הייתי לא מזמן אצל רופא משפחה, שבכל מהלך הבדיקות שוחח עם ג'מיני ושאל אותו על הכל! פשוט הזוי!
-
חושב שהקטנת את רמת הסיכון.
חושב שאם מחד יש סיכוי של 99.9 % שהוא ימצא פתרון למחלות , אז מאידך יש הרבה יותר סיכוי מ0.1 % שהAI יוכל לחולל הרס.
מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.אנשים רשעים יש בעולם מאז בריאתו פחות או יותר ועדיין הטוב מנצח או לפחות שורד, פשוט בשל העובדה שיש יותר טובים מרעים. תוספת של AI חזק לא תשנה את זה מהותית כל עוד כלי ההגנה יהיו חזקים וטובים יותר מכלי התקיפה של הרעים.
עצירה של ארצות הברית רק תגרום לרעים להשיג יכולות טובות יותר בזמן שלטובים לא יהיה כלים להתגונן.
הסיכון שבאמת יש להתייחס אליו, ולמעשה ממנו כנראה חוששים המנכ"לים הוא ש-AI מתקדם יצא משליטה ויעשה ככל העולה על רוחו, לא מניצול לרעה של היכולות שלו על ידי האקרים רעים או משטרים אפלים.
מספיק שיהיה מישהו אחד שהוא רשע, ולצערנו לא חסרים כאלה בעולם, ושיהיה לו גישה למחשב טוב, והוא יריץ עליו מודל, ויבקש שיבצע דברים שמזיקים לעולם.
היכולות האלו כבר קיימות. יש מודלים בעלי יכולות סייבר תואמי קלוד מיתוס, שקיימים בקוד פתוח ואפשר להשתמש בהם ללא מגבלה כמעט. לא ידוע על אירוע סייבר בקנה מידה גדול שנגרם בגלל זה. ובוודאי לא על ידי מודלי AI קנייניים.
ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.
רגולוציה היא דבר גרוע ברוב המקרים שחוסם ומפריע להתקדמות טכנלוגית. כל שכן רגולציה בין לאומית. ע"ע הצלחתו המרשימה של האו"ם, בית הדין בהאג, אונר"א, אמנת ז'נבה וכל השאר - כולם גופים מסואבים ופוליטיים שרחוקים מלקדם את מה שהם נועדו לקדם. המערב מציית כמו פראייר והאיסלאם וחבר מרעיו חוגגים.
זה דבר שצריך לעשות רק כשאין ברירה, ולא רגע אחד לפני.
-
מחילה השרשרור ארוך מכדי לעבור על כולו
אבל מישוה ניסה לשאול את הAI מה הוא חושב על הנידון?גמ"ח עזרה וייעוץ בנושאי מחשבים
-
מחילה השרשרור ארוך מכדי לעבור על כולו
אבל מישוה ניסה לשאול את הAI מה הוא חושב על הנידון?@pcinfogmach כן, כמה כבר עשו את זה
תבדוק אחורה, אחד מהם זה קלוד והשני לדעתי GPT -
מחילה השרשרור ארוך מכדי לעבור על כולו
אבל מישוה ניסה לשאול את הAI מה הוא חושב על הנידון?@pcinfogmach היו כמה שניסו, אבל המודל אכל אותם לתיאבון (אחרי צום, כן?!), כך שהם לא יכלו לחזור ולעדכן.
-
@pcinfogmach היו כמה שניסו, אבל המודל אכל אותם לתיאבון (אחרי צום, כן?!), כך שהם לא יכלו לחזור ולעדכן.
@צדיק-וטוב-לו-0
אולי אפשר לחלק את הנידון בין מי שאין לא ערך אנושי מוסף. למי שיש לו..... -
@NH.LOCAL אתה אמור להבין לבד שאנשים אוהבים הפחדות!
(תשאל את @אמנון-יצחק וחבריו וכן את @יונה-ספיר)
כולנו א. מאמינים באמונה שלמה שה' מנהיג את העולם ואם הוא רוצה שיחרב הוא לא צריך את ההתחממות הגלובלית, מלחמות, מגפות, ואטום.
וכן הוא יכול לקיים אותו למרות הנ"ל
ב. אין לנו שליטה על אנתרופיק אופן AI וכו' וכמובן לא הסינים.
ג. מוסכם שגם אם זו בעיה רצינית יש לנו בעיות קודמות בשפע (מה שפחות יש לאמריקנים).
ממילא כל הדיון פה הוא תיאורטי וגרם הנאה לאיזה 40 כותבים (ואלפי צפיות) ובזה מילא את מטרתו.
ולכן מגיע לך שאכתוב לך את מה שכתבתי לעיל
https://mitmachim.top/post/1239587או בעצם-כל הדיון הזה מיותר לגמרי, והוא סתם אמצעי בידורי.
אגב הטיימינג של ימים נוראים הוא פשוט מושלם.
דווקא לפי זה, זה לא טיימינג טוב. אמנם יום כיפור הוא כ-פורים, אבל לא שמענו שנהגו לעשות בדיחות במיוחד בתשרי...
שכחתי לציין, שאת העיקר כתבתי לפני שערכת וזה היה נראה שזה מאד כואב לך.
@לעכשיו לא חשבתי לענות לך.
כדי לא נצטרך לפתוח שרשור
מה המטרה של השרשור האם הAI הולך לאכול אותנו
אבל ראיתי שכבר קדמוני, אז על כבודו של חובבן מקצועי
גם ככה הדיון לא הולך מחר לשנות את העולם (בדיוק כמו הדיון הקודם), והוא נטו בשביל ההנאה הצרופה.
אבל לא שמענו שנהגו לעשות בדיחות במיוחד בתשרי...
אף אחד לא רמז שזו בדיחה כלשהי.
והתכוונתי כמובן שאנשים צריכים להבין שהם חיים בנס, ועכשיו מעוד סיבה (או שלא).
ואתה לכאורה מסכים עם שלושת ההנחות שכתבתי. -
אגב, שמתי לב שמדברים כאן הרבה על הסכנות של הAI מזכירים את איראן ורוסיה וכדו',
אף אחד לא חושש מהיום שבו יגמרו לאנשים התעסקות?
הפתרון היחיד שיוכל להיות זה שהממשלה תחלק לנו אוכל - קומוניזם בלע"ז - וזה אפילו מפחיד עוד יותר!
ואם כבר קונספירציות - הנה לנו סיבה למה ממשלות גדולות כמו ארה"ב וסין לא עושים רגולציות על AI, כך יהיה להם הרבה יותר קל לשלוט בנו...
||מוקדש לכל חובבי הקונספירציות למיניהם...|| -
אגב, שמתי לב שמדברים כאן הרבה על הסכנות של הAI מזכירים את איראן ורוסיה וכדו',
אף אחד לא חושש מהיום שבו יגמרו לאנשים התעסקות?
הפתרון היחיד שיוכל להיות זה שהממשלה תחלק לנו אוכל - קומוניזם בלע"ז - וזה אפילו מפחיד עוד יותר!
ואם כבר קונספירציות - הנה לנו סיבה למה ממשלות גדולות כמו ארה"ב וסין לא עושים רגולציות על AI, כך יהיה להם הרבה יותר קל לשלוט בנו...
||מוקדש לכל חובבי הקונספירציות למיניהם...||אף אחד לא חושש מהיום שבו יגמרו לאנשים התעסקות?
כי זה יהי' לזמן קצר מאד.
תוך טווח זמן קצר אחרי שהוא ישתלט על שוק העבודה, הוא גם יחליט לחסל את האוכלוסיה העולמית.
כך שהבעיה הספציפית של שוק התעסוקה - תהיה זמנית מאד.
אז עדיף להתמקד בבעיות לטווח הרחוק, מאשר לבעיות זמניות. -
אף אחד לא חושש מהיום שבו יגמרו לאנשים התעסקות?
כי זה יהי' לזמן קצר מאד.
תוך טווח זמן קצר אחרי שהוא ישתלט על שוק העבודה, הוא גם יחליט לחסל את האוכלוסיה העולמית.
כך שהבעיה הספציפית של שוק התעסוקה - תהיה זמנית מאד.
אז עדיף להתמקד בבעיות לטווח הרחוק, מאשר לבעיות זמניות.@שלץ
ראיתי עכשיו את הכותרת,
לראשונה!!!האם הAI הולך לאכול אותנו?
ואני חושב שאפשר לשאול את מר דונלד ג'ון טראמפ,
הוא ממש לאחרונה החליט לעשות מזה קמפיין.
תודה על תשומת לבכם לעניין הזה... -
@NH.LOCAL כתב:
זה דבר שצריך לעשות רק כשאין ברירה,\
גם אז לא.
אקדים, אני שונא רגולציה, חושב שזה דבר הרסני.
אבל אם מחר AI ינדב מידע חופשי איך ליצור פצצה, אתה לא חושב שזה יהיה דבר קצת בעייתי?
חובה שיהיה תקן בסיסי ברור. -
ומאידך - עם ההאצה, חייבים למצוא את הדרך כיצד לרסן, וזה הזוי שעברו כבר כמעט ארבע שנים מאז הAI חדר לעולם הכללי (אני מדבר על השקת GPT 3.5) ועדיין אין אמנה כלשהי (אמריקאית-סינית, מה יעזור האמנה שחתמו עליה כמה אירופאים אם החברות הגדולות מחוץ למשחק שלהם..), או גוף רגולטורי בינלאומי.
הייתי לא מזמן אצל רופא משפחה, שבכל מהלך הבדיקות שוחח עם ג'מיני ושאל אותו על הכל! פשוט הזוי!
-
@NH.LOCAL כתב:
זה דבר שצריך לעשות רק כשאין ברירה,\
גם אז לא.
אקדים, אני שונא רגולציה, חושב שזה דבר הרסני.
אבל אם מחר AI ינדב מידע חופשי איך ליצור פצצה, אתה לא חושב שזה יהיה דבר קצת בעייתי?
חובה שיהיה תקן בסיסי ברור.אבל אם מחר AI ינדב מידע חופשי איך ליצור פצצה, אתה לא חושב שזה יהיה דבר קצת בעייתי?
מי שמעוניין ליצור פצצה, לא סביר שיהיה בקטע של שמירת האמנה הבין-לאומית לבינה מלאכותית.
אנו חיים בעידן חדש, שבו בעזרת לא הרבה מאד כסף (יחסית, כמובן) - ואתה מריץ מודל אופליין, איזה שתרצה.
מה יעזור שהחברות בארה"ב ואירופה יתקעו ברוגולציה מטומטמת, בזמן שהשכן המוסלמי שלך מריץ מודל אצלו בבית, בשביל לקבל הדרכה לפיתוח מטען צד מחומרים ביתיים?
עריכה:
כשהטנקים נכנסו לקרבות במהלך מלחמת העולם הראשונה, זה היה נראה נשק שובר שוויון.
מה לדעתך היה על על מדינות הציר לעשות?
לחתום על אמנה בין-לאומית על איסור שימוש בטנקים, ולהלחם בחיל רגלים מול הטנקים של מדינות ההסכמה?
או פשוט לפתח טנקים משלהם?הם פיתחו משלהם, שכללו כמה שאפשר, תוך כדי אימוץ אסטרטגיה של מלחמת שריון - בליץ קריג
התוצאה הייתה כיבוש מאסיבי של חצי אירופה בקלי קלות, במהלך מלחמת העולם השניה
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}