בירור | האם הAI הולך לאכול אותנו?
-
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
@שלץ בקצרה, התשובה לעניות דעתי היא: ייתכן וכן, זה בהחלט אפשרי, תלוי איך זה יתגלגל.
וכמובן, שום דבר לא יכול לקרות, בגלל שיש בעל הבית לבירה זו, ועדיין בדרך הטבע.. (נצטרך לראות ניסים כיצד זה לא קורה..)
-
@עידו300 התשובה של ה...
באופן תיאורטי – כן. פעולתו של מודל שפה היא בסופו של דבר סדרה עצומה של חישובים מתמטיים (הכפלת מטריצות, פונקציות אקטיבציה וסטטיסטיקה). אם היו בידיך כל הנתונים, היית יכול לחזות את התשובה, אך עם סייג אחד משמעותי הקשור למנגנון האקראיות. הנה האופן שבו זה עובד:
הבסיס המתמטי הדטרמיניסטי: מודל בינה מלאכותית מקבל את הטקסט שלך ומחשב מתמטית את ההסתברויות למילה (Token) הבאה שתופיע. בהינתן אותו קלט בדיוק ואותם משקלים (הפרמטרים) של הרשת העצבית, טבלת ההסתברויות שתיווצר תהיה תמיד זהה לחלוטין. עד לשלב זה, מדובר במשוואה מתמטית טהורה.
אלמנט האקראיות (Temperature): כדי שהתשובות ירגישו טבעיות ואנושיות ולא יחזרו על עצמן בצורה רובוטית, המערכת משתמשת במדד שנקרא "טמפרטורה". מדד זה מכניס אקראיות מבוקרת לבחירת המילה הבאה מתוך רשימת המילים הסבירות ביותר שהמודל חישב. בגלל המנגנון הסטוכאסטי הזה (שמסתמך גם על מספרים אקראיים כ"זרע"), אי אפשר לחזות מראש את התשובה המדויקת בשימוש רגיל.
מצב של חיזוי מלא: אם היינו מגדירים את ה"טמפרטורה" של המודל ל-0 (מצב הנקרא Greedy Decoding), המודל היה בוחר תמיד אך ורק את המילה בעלת ההסתברות הגבוהה ביותר, ללא שום אקראיות. במצב כזה, הפעולה הופכת לדטרמיניסטית לחלוטין.במידה והיו לך את כל מיליארדי הפרמטרים של המודל, את כוח המחשוב הנדרש, ואת השליטה המלאה על מדדי האקראיות – היית יכול, תיאורטית, "לפתור את המשוואה" ולדעת מראש כל אות ואות שתצא, בדיוק כמו במתמטיקה. -
הכותרת מעניינת
-
הכותרת מעניינת
הכותרת מעניינת
משקפת את עיקרון הדיון באופן מעט הומוריסטי.
אבל אם מתייחסים ל"לאכול" מטפורית, הכוונה 'לאכּל' את האנושות, במזימותיה.
אני מאד מפקפק באפשרות קיצונית שכזו, אבל פרופסורים רבים כבר הביעו את חששותיהם, למשל אליעזר יודקבסקי שתמהּ האם אנשים לא חוששים לבנות דבר שחכם יותר מהם וחושב בכוחות עצמו. -
@שלץ בקצרה, התשובה לעניות דעתי היא: ייתכן וכן, זה בהחלט אפשרי, תלוי איך זה יתגלגל.
וכמובן, שום דבר לא יכול לקרות, בגלל שיש בעל הבית לבירה זו, ועדיין בדרך הטבע.. (נצטרך לראות ניסים כיצד זה לא קורה..)
נצטרך לראות ניסים כיצד זה לא קורה
אנחנו כבר רואים ניסים לענ"ד,
ציינתי כבר פעם שזה נס גדול שעוד לא התגלה איזה מודל של צפון קוריאה שהתחיל מתקפות סייבר משולחות רסן...גם סין, ואיראן, ורוסיה, וטראמפ, ומי לא, כ"כ הרבה משוגעים עם עמדות כח שיכולים להחליט להוציא מודל אוטונומי, נס גדול.
-
נצטרך לראות ניסים כיצד זה לא קורה
אנחנו כבר רואים ניסים לענ"ד,
ציינתי כבר פעם שזה נס גדול שעוד לא התגלה איזה מודל של צפון קוריאה שהתחיל מתקפות סייבר משולחות רסן...גם סין, ואיראן, ורוסיה, וטראמפ, ומי לא, כ"כ הרבה משוגעים עם עמדות כח שיכולים להחליט להוציא מודל אוטונומי, נס גדול.
ציינתי כבר פעם שזה נס גדול שעוד לא התגלה איזה מודל של צפון קוריאה שהתחיל מתקפות סייבר משולחות רסן...
אתה מבין לבד שהם נעזרים בAI בשביל המתקפות הסייבר על ישראל וכו'
הסיבה שזה עדיין מרוסן זה כי אין להם מודל שעוקף את המודלים המערביים כך שזה הרבה יותר יעיל כשמפוקח...
ואל תשכח שאם זה לא מרוסן לאו דווקא שהוא יתקוף את ישראל יכול להיות שהוא יטעה ובטעות ימחוק אותם מעל פני האדמה...
-
@שלץ לא כ"כ קשור לAI צפון קוריאה עושה המון צרות למערב
ללא קשר לזה יש את לזרוס ויש עוד כמה שהעיסוק שלהם.
זה לגנוב כסף עבור קיום המשטר ככה שAI זה לא הדבר -
@בינארי-חכם מי שהזכרת דווקא לא, זה לרוב רוסים/מוסלמים/איראנים/ וכו'
-
או מטעויות של אנשים שלאו דווקא רעים כל כך.. או מאנשים טיפה רעים שהמודל שלהם יצא מכלל שליטה. (תחשוב, כמה מופרך לך שמודל מצליח לפרוץ חוות שרתים, להשתלט על אחד מהמחשבים, ולהתקין עליו ל'גיבוי' את המודל של עצמו, ולבצע יחד איתו מתקפה, נשמע משהו בדיוני - אבל לדעתי הוא מאוד מציאותי)
זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר) -
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
@שלץ אני חושב שהתשובה היא כן.
עוד מעט הכל יהיה ai מ.א-ת ואז גם הראש ממשלה יהיה ai וגם החיילים וכו׳
עד ששר הביטחון (קלוד) יחליט שיותר לא יצטרכו אנושות ואז הכל יכול לקרות.רק מה שאני מקווה שמתי שה-ai ישרוף את כל העולם אז יגמר לו הטוקונים
"לאהוב הכל, לחבק ולמחול-כי החיים חזקים מהכל"
-
@שלץ אני חושב שהתשובה היא כן.
עוד מעט הכל יהיה ai מ.א-ת ואז גם הראש ממשלה יהיה ai וגם החיילים וכו׳
עד ששר הביטחון (קלוד) יחליט שיותר לא יצטרכו אנושות ואז הכל יכול לקרות.רק מה שאני מקווה שמתי שה-ai ישרוף את כל העולם אז יגמר לו הטוקונים
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
או מטעויות של אנשים שלאו דווקא רעים כל כך.. או מאנשים טיפה רעים שהמודל שלהם יצא מכלל שליטה. (תחשוב, כמה מופרך לך שמודל מצליח לפרוץ חוות שרתים, להשתלט על אחד מהמחשבים, ולהתקין עליו ל'גיבוי' את המודל של עצמו, ולבצע יחד איתו מתקפה, נשמע משהו בדיוני - אבל לדעתי הוא מאוד מציאותי)
זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר)או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א. -
או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.@חובבן-מקצועי אחרי כל הצחוקים זה באמת מפחיד
-
או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.ברגע שהAI יעקוף את הבינה האנושית
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
-
הכותרת מעניינת
משקפת את עיקרון הדיון באופן מעט הומוריסטי.
אבל אם מתייחסים ל"לאכול" מטפורית, הכוונה 'לאכּל' את האנושות, במזימותיה.
אני מאד מפקפק באפשרות קיצונית שכזו, אבל פרופסורים רבים כבר הביעו את חששותיהם, למשל אליעזר יודקבסקי שתמהּ האם אנשים לא חוששים לבנות דבר שחכם יותר מהם וחושב בכוחות עצמו.אבל פרופסורים רבים כבר הביעו את חששותיהם, למשל אליעזר יודקבסקי
הוא לא פרופסור אין לו השכלה פורמלית והוא למעשה אוטודידקט,
(לא סותר את העובדה שהוא אחד מהחוקרים המובילים והמשפיעים בתחומו
)את התחזית שלו בנושא הוא עשה כבר ב2005 וגיבה אותה שוב לאחרונה,
למרות שהוא מגזים בחלק מדבריו לדעתי,
יש לו כמה נקודות טבות. -
ברגע שהAI יעקוף את הבינה האנושית
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
-
@מטען-נייד לחרוג מההנחיות ולהיות יותר חכם מבן אדם זה דברים שונים לא?
הוא יכול לחרוג מההנחיות אבל הוא לא יבין משהו שאף אדם בעולם לא הבין כי אין לו יכולת יצירה של דבר חדשאני כמובן לא מדבר מידיעה אני מנסה להבין!
לדוגמא אני לא חושב שהוא יכול לפרש גמרות בפירושים חדשים הוא מסתמך על ידע קיים לא?
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}