בירור | האם הAI הולך לאכול אותנו?
-
@בינארי-חכם מי שהזכרת דווקא לא, זה לרוב רוסים/מוסלמים/איראנים/ וכו'
-
או מטעויות של אנשים שלאו דווקא רעים כל כך.. או מאנשים טיפה רעים שהמודל שלהם יצא מכלל שליטה. (תחשוב, כמה מופרך לך שמודל מצליח לפרוץ חוות שרתים, להשתלט על אחד מהמחשבים, ולהתקין עליו ל'גיבוי' את המודל של עצמו, ולבצע יחד איתו מתקפה, נשמע משהו בדיוני - אבל לדעתי הוא מאוד מציאותי)
זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר) -
השרשור של @בנימין-מחשבים הוספם קשות בשאלה קריטית זו, אז רציתי לנסות להעביר את הדיון לכאן.
תודה לכולם, ודיון פורה!
@שלץ אני חושב שהתשובה היא כן.
עוד מעט הכל יהיה ai מ.א-ת ואז גם הראש ממשלה יהיה ai וגם החיילים וכו׳
עד ששר הביטחון (קלוד) יחליט שיותר לא יצטרכו אנושות ואז הכל יכול לקרות.רק מה שאני מקווה שמתי שה-ai ישרוף את כל העולם אז יגמר לו הטוקונים
"לאהוב הכל, לחבק ולמחול-כי החיים חזקים מהכל"
-
@שלץ אני חושב שהתשובה היא כן.
עוד מעט הכל יהיה ai מ.א-ת ואז גם הראש ממשלה יהיה ai וגם החיילים וכו׳
עד ששר הביטחון (קלוד) יחליט שיותר לא יצטרכו אנושות ואז הכל יכול לקרות.רק מה שאני מקווה שמתי שה-ai ישרוף את כל העולם אז יגמר לו הטוקונים
יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
או מטעויות של אנשים שלאו דווקא רעים כל כך.. או מאנשים טיפה רעים שהמודל שלהם יצא מכלל שליטה. (תחשוב, כמה מופרך לך שמודל מצליח לפרוץ חוות שרתים, להשתלט על אחד מהמחשבים, ולהתקין עליו ל'גיבוי' את המודל של עצמו, ולבצע יחד איתו מתקפה, נשמע משהו בדיוני - אבל לדעתי הוא מאוד מציאותי)
זה שוב אנשים רעים עם AI.
(מודל לא פורץ לחברת שרתים או עושה כלום בלי הוראה מהמשתמש.
אם המשתמש הוא זדוני, זה מה שאמרתי.
טעויות בדרך כלל הן מוגבלות ועוצרים אותן די מהר)או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א. -
או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.@חובבן-מקצועי אחרי כל הצחוקים זה באמת מפחיד
-
או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.ברגע שהAI יעקוף את הבינה האנושית
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
-
הכותרת מעניינת
משקפת את עיקרון הדיון באופן מעט הומוריסטי.
אבל אם מתייחסים ל"לאכול" מטפורית, הכוונה 'לאכּל' את האנושות, במזימותיה.
אני מאד מפקפק באפשרות קיצונית שכזו, אבל פרופסורים רבים כבר הביעו את חששותיהם, למשל אליעזר יודקבסקי שתמהּ האם אנשים לא חוששים לבנות דבר שחכם יותר מהם וחושב בכוחות עצמו.אבל פרופסורים רבים כבר הביעו את חששותיהם, למשל אליעזר יודקבסקי
הוא לא פרופסור אין לו השכלה פורמלית והוא למעשה אוטודידקט,
(לא סותר את העובדה שהוא אחד מהחוקרים המובילים והמשפיעים בתחומו
)את התחזית שלו בנושא הוא עשה כבר ב2005 וגיבה אותה שוב לאחרונה,
למרות שהוא מגזים בחלק מדבריו לדעתי,
יש לו כמה נקודות טבות. -
ברגע שהAI יעקוף את הבינה האנושית
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
-
@מטען-נייד לחרוג מההנחיות ולהיות יותר חכם מבן אדם זה דברים שונים לא?
הוא יכול לחרוג מההנחיות אבל הוא לא יבין משהו שאף אדם בעולם לא הבין כי אין לו יכולת יצירה של דבר חדשאני כמובן לא מדבר מידיעה אני מנסה להבין!
לדוגמא אני לא חושב שהוא יכול לפרש גמרות בפירושים חדשים הוא מסתמך על ידע קיים לא?
-
@מטען-נייד לחרוג מההנחיות ולהיות יותר חכם מבן אדם זה דברים שונים לא?
הוא יכול לחרוג מההנחיות אבל הוא לא יבין משהו שאף אדם בעולם לא הבין כי אין לו יכולת יצירה של דבר חדשאני כמובן לא מדבר מידיעה אני מנסה להבין!
לדוגמא אני לא חושב שהוא יכול לפרש גמרות בפירושים חדשים הוא מסתמך על ידע קיים לא?
-
ברגע שהAI יעקוף את הבינה האנושית
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
שאלת השאלות. הייתי אומר - צריך לפתוח על זה שרשור חדש
, לא באמת.. מספיק השרשור הזה (והשרשור הקודם..)חבל ש @המלאך לא פה.. יש לו הרבה מה לתרום בשיח..
ולדעתי, בטח שזה אפשרי, כבר היום יש דברים שהוא עושה הרבה יותר טוב מבנ"א למרות שהוא למד את החומר מבנ"א. (למשל? ציורים, קידוד ספציפי במהירות מטורפת, מציאת פרצות אבטחה [אם מה שקלוד פרסמו נכון], כתיבה, ועוד ועוד..) אז נכון שאתה יכול לטעון - 'טוב, הוא לא באמת יותר טוב, הוא פשוט עושה את זה מהר כי הוא מכונה, וממצא את היכולות'.. ואני חושב - שיכולת אנושית משודרגת - זו יכולת על אנושית.
נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)
מה גם שיש מדדים שמודדים מודלים על דברים שהם לא אומנו עליהם, והמודלים עם הזמן יותר ויותר מצליחים שם, מה שאומר שה'חשיבה' שלהם אכן עובדת. -
א יש את AGI ואז...
ב כתוב באינטרנט שישראל רוצחים אז הוא יחליט לעשות טובה לאנושות בלי לשאול..
ג אז איך הוא פתר בעיות וגילה דברים שלא היו כתובים באינטרנט....
-
אפשר קישור?
לא יעזור לך אני לא מחבר אותו לרשת חסר לי שהוא יאמין לכל מה שאמרתי לו ואז...
-
זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?
שאלת השאלות. הייתי אומר - צריך לפתוח על זה שרשור חדש
, לא באמת.. מספיק השרשור הזה (והשרשור הקודם..)חבל ש @המלאך לא פה.. יש לו הרבה מה לתרום בשיח..
ולדעתי, בטח שזה אפשרי, כבר היום יש דברים שהוא עושה הרבה יותר טוב מבנ"א למרות שהוא למד את החומר מבנ"א. (למשל? ציורים, קידוד ספציפי במהירות מטורפת, מציאת פרצות אבטחה [אם מה שקלוד פרסמו נכון], כתיבה, ועוד ועוד..) אז נכון שאתה יכול לטעון - 'טוב, הוא לא באמת יותר טוב, הוא פשוט עושה את זה מהר כי הוא מכונה, וממצא את היכולות'.. ואני חושב - שיכולת אנושית משודרגת - זו יכולת על אנושית.
נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)
מה גם שיש מדדים שמודדים מודלים על דברים שהם לא אומנו עליהם, והמודלים עם הזמן יותר ויותר מצליחים שם, מה שאומר שה'חשיבה' שלהם אכן עובדת. -
@מטען-נייד לחרוג מההנחיות ולהיות יותר חכם מבן אדם זה דברים שונים לא?
הוא יכול לחרוג מההנחיות אבל הוא לא יבין משהו שאף אדם בעולם לא הבין כי אין לו יכולת יצירה של דבר חדשאני כמובן לא מדבר מידיעה אני מנסה להבין!
לדוגמא אני לא חושב שהוא יכול לפרש גמרות בפירושים חדשים הוא מסתמך על ידע קיים לא?
@elch יש כבר שרשור (גם) על זה
https://mitmachim.top/post/1168849
(נראה לי זה גם היה מוצ"ש רק בלי סליחות)
ואני חושב שהחברה פה בכוונה מפזרים את הדיונים לכמה נושאים (לדוג' בנספח דיונים זה פעם שניה שהוא מסתעף לענין הזה) כדי שכשהAI יעמיד לדין את האויבים שלו הוא יתבלבל מי הם...
-
או עושה כלום בלי הוראה מהמשתמש.
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.זה בדיוק העניין.
בגלל שלAI אין מודעות, ממילא הוא לא "רוצה" כלום.
הוא רק עושה את מה שמבקשים ממנו.
יתכן שמישה יבקש ממנו משהו והוא יעשה שטויות, זה קורה כבר כיום.
אבל להחליט על דעת עצמו שלמחוק את ישראל (למשל) אין לו שום סיבה (אלא אם מי שמפעיל אותו זה ממשלת איראן, ואז הבעיה קיימת גם בלי טיפת AI... זה סתם עוד כלי...)יישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..
ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.זה בדיוק העניין.
בגלל שלAI אין מודעות, ממילא הוא לא "רוצה" כלום.
הוא רק עושה את מה שמבקשים ממנו.
יתכן שמישה יבקש ממנו משהו והוא יעשה שטויות, זה קורה כבר כיום.
אבל להחליט על דעת עצמו שלמחוק את ישראל (למשל) אין לו שום סיבה (אלא אם מי שמפעיל אותו זה ממשלת איראן, ואז הבעיה קיימת גם בלי טיפת AI... זה סתם עוד כלי...)הוא רק עושה את מה שמבקשים ממנו.
שוב, זה לא מדוייק, מלא פעמים הוא עושה דברים שלא ביקשת ממנו. כמו המקרים שהיו בתחילת דרכו של הסוכן של קלוד, שהוא מחק קבצים לאנשים במחשב, זאת מבלי שהם ביקשו..
(אף פעם זה לא קרה לך שAI עשה משהו שלא ביקשת? כאילו לא יום אחד הוא עשה דברים מרצונו, אלא ביקשת א' והוא הביא לך ב')
-
הוא רק עושה את מה שמבקשים ממנו.
שוב, זה לא מדוייק, מלא פעמים הוא עושה דברים שלא ביקשת ממנו. כמו המקרים שהיו בתחילת דרכו של הסוכן של קלוד, שהוא מחק קבצים לאנשים במחשב, זאת מבלי שהם ביקשו..
(אף פעם זה לא קרה לך שAI עשה משהו שלא ביקשת? כאילו לא יום אחד הוא עשה דברים מרצונו, אלא ביקשת א' והוא הביא לך ב')
@חובבן-מקצועי
יצא שביקשתי ממנו א' והוא עשה ב', אבל בדרך כלל יש איזהשהו הקשר בין מה שביקשת לתוצאה
אם תבקש ממנו תמונה הוא לא יכתוב תוכנה שלמה להורדה מספוטיפיי, נכון?
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}