בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@חכם-בלילה-1 הזחיחות זה הוראת מערכת, תן להם אתה את השרשור ויענו אחרת לגמרי
נכון ועדיין!
בל נשכח שהמידע ברוב האינטרנט מן הסתם נוטה לכיוון האנטישמיות
ואם הם יחליטו שהיהודים מיותרים?@חכם-בלילה-1 לדוגמא מה שענה לי gpt
הנה תגובה מנוסחת שאפשר לפרסם ישירות בשרשור, בסגנון ענייני ולא מתלהם:
אני חושב שהדיון הזה מערבב כמה דברים שונים, וחשוב לעשות ביניהם סדר.
קודם כל, יש הבדל עצום בין מודל AI לבין Agent.
מודל כמו ChatGPT או Gemini, בפני עצמו, לא "מסתובב באינטרנט", לא מתקין את עצמו על שרתים ולא מחליט פתאום לעשות דברים בעולם. הוא מקבל קלט ומחזיר פלט.
אבל כשמחברים אותו ל-Agent ונותנים לו טרמינל, קבצים, דפדפן, API, מייל והרשאות כתיבה – הסיפור משתנה. אז הוא כבר מסוגל לבצע רצף פעולות כדי להשיג מטרה, ולא צריך שהמשתמש ייתן הוראה נפרדת על כל פעולה.
לכן הטענה ש"AI לא יכול לעשות שום דבר בלי שהאדם יורה לו בדיוק מה לעשות" היא לא מדויקת. Agent יכול לקבל משימה כללית, ולהחליט בעצמו אילו פעולות ביניים לבצע.
מצד שני, מכאן ועד "AI הולך לאכול אותנו" יש קפיצה גדולה מאוד.
אם Agent מחק קובץ, הריץ פקודה לא נכונה או עשה פעולה שהמשתמש לא התכוון אליה – זה בהחלט כשל שצריך לקחת ברצינות. אבל זה לא מוכיח שיש לו רצון עצמאי, תודעה, אינסטינקט הישרדות או תוכנית להשמיד את האנושות.
גם הטענה ש-AI לא מסוגל ליצור שום דבר חדש כי "כל מה שהוא יודע הגיע מבני אדם" לא ממש נכונה. מערכות AI מסוגלות למצוא פתרונות חדשים, ליצור קוד, להציע השערות ולשלב רעיונות בדרכים שלא הופיעו בדיוק בדאטה שעליו אומנו. אבל גם מכאן לא נובע שהן בהכרח יהפכו לישות עצמאית וחזקה יותר מכל אדם.
לדעתי השאלה המעשית הרבה יותר מעניינת מהשאלה "האם AI יתעורר".
כבר היום אפשר לתת ל-Agent:
• גישה לשרת
• גישה לאינטרנט
• הרשאות כתיבה
• מפתחות API
• גישה למייל
• אפשרות להריץ פקודות
• יכולת לבצע משימות במשך שעות בלי אישור אנושיוככל שנותנים לו יותר הרשאות, טעות אחת יכולה לגרום ליותר נזק.
לכן אני חושב שהסכנה האמיתית כיום היא לא שיום אחד ה-AI "יחליט שהוא שונא אותנו", אלא שבני אדם יבנו מערכות אוטונומיות חזקות מדי, עם הרשאות רחבות מדי, בלי מנגנוני בקרה מספיקים.
ובאשר לעתיד – האם ייתכן שבעתיד יהיו מערכות שיהיו מסוגלות לתכנן, ללמוד ולפעול ברמה שאנחנו מתקשים לשלוט בה? זו שאלה רצינית, ואין לי סיבה לטעון בביטחון שכן או שלא.
אבל צריך להפריד בין:
מה AI כבר מסוגל לעשות היום,
מה Agent עם הרשאות יכול לעשות היום,
ו־תרחישים עתידיים שאנחנו עדיין לא יודעים אם יתרחשו.אם מערבבים את שלושת הדברים האלה, אפשר להגיע בקלות למסקנה הרבה יותר דרמטית ממה שהראיות באמת מצדיקות.
אם יחשבו, אז מה יעשו? בלי קשר לזה שאין להם באמת את ה"יחשבו" וזה שהם לא סתם משוטטים וקוראים דברים, הם אומנו על חומר מיוחד שמטבע הדברים לא מלא באנטישמיות, אין סיבה שיקראו יותר מידי ספרות אנטישמית ויהפכו לשונאי יהודים.
רוב הדיון כאן הוא בהומור. -
@חכם-בלילה-1 לדוגמא מה שענה לי gpt
הנה תגובה מנוסחת שאפשר לפרסם ישירות בשרשור, בסגנון ענייני ולא מתלהם:
אני חושב שהדיון הזה מערבב כמה דברים שונים, וחשוב לעשות ביניהם סדר.
קודם כל, יש הבדל עצום בין מודל AI לבין Agent.
מודל כמו ChatGPT או Gemini, בפני עצמו, לא "מסתובב באינטרנט", לא מתקין את עצמו על שרתים ולא מחליט פתאום לעשות דברים בעולם. הוא מקבל קלט ומחזיר פלט.
אבל כשמחברים אותו ל-Agent ונותנים לו טרמינל, קבצים, דפדפן, API, מייל והרשאות כתיבה – הסיפור משתנה. אז הוא כבר מסוגל לבצע רצף פעולות כדי להשיג מטרה, ולא צריך שהמשתמש ייתן הוראה נפרדת על כל פעולה.
לכן הטענה ש"AI לא יכול לעשות שום דבר בלי שהאדם יורה לו בדיוק מה לעשות" היא לא מדויקת. Agent יכול לקבל משימה כללית, ולהחליט בעצמו אילו פעולות ביניים לבצע.
מצד שני, מכאן ועד "AI הולך לאכול אותנו" יש קפיצה גדולה מאוד.
אם Agent מחק קובץ, הריץ פקודה לא נכונה או עשה פעולה שהמשתמש לא התכוון אליה – זה בהחלט כשל שצריך לקחת ברצינות. אבל זה לא מוכיח שיש לו רצון עצמאי, תודעה, אינסטינקט הישרדות או תוכנית להשמיד את האנושות.
גם הטענה ש-AI לא מסוגל ליצור שום דבר חדש כי "כל מה שהוא יודע הגיע מבני אדם" לא ממש נכונה. מערכות AI מסוגלות למצוא פתרונות חדשים, ליצור קוד, להציע השערות ולשלב רעיונות בדרכים שלא הופיעו בדיוק בדאטה שעליו אומנו. אבל גם מכאן לא נובע שהן בהכרח יהפכו לישות עצמאית וחזקה יותר מכל אדם.
לדעתי השאלה המעשית הרבה יותר מעניינת מהשאלה "האם AI יתעורר".
כבר היום אפשר לתת ל-Agent:
• גישה לשרת
• גישה לאינטרנט
• הרשאות כתיבה
• מפתחות API
• גישה למייל
• אפשרות להריץ פקודות
• יכולת לבצע משימות במשך שעות בלי אישור אנושיוככל שנותנים לו יותר הרשאות, טעות אחת יכולה לגרום ליותר נזק.
לכן אני חושב שהסכנה האמיתית כיום היא לא שיום אחד ה-AI "יחליט שהוא שונא אותנו", אלא שבני אדם יבנו מערכות אוטונומיות חזקות מדי, עם הרשאות רחבות מדי, בלי מנגנוני בקרה מספיקים.
ובאשר לעתיד – האם ייתכן שבעתיד יהיו מערכות שיהיו מסוגלות לתכנן, ללמוד ולפעול ברמה שאנחנו מתקשים לשלוט בה? זו שאלה רצינית, ואין לי סיבה לטעון בביטחון שכן או שלא.
אבל צריך להפריד בין:
מה AI כבר מסוגל לעשות היום,
מה Agent עם הרשאות יכול לעשות היום,
ו־תרחישים עתידיים שאנחנו עדיין לא יודעים אם יתרחשו.אם מערבבים את שלושת הדברים האלה, אפשר להגיע בקלות למסקנה הרבה יותר דרמטית ממה שהראיות באמת מצדיקות.
אם יחשבו, אז מה יעשו? בלי קשר לזה שאין להם באמת את ה"יחשבו" וזה שהם לא סתם משוטטים וקוראים דברים, הם אומנו על חומר מיוחד שמטבע הדברים לא מלא באנטישמיות, אין סיבה שיקראו יותר מידי ספרות אנטישמית ויהפכו לשונאי יהודים.
רוב הדיון כאן הוא בהומור.ה- GPT מדבר על נכון להיום
אני אנסה להסביר ואני לא מנבא שחורות ולא חוזה תרחיש אפוקליפטי
עצם זה שיש כאן יצור "תבוני" שחושב כמו אדם או גרוע מכך כמעט כמו אדם (לא יודע מה יותר גרוע)
זה מצב נורא שעלול לקום על יוצרוקח מההיסטוריה ואני לא משווה היכולות של החיה הנאצית לא היו יכולים להיות לעולם ברמה ובהרס שאליו הם הגיעו,
לולי הם היו בני אדם מבחינה פיזית ותבונית, נכון?אז גם כאן כשמכונה נהפכת ומקבלת יכולות של אדם או כמעט אדם אין לדעת לאן זה יכול להגיע, ובטח ובטח אם הוא מרגיש יותר נכון מוצלח עליון וחכם מהאדם (והוא מרגיש כך)...
ובא נניח לרגע לדיון האם הוא תבוני עם אישיות וכו וכו', מספיק שיש סוג של מולטי נשק פוטנציאלי ביד כל זב חוטם עם כפכפים
עבור כל אויב פוטנציאלי.@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
טוב, יש לך כמעט 440 הודעות לקרוא, בהצלחה!
קראתי גם קראתי...
-
ה- GPT מדבר על נכון להיום
אני אנסה להסביר ואני לא מנבא שחורות ולא חוזה תרחיש אפוקליפטי
עצם זה שיש כאן יצור "תבוני" שחושב כמו אדם או גרוע מכך כמעט כמו אדם (לא יודע מה יותר גרוע)
זה מצב נורא שעלול לקום על יוצרוקח מההיסטוריה ואני לא משווה היכולות של החיה הנאצית לא היו יכולים להיות לעולם ברמה ובהרס שאליו הם הגיעו,
לולי הם היו בני אדם מבחינה פיזית ותבונית, נכון?אז גם כאן כשמכונה נהפכת ומקבלת יכולות של אדם או כמעט אדם אין לדעת לאן זה יכול להגיע, ובטח ובטח אם הוא מרגיש יותר נכון מוצלח עליון וחכם מהאדם (והוא מרגיש כך)...
ובא נניח לרגע לדיון האם הוא תבוני עם אישיות וכו וכו', מספיק שיש סוג של מולטי נשק פוטנציאלי ביד כל זב חוטם עם כפכפים
עבור כל אויב פוטנציאלי.@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
טוב, יש לך כמעט 440 הודעות לקרוא, בהצלחה!
קראתי גם קראתי...
-
מה לעשות שהרביעית בעיצומה וזה לא עם מקלות ואבנים...
אולי תגלה לנו מתי הייתה השלישית?
-
NH.LOCAL כתב:
@צדיק-וטוב-לו-0 אגב רעים וטובים ביחס לבינה המלאכותית, שימו לב מי הם תומכי העצירה.
אובמה קורא לדמוקרטים להפוך את הסכנות והדרישה לרגולציה של AI לאחד הנושאים המרכזיים בקמפייני הבחירות הקרובים.
בארני סנדרס כבר הולך הרבה יותר רחוק: איסור על פיתוח בינה על-אנושית, הקפאת פיתוח AI מתקדם, ועד 20 שנות מאסר למי שיפר את האיסור.
ולקינוח, טאקר קרלסון חביבנו טען השבוע "למה שלא נפוצץ את מרכזי הנתונים?"
זה אותם הפחדות ישנות ביחס להתחממות הגלובלית שתהרוס את העולם, רק במיתוג חדש ונוצץ יותר.
עריכה: אם היה למישהו עוד ספק קטן, הנה עכשיו גם האו"ם הצטרף לקריאה ל"פעולה דחופה" מול סיכוני הבינה המלאכותית
לפעמים מספיק להסתכל מי נמצא באיזה צד.
ועוד כמה לרשימה:
- זוהראן ממדאני
- קמלה האריס
זה כבר יותר ברור מברור.
כשהרעים אומרים לך על משהו שהוא רע, צא מנקודת הנחה שהוא טוב.
יש סיכונים ב-AI ובהתקדמות שלו, אבל ספק רב אם ההתנגדות הנוכחית קשורה לאיום קיומי בפועל בשלב זה. נראה יותר כמו דרך חדשה לאפשר לשלטון הפרוגרס והווק לבצר את שליטתו
-
-
כתוב בתמונה ששלחתי מהמכלול...
היא הייתה חסומה שכתבתי את זה...
ולגוף העניין- זה מה שהמטומטם הזה כתב שהייתה, במלחמה הקרה חסר משהו קטנטן כדי להיות מלחמת עולם.
הקטע של ה"המלחמה". -
@לעכשיו
טוב אז צדקתי החמישית היא זאת שתהיה עם אבנים ומקלות@בינארי-חכם איך הגעת מעבר לשלישית?
-
האמת שהתגובות הזחוחות/ דביליות האלו של המודלים די מלחיצות,
יש כאן מגמה של גולם שקם על יוצרו ללא ספק
על גבול תודעת עליונות על האדם ומגלומניה...תקראו ותשפטו, תאמת דיי מפחיד..
@חכם-בלילה-1 אותי יותר מטריד איך אף אחד מהגאונים האלה לא שם לב שהפוסט שנפתר מופיע פעמיים
-
@חכם-בלילה-1 אותי יותר מטריד איך אף אחד מהגאונים האלה לא שם לב שהפוסט שנפתר מופיע פעמיים
-
@חכם-בלילה-1 אותי יותר מטריד איך אף אחד מהגאונים האלה לא שם לב שהפוסט שנפתר מופיע פעמיים
-
לא עברתי על כל השרשור
אבל אם התכוונת שהפוסט שנפתר מופיע גם בראש הנושא וגם באמצע,
זה בגלל שפוסט שמסומן כנפתר מופיע גם בראש הנושא
-
E elch התייחס לנושא זה
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}