בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבל@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד... -
@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
חחח.. אוקי אולי בגלל זה.
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד...@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
-
@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
@עידו300
אז תפתח אתה עם ניסוח נכון -
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
בכל תחום
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושב -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד... -
@NH.LOCAL אולי... אתה מסכים איתי שאם הצליחו בדרך כלשהי ליצור מפלצת עם מודעות עצמית זה יותר בעייתי, נכון?
בכל מקרה, לא שאלתי מה יהיו ההשלכות, שאלתי איך המציאות שאנחנו רואים שהם פורקי עול מסתדרת עם זה עושים חשבון, אתם בכל זאת מתעקשים שהם נטו עושים חשבון, וכנראה באימון הכניסו להם משהו והסיד משך לכיוון הזה, אבל עם סיד אחר יתכן ולא היו פורצים. ומכיון שאני לא מבין בזה אני נאלץ לקבל את דעתכם, למרות שהיא פחות מובנת לי.
-
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...הוא אמור להכיר אותו
ממש ממש לא,
ASM לשמל הAI טוב בקוד בסיסי
אבל לא בכתיבת קוד עמוק כי אין מספיק ASM ברשת
הAI מאומן על מליוני שורות קוד ASM למשל אין בנמצא.
זה תחום שככל הנראה הAI לא תחליף
כל התחום של מערכות משובצות/RE וכו'
יהיה רלוונטי יש אפילו תעשייה נגדית. -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...@בינארי-חכם עיין ערך ימות המשיח...
-
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?ושוב זה חוזר למה שאמרתי
לעכשיו כתב:
או בניסוח יותר קצר
אני לא מפחד מזה שהAI יחליט להיות רע
אני מפחד מאנשים רעים עם AI -
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
-
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
זה כמו יהיה כמו לדמות את המחשבים של המאה ה-19 עם המחשבים של היום.
המודלים שיש לנו היום הם מאוד פרימיטיביים.
זה יהיה בדיחה עצובה לעומת מה שיהיה עוד כמה שנים.
-
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
-
נראה שבזה יש כיום פער גדול מאוד בין השלבים
דווקא בשונה מהמיתוס המקובל, הפער דווקא קטן למדי. יש התפתחות עצומה בתחום, והיא כנראה תהיה מהירה הרבה יותר משחושבים. (GPT 6 עשה קפיצה בלתי נתפסת בתחום הראייה, שתזרז את הנושא עוד יותר)
ההבדל המרכזי הוא שלרובוטים יש חסם כניסה בגלל עלות הרכישה, אבל זה לא חזון רחוק שיהיה רובוט ביתי במחיר של מכונית זולה. (5000$ זה לא הרבה כסף לעובד 24/7, הרבה יותר משתלם ממכונית)
-
@שלץ זה לא פורום פילוסופיה יהודית אבל אני לא בטוח שההיבטים הרוחניים שאתה חושב אודותם כדברים מופשטים ולא גשמיים קשורים לעניין הזה בקשר בלתי נתיק, ייתכן וניתן להסביר את מהות האדם הגשמי גם ללא מושגים בלתי ניתנים להבנה,
ולא, אני ח”ו לא כופרייתכן וניתן להסביר את מהות האדם הגשמי גם ללא מושגים בלתי ניתנים להבנה
זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
ישמעו אזניך מה שפיך מדבר.
אלא אם אתה יותר מבריק מכל המתחבטים עד היום, כי כן, אוסיף לדבריך שההתחבטות נמשכת עד היום.
והפתרון שהצעתי עדיין נראה יותר סביר.ולא, אני ח”ו לא כופר
דבר ממה שכתבת לא מביא לסברה כזאת.
(לפחות עד כמה שהבנתי משגת. אם מישהו מבין אחרת - אבין שלו הייתה מיועדת ההודעה)
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}