בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.
השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.
חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה
אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים
@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבל -
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבל@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד... -
@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
חחח.. אוקי אולי בגלל זה.
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד...@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
-
@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
@עידו300
אז תפתח אתה עם ניסוח נכון -
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
בכל תחום
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושב -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד... -
@NH.LOCAL אולי... אתה מסכים איתי שאם הצליחו בדרך כלשהי ליצור מפלצת עם מודעות עצמית זה יותר בעייתי, נכון?
בכל מקרה, לא שאלתי מה יהיו ההשלכות, שאלתי איך המציאות שאנחנו רואים שהם פורקי עול מסתדרת עם זה עושים חשבון, אתם בכל זאת מתעקשים שהם נטו עושים חשבון, וכנראה באימון הכניסו להם משהו והסיד משך לכיוון הזה, אבל עם סיד אחר יתכן ולא היו פורצים. ומכיון שאני לא מבין בזה אני נאלץ לקבל את דעתכם, למרות שהיא פחות מובנת לי.
-
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...הוא אמור להכיר אותו
ממש ממש לא,
ASM לשמל הAI טוב בקוד בסיסי
אבל לא בכתיבת קוד עמוק כי אין מספיק ASM ברשת
הAI מאומן על מליוני שורות קוד ASM למשל אין בנמצא.
זה תחום שככל הנראה הAI לא תחליף
כל התחום של מערכות משובצות/RE וכו'
יהיה רלוונטי יש אפילו תעשייה נגדית. -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...@בינארי-חכם עיין ערך ימות המשיח...
-
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?ושוב זה חוזר למה שאמרתי
לעכשיו כתב:
או בניסוח יותר קצר
אני לא מפחד מזה שהAI יחליט להיות רע
אני מפחד מאנשים רעים עם AI -
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}