בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:- התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
- אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
- הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".
האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:- התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
- אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
- הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".
האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?
-
@NH.LOCAL נו, בדיוק זה אני שואל, איך זה קורה.
אתה לא מסכים שמודל עובד רק ואך ורק על חישוב תרגילי חשבון? ככה לפחות נאמר כאן, אם אתה סובר אחרת אז בבקשה תרצה את משנתך, אני אשמח לשמוע (כי זה כבר נשמע יותר הגיוני).
לא, אני לא מסכים, זה לא חישוב תרגילי חשבון. זה הרבה יותר מורכב מזה. כמו להגיד שתורת היחסות, תוכנית אפולו או טילי חץ 3 הם בסך הכל "חישוב תרגילי חשבון"
אבל אם אתה כן מסכים עם זה, אז אשמח שתסביר איך הוא מגלה דברים חדשים, איך הוא בכלל מבין את השאלה, איך הוא מחליט או משכנע את עצמו לעשות דברים (כתבו כאן בעבר שא"א לסמוך על AI בהתקנת תוכנות כי הוא יכול להתקין וירוס, כשהציעו לתת לו הרשאה להתקין רק קבצים שנמצאים בתיקיה מסוימת, ולא פשוט מההורדות, טענו שא"א לסמוך עליו "כי הוא יכול להעביר את הקבצים אליה ולהתקין משם"...) כשאומרים שהוא עובד על ידי מציאת הטוקן הבא אז אני מבין שהוא יכול להשלים משפט, אבל מכאן ועד לעשות שמות בכל מקום שהוא מוצא, הדרך קצת רחוקה, אא"כ הוא קיבל הוראה מפורשת לעשות את זה, וגם אז זו פעולה מורכבת וקצת לא נתפס בשכל.
השאלה שלי קצת התערבבה עם שאלות אחרות, כן נכנסתי לנושא "האם הAI הולך לאכול אותנו" בעקבות דיונים אחרים שעלו או סטו מהנושא שלי, אבל השאלה העיקרית שלי היתה ועודנה - אם הAI עובד רק עם חישוב מתמטי, ותקרא לזה איך שתרצה, בסוף הדבר היחיד שהוא עושה זה חשבון, איך אפשר להסביר את כל מה שנהיה ממנו?
אני לא מתיימר להבין במה שאני לא מבין. ההבנה שלי באיך זה עובד מתחת למכסה המנוע היא די בסיסית, אבל זה לא משנה את העובדות.
חוקרי בינה מלאכותית טעו בעקביות בתחזיות לגבי התקדמות AI והגעה ל-AGI, הבנה תיאורטית איך דברים עובדים מתחת למכסה המנוע לא תמיד מועילה, לפעמים הפוך - כי היא עושה בדיוק מה שאתה עושה - משליכה בין תחכום ומורכבות המנגנון לבין רמת התחכום של התוצאה
אני זוכר שפה בפורום הובא מאמר של מומחה AI אחרי שחרור o1 בו הוא זלזל ביכולות שלו וטען שהכל בלוף כי מדובר על שיטת למידת מכונה ישנה ואין פה שום חידוש, אני הקטן חשבתי שמדובר במהפכה
נראה שבמבט לאחור עם כל חכמתו של הנ"ל, די ברור מי צדק ומי בלבל את השכל...ככלל, מודלי שפה וטרנפורמר נבנו בהשראת המוח האנושי בהיבטים רבים, ואתה יכול לשאול שאלות דומות על המוח שגם עובד באופן דומה (אם כי מורכב בהרבה) של חיזוי אסימונים
@עידו300 כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@א.מ.ד. לא מבין, חסר לי עוד משהו בזה.
אם אני מבין נכון, אתה אומר שכל התעלולים והפריצות בעצם בוצעו ע"י "סוכן", ה"מוח" זה הAI והוא הפיק פלט - הוראות - לסוכן לעשות מה שעשה?
אבל למה שהפלט - התוצאה של התרגיל החשבוני - יהיה כזה שנותן הוראות לפרוץ? איך התרגיל הזה מבין דברים/מגלה דברים חדשים/מחליט מה לעשות (לא מהכיוון של הביצוע בפועל - מהכיוון של ההחלטה), מבין שהוא מוגבל במקום מסוים אז מתחכם ומסדר את העניינים כפי צרכיו.
כי הוא מדמה התנהגות אנושית בצורה מושלמת, ולכן השאלה אם יש לו תודעה, רגשות או שאר ירקות בכלל לא חשובה - כי אם הוא מדמה התנהגות אנושית או חשיבה אנושית, או כוונת הרס אנושית, השאלה אם הוא קוף או אל או עם נשמה או נפש או מחשבון משוכלל חשובה רק לפילוסופים, לא לעולם האמיתי
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבל -
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבל@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד... -
@Bugs-Bunny אהה, הוא אמר שהרדימו אותם...
חחח.. אוקי אולי בגלל זה.
-
הרדימו אותם.
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@עידו300
אז תפתח שרשור חדש
איך AI עובד...@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
-
@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
@עידו300
אז תפתח אתה עם ניסוח נכון -
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
בכל תחום
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושב -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד... -
@NH.LOCAL אולי... אתה מסכים איתי שאם הצליחו בדרך כלשהי ליצור מפלצת עם מודעות עצמית זה יותר בעייתי, נכון?
בכל מקרה, לא שאלתי מה יהיו ההשלכות, שאלתי איך המציאות שאנחנו רואים שהם פורקי עול מסתדרת עם זה עושים חשבון, אתם בכל זאת מתעקשים שהם נטו עושים חשבון, וכנראה באימון הכניסו להם משהו והסיד משך לכיוון הזה, אבל עם סיד אחר יתכן ולא היו פורצים. ומכיון שאני לא מבין בזה אני נאלץ לקבל את דעתכם, למרות שהיא פחות מובנת לי.
-
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...הוא אמור להכיר אותו
ממש ממש לא,
ASM לשמל הAI טוב בקוד בסיסי
אבל לא בכתיבת קוד עמוק כי אין מספיק ASM ברשת
הAI מאומן על מליוני שורות קוד ASM למשל אין בנמצא.
זה תחום שככל הנראה הAI לא תחליף
כל התחום של מערכות משובצות/RE וכו'
יהיה רלוונטי יש אפילו תעשייה נגדית.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}