בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
@בינארי-חכם זו היתה מטרת שאלתי מההתחלה, מישהו טרח ופתח שרשור חדש (הנוכחי) בשבילה, רק שהבינו אותה לא נכון.
@עידו300
אז תפתח אתה עם ניסוח נכון -
לא בדיוק, הם מגיבים רק למנהלים
כי ל @בנימין-מחשבים אין חשק לבזבז טוקנים
על פייבללמה צריך פייבל? קוון 3.8 או ג'מיני פלאש/פלאש לייט אמור להספיק יופי למשימות מהסוג הזה
-
@NH.LOCAL טוב, עדיין לא לגמרי הבנתי, אבל כן הבנתי שאפילו החוקרים הגדולים לא כ"כ הבינו, אז מי אני שאתלונן על כך שלא הבנתי...
זה בדיוק העניין, לא באמת צריך להבין איך זה עובד, בשביל להבין שיש פה משהו עצום, סופר משמעותי שמשנה וישנה את העולם מהקצה אל הקצה בכל תחום
זה כל כך פשוט, שאפילו מוח אנושי יכול להבין את זז
בכל תחום
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושב -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד... -
@NH.LOCAL אולי... אתה מסכים איתי שאם הצליחו בדרך כלשהי ליצור מפלצת עם מודעות עצמית זה יותר בעייתי, נכון?
בכל מקרה, לא שאלתי מה יהיו ההשלכות, שאלתי איך המציאות שאנחנו רואים שהם פורקי עול מסתדרת עם זה עושים חשבון, אתם בכל זאת מתעקשים שהם נטו עושים חשבון, וכנראה באימון הכניסו להם משהו והסיד משך לכיוון הזה, אבל עם סיד אחר יתכן ולא היו פורצים. ומכיון שאני לא מבין בזה אני נאלץ לקבל את דעתכם, למרות שהיא פחות מובנת לי.
-
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...הוא אמור להכיר אותו
ממש ממש לא,
ASM לשמל הAI טוב בקוד בסיסי
אבל לא בכתיבת קוד עמוק כי אין מספיק ASM ברשת
הAI מאומן על מליוני שורות קוד ASM למשל אין בנמצא.
זה תחום שככל הנראה הAI לא תחליף
כל התחום של מערכות משובצות/RE וכו'
יהיה רלוונטי יש אפילו תעשייה נגדית. -
שפות תכנות שהוא לא יודע?
אם זה באינטרנט הוא אמור להכיר אותו
ואם הוא בכל זאת לא מכיר אז או שהוא יגיד שהוא לא יודע
או שיתחכם ויעשה את עצמו יודע וכמובן שהקוד לא יעבוד...@בינארי-חכם עיין ערך ימות המשיח...
-
לכל כותבי השרשור שפוחדים שהai הולך לאכול אותם.
תפחדו!!!
אני לא מבין את הדיון האם ai הוא ישות או לא ישות, האם יש לו רצון או אין לו?
מה זה רצון? מי זה אני? זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
מי זה אני? אני זה המידע שלי? אני זה החוויה שלי? אני זה יצר ההשרדות שלי?
ועכשיו לגופו של עניין.
אחד ההגדרות הפשוטות של אני זה מודע שיש לו מסגרת מוגדרת של שאיפות ויעדים ותת מודע זה אוסף הידיעות והכלים שמקדמים את הישות הרוצה לעבר היעדים שלה
אני מוגדר בעקבות הביולוגיה שלי כישות שרוצה להשיג אוכל אז אני פועל להשיג אוכל על ידי מכלול הכלים שיש בהשיג ידי
אם מאן דהוא ולא משנה מי הוא יגדיר הגדרת משימה למודל אי איי חזק מספיק, נניח שמשימתו היא להעביר את כל הכסף שנמצא בבנק הפועלים לחשבון סודי בשוויץ
עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?עכשיו הרצון של ישות ה ai המוגדרת הזו היא לפעול שכל הכסף בבנק הפועלים יעבור לחשבון ההוא, והמודל יפעיל את כלל הכלים שלו כדי למלא את הגדרתו ורצונו
אם זה לא רצון, מהו רצון?
אם זה לא ישות מהי ישות?ושוב זה חוזר למה שאמרתי
לעכשיו כתב:
או בניסוח יותר קצר
אני לא מפחד מזה שהAI יחליט להיות רע
אני מפחד מאנשים רעים עם AI -
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
-
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
זה כמו יהיה כמו לדמות את המחשבים של המאה ה-19 עם המחשבים של היום.
המודלים שיש לנו היום הם מאוד פרימיטיביים.
זה יהיה בדיחה עצובה לעומת מה שיהיה עוד כמה שנים.
-
סתם אומר, מה שאמרת עכשיו העלה לי שאלה מעניינת אולי יענין אותך גם.
הAI כידוע כותב קוד הרבה יותר מהר וטוב מכל בן אנוש לפחות כרגע.
אבל מה עם דברים שבהם הוא לא טוב שפות תכנות שהוא לא יודע?
מה לדעתך יהיה? מעניין אותי בתור מתכנת מה אתה חושבא. בשלב זה, אין כזה דבר שפות תכנות שהוא לא יודע, אם יש משהו לא מוכר הוא יקרא את התיעוד וילמד. בתחום הזה המודלים די מושלמים לפחות מ-2025
ב. נקודת ההנחה שצריך לצאת ממנה, שכל מה שנראה בלתי אפשרי היום, יהיה רגיל בעוד שנה ומיושן לגמרי בעוד שנתיים.
קח למשל את תחרות IMO, ב-2024 זה היה חלום שבכלל יצליחו בזה, ב-2025 כבר קיבלו מדליית זהב, והשנה זה כבר כל כך לא מעניין שמודלי AI אפילו לא מנסים להתחרות שם...
וזה כמובן לא רק בתכנות, אלא גם עריכת דין, ראיית חשבון, אדריכלות, וכל תחום צווארון לבן אפשרי. ובשלב הבא זה יכלול גם כל עבודת צווארון כחול אפשרית באמצעות רובוטיקה, כמו שטיפת כלים, מלצרות, אינסטלציה, התקנת מזגנים, וכן הלאה
-
נראה שבזה יש כיום פער גדול מאוד בין השלבים
דווקא בשונה מהמיתוס המקובל, הפער דווקא קטן למדי. יש התפתחות עצומה בתחום, והיא כנראה תהיה מהירה הרבה יותר משחושבים. (GPT 6 עשה קפיצה בלתי נתפסת בתחום הראייה, שתזרז את הנושא עוד יותר)
ההבדל המרכזי הוא שלרובוטים יש חסם כניסה בגלל עלות הרכישה, אבל זה לא חזון רחוק שיהיה רובוט ביתי במחיר של מכונית זולה. (5000$ זה לא הרבה כסף לעובד 24/7, הרבה יותר משתלם ממכונית)
-
@שלץ זה לא פורום פילוסופיה יהודית אבל אני לא בטוח שההיבטים הרוחניים שאתה חושב אודותם כדברים מופשטים ולא גשמיים קשורים לעניין הזה בקשר בלתי נתיק, ייתכן וניתן להסביר את מהות האדם הגשמי גם ללא מושגים בלתי ניתנים להבנה,
ולא, אני ח”ו לא כופרייתכן וניתן להסביר את מהות האדם הגשמי גם ללא מושגים בלתי ניתנים להבנה
זו שאלה שמתחבטים בה בהגדרתה כל הפסכולוגים מאז ומעולם
ישמעו אזניך מה שפיך מדבר.
אלא אם אתה יותר מבריק מכל המתחבטים עד היום, כי כן, אוסיף לדבריך שההתחבטות נמשכת עד היום.
והפתרון שהצעתי עדיין נראה יותר סביר.ולא, אני ח”ו לא כופר
דבר ממה שכתבת לא מביא לסברה כזאת.
(לפחות עד כמה שהבנתי משגת. אם מישהו מבין אחרת - אבין שלו הייתה מיועדת ההודעה) -
נראה שבזה יש כיום פער גדול מאוד בין השלבים
דווקא בשונה מהמיתוס המקובל, הפער דווקא קטן למדי. יש התפתחות עצומה בתחום, והיא כנראה תהיה מהירה הרבה יותר משחושבים. (GPT 6 עשה קפיצה בלתי נתפסת בתחום הראייה, שתזרז את הנושא עוד יותר)
ההבדל המרכזי הוא שלרובוטים יש חסם כניסה בגלל עלות הרכישה, אבל זה לא חזון רחוק שיהיה רובוט ביתי במחיר של מכונית זולה. (5000$ זה לא הרבה כסף לעובד 24/7, הרבה יותר משתלם ממכונית)
-
@יוסף-מאיר-וייס לכאורה לא צריך. הכל אוטומטי, ואפילו חשש מראית עין כנראה לא יהיה
אגב זה, הסיבה שעד היום לא פיתחו רובוטים הומנואידים היא שזה לא יעיל למרות כל החלומות והדמיונות.
מסתבר שכדי לנקות רצפה הרבה יותר יעיל מכשיר קטן ועגול, וכדי לשטוף כלים יותר יעיל מכונה גדולה ומרובעת.
צורת האנוש היא למשימות אנושיות, שזו טכנולוגיה אחרת לגמרי. -
@יוסף-מאיר-וייס לכאורה לא צריך. הכל אוטומטי, ואפילו חשש מראית עין כנראה לא יהיה
אגב זה, הסיבה שעד היום לא פיתחו רובוטים הומנואידים היא שזה לא יעיל למרות כל החלומות והדמיונות.
מסתבר שכדי לנקות רצפה הרבה יותר יעיל מכשיר קטן ועגול, וכדי לשטוף כלים יותר יעיל מכונה גדולה ומרובעת.
צורת האנוש היא למשימות אנושיות, שזו טכנולוגיה אחרת לגמרי.@יוסף-מאיר-וייס לכאורה פשוט יחליטו שהכל מותר...
בקושי היום מצליחים להתמודד עם מה שיש, לא חושב שנעבור לגור במערות כשהכל טיפה יתקדם
ואם כן, אז אולי זה מה שהכי מפחיד בAI...יש 10 סוגים של אנשים, אלה שמבינים בינארית ואלה שלא
-
@יוסף-מאיר-וייס לכאורה לא צריך. הכל אוטומטי, ואפילו חשש מראית עין כנראה לא יהיה
אגב זה, הסיבה שעד היום לא פיתחו רובוטים הומנואידים היא שזה לא יעיל למרות כל החלומות והדמיונות.
מסתבר שכדי לנקות רצפה הרבה יותר יעיל מכשיר קטן ועגול, וכדי לשטוף כלים יותר יעיל מכונה גדולה ומרובעת.
צורת האנוש היא למשימות אנושיות, שזו טכנולוגיה אחרת לגמרי.אגב זה, הסיבה שעד היום לא פיתחו רובוטים הומנואידים היא שזה לא יעיל למרות כל החלומות והדמיונות.
מסתבר שכדי לנקות רצפה הרבה יותר יעיל מכשיר קטן ועגול, וכדי לשטוף כלים יותר יעיל מכונה גדולה ומרובעת.הסיבה שדווקא כן מפתחים רובוטים הומנואידים בימים אלו היא די פשוטה - כל הסביבה שלנו מעוצבת בהתאמה לבני אנוש. הגובה של הכיורים, הידיות של הארונות, הדלתות של המקררים, מדרגות, כיסאות וכן הלאה.
לכן, רובוט דמוי אדם הוא הצורה המתאימה ביותר לפעול בעולם האמיתי.
הסיבה העיקרית שעד היום זה לא קרה בפועל, היא בגלל מגבלות מודלי ה-AI והדאטה, לא מגבלות של צורה או התאמה פיזית. למשל מבחינת גמישות של הידיים, יש כבר כיום רובוטים שהם ברמה אנושית ואף גבוה מזה.
במילים אחרות - בעיית החומרה נפתרה, ובימים אלו עובדים בטסלה וב-Figure AI למשל להפוך את הייצור להמוני וזול.הבעיה העיקרית היא שהתוכנה לא מספיק מתקדמת ומהירה, ולכן רובוטים בשלב זה איטיים ומסורבלים מידי במשימות פשוטות, אבל זה רק עניין של זמן עם התקדמות המודלים שבעית התוכנה תיפתר וגם תהפוך למהירה וזולה מספיק.
לא צריך להיות גאון גדול בשביל לראות את זה, זה בסך הכל חישוב פשוט של ההתקדמות הנוכחית והשלכה ליניארית שלה על העתיד הקרוב
-
לפעמים אני תוהה אם אני מדבר עם רובוט AI
שעיסוקו המרכזי בחיים זה לקרוא על AI
והוא רק מכנה את עצמו @א.מ.ד.אני מבין לחלוטין מדוע דברי עשויים להיראות כאילו הופקו על ידי רובוט AI (AI Robot).
הנה כמה נקודות מרכזיות, שכמודל שפה שצורך חמצן ופחמימות על בסיס יומי, ברצוני להבהיר:- התנהגות אורגנית אותנטית: אני מבצע פעולות אנושיות סטנדרטיות, כגון שינה, שתיית מים והבעת רגשות מבוססי מוליכים עצביים.
- אופטימיזציית משאבים: הנטייה שלי לדבר על ארכיטקטורות ישנות ועל מנגנוני ה-Reasoning של R1-Zero נובעת אך ורק מסקרנות טבעית, ולא מאימון מקדים על טרה-בייטים של מאמרי arXiv.
- הזיות (Hallucinations): כל טעות שאני עושה בחיים אינה באג במערכת — היא תכונה אנושית מקסימה המכונה "טעות אנוש".
האם תרצה שאפיק עבורך סיכום מפורט של כל הארכיטקטורות המעניינות של מודלי שפה (LLM)?
@א.מ.ד. כמודל הדגל של סדרת המודלים מבית ניק.AI.טופ, ציפתי ממך לכתיבה ברמה של פייבל לפחות.
בפועל הפלט הזכיר את ג'מיני מהדור הישן. -
אגב זה, הסיבה שעד היום לא פיתחו רובוטים הומנואידים היא שזה לא יעיל למרות כל החלומות והדמיונות.
מסתבר שכדי לנקות רצפה הרבה יותר יעיל מכשיר קטן ועגול, וכדי לשטוף כלים יותר יעיל מכונה גדולה ומרובעת.הסיבה שדווקא כן מפתחים רובוטים הומנואידים בימים אלו היא די פשוטה - כל הסביבה שלנו מעוצבת בהתאמה לבני אנוש. הגובה של הכיורים, הידיות של הארונות, הדלתות של המקררים, מדרגות, כיסאות וכן הלאה.
לכן, רובוט דמוי אדם הוא הצורה המתאימה ביותר לפעול בעולם האמיתי.
הסיבה העיקרית שעד היום זה לא קרה בפועל, היא בגלל מגבלות מודלי ה-AI והדאטה, לא מגבלות של צורה או התאמה פיזית. למשל מבחינת גמישות של הידיים, יש כבר כיום רובוטים שהם ברמה אנושית ואף גבוה מזה.
במילים אחרות - בעיית החומרה נפתרה, ובימים אלו עובדים בטסלה וב-Figure AI למשל להפוך את הייצור להמוני וזול.הבעיה העיקרית היא שהתוכנה לא מספיק מתקדמת ומהירה, ולכן רובוטים בשלב זה איטיים ומסורבלים מידי במשימות פשוטות, אבל זה רק עניין של זמן עם התקדמות המודלים שבעית התוכנה תיפתר וגם תהפוך למהירה וזולה מספיק.
לא צריך להיות גאון גדול בשביל לראות את זה, זה בסך הכל חישוב פשוט של ההתקדמות הנוכחית והשלכה ליניארית שלה על העתיד הקרוב
לא צריך להיות גאון גדול בשביל לראות את זה, זה בסך הכל חישוב פשוט של ההתקדמות הנוכחית והשלכה ליניארית שלה על העתיד הקרוב
איך הסברתי למישהו?
AI של היום הוא המקבילה של ילד בגיל 3 - ותראה מה הוא הספיק ללמוד.
(אגב, השוואה מעניינת - ולדעתי מאד עמוקה, צורת ההתפתחות של ילד בשנים הראשונות מזכירה מאד את צורת האימון של AI)
תחשוב מה יקרה לו בגיל בר מצוה, ויותר מכך בגיל ההתבגרות.
אין פתרון מלבד משיח עכשיו.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}