שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬

NH.LOCAL

@Bugs-Bunny כתב:

@NH.LOCAL

כל מילה, אגב, יש תופעה הפוכה, אין סניורים כי חברות לא מסכימות לקבל ג'וניורים
כי אין להם צורך ככה שבפועל הם לא נותנות להם את ההכשרה שהם צריכים.
אז הAI דווקא פועל פה בכיון ההפוך

כן, דובר על החששות האלה, אבל הם די מטופשים, כי גם סניורים לא יצטרכו במוקדם או במאוחר.

כמו להגיד בשנת 1900 שאם אין סוסים מי יהיו דור העגלונים הבא

א.מ.ד.

@Bugs-Bunny כתב:

@א.מ.ד.

מה יקרה? אפוקליפסה? AGI? בינה מלאכותית חובבת מוזיקת פופ? מה בדיוק
שאתם כל כך בטוחים אם יש מקור אני אשמח לא סתם קביעות
למרות שאני מאוד מעריך אותך בתחום זה

מקור למה? לא לכל דבר יש מקור... אתה לא מצפה לראות ויקיפדיה "תוך 3.8 שנים שיעור מהנדסי התוכנה ירד ב-98%..."

ztcebuck

@Bugs-Bunny כתב:

הקטע עם הטייס? בסרט ישן כזה?

לא זה ספר
אבל על טייס

Bugs Bunny

@NH.LOCAL כתב:

, כי גם סניורים לא יצטרכו במוקדם או במאוחר.

אוקי, ומה מוביל אותך לזה?
גילוי אליהו הנביא?
שיחה מדרי אמודו?
תחושת בטן?
כאילו, למה לקבוע דברים שלא באמת ברור מה יהיה.
אז נכון, הAI תופסת חלקים מאוד גדולים בהייטק.
אבל למה לקבוע כבר ש"במוקדם או במאוחר לא יהיה צריך?"

נניח, חקר נוזקות, אני מתעסק מעט. זה תחום שהAI נופל בין הקרשים
כי זה מכונה מול יצירתיות של אדם ולא עובד לפי כללים מוגדרים שזה קוד תכל'ס

אז לא נכון כ"כ לקבוע, בפועל אף אחד לא יודע מה יהיה.

NH.LOCAL

@Bugs-Bunny כתב:

@NH.LOCAL

לא דווקא "כל עבודה" יש עבודות שפורחות דווקא בגלל AI

כמובן. לזה קוראים "שירת הברבור"

הביקוש לסוסים היה הגבוה ביותר בשלב בו מכוניות החלו להיות מיוצרים בהמוניהם עם פס הייצור של פורד

@Bugs-Bunny כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

אוקי, ומה מוביל אותך לזה?
גילוי אליהו הנביא?
שיחה מדרי אמודו?
תחושת בטן?
כאילו, למה לקבוע דברים שלא באמת ברור מה יהיה.
אז נכון, הAI תופסת חלקים מאוד גדולים בהייטק.
אבל למה לקבוע כבר ש"במוקדם או במאוחר לא יהיה צריך?"

נניח, חקר נוזקות, אני מתעסק מעט. זה תחום שהAI נופל בין הקרשים
כי זה מכונה מול יצירתיות של אדם ולא עובד לפי כללים מוגדרים שזה קוד תכל'ס

התרשמות מהמציאות הנוכחית והשלכה של המגמה לטווח ארוך.
לא צריך להיות חכם גדול בשביל להבין את זה.

דוגמה פשוטה: אם נניח ימצא פתרון למוות, כפועל ישיר מזה הביקוש לקברנים ירד לאפס, הגיוני?

זה בדיוק אותו דבר לגבי AI. ברגע ש-AI יוכל להיות אוטונומי לחלוטין, ולשם זה הולך, איזה סיבה טובה תהיה לחברה להעסיק עובד אנושי שעושה עבודה פחות טובה במחיר עלות פי 1000?

אז לא נכון כ"כ לקבוע, בפועל אף אחד לא יודע מה יהיה.

אף אחד לא יודע מה יהיה ב-100%, אבל די בבירור יש את אלו שבלבלו את השכל, ויש כאלה שהיו קרובים למציאות לפחות במידת מה.

Bugs Bunny

@א.מ.ד.

מחקרים, כמובן, מחקרים לא נותנים הוכחה או קביעה אבל נתון סטטיסטי.
שיכול לתת כיון לאן להתקדם או לחשוב,

אגב אם זה יקרה בטח שאצפה לראות, כך זה אמור להיות.

Bugs Bunny

@NH.LOCAL כתב:

הביקוש לסוסים היה הגבוה ביותר בשלב בו מכוניות החלו להיות מיוצרים בהמוניהם עם פס הייצור של פורד

וגם היום יש, כן , פחות אבל יש.

אגב שמא תומר עם היה מכוניות ולא סוסים שצריך לטפל להאכיל לגדל
והמכונית תפתור הכול אזי יורד פה שוק עבודה- יש לך היום תעשייה שלמה סביב זה.

Bugs Bunny

@NH.LOCAL כתב:

זה בדיוק אותו דבר לגבי AI. ברגע ש-AI יוכל להיות אוטונומי לחלוטין, ולשם זה הולך, איזה סיבה טובה תהיה לחברה להעסיק עובד אנושי שעושה עבודה פחות טובה במחיר עלות פי 1000?

אוקי, אמרתי את זה נראה לי אבל הAI פועל לפי דפוסים בבסיס.
הפתרון של בעיית המילניום האחרונה לא היה מאינטואציה נדירה
כמו גרגורי פרלמן, חברת האם של GPT הפעילה עשרות סוכני במקביל AI שעבדו 88 שעות ברצף
כשהם מחליפים ביניהם 5 מליון הודעות בשרשרת וזה נבדק לפי קביעה ובדיקה.

אגב זה עדיין לא מאומת זה צריך להיבדק.

אז הAI מתקדמת בקצב אדיר בכל מה שעובד לפי כללים. תכנות למשל

ומה עם מה שלא? גם זה יכחד?

שלץ

> @Bugs-Bunny כתב:

חקר נוזקות, אני מתעסק מעט. זה תחום שהAI נופל בין הקרשים
כי זה מכונה מול יצירתיות של אדם

לא.
כי אסור לai להתעסק עם זה.
אם היו נותנים לו היה פה סוף עידן

NH.LOCAL

@Bugs-Bunny כתב:

וגם היום יש, כן , פחות אבל יש.

אגב שמא תומר עם היה מכוניות ולא סוסים שצריך לטפל להאכיל לגדל
והמכונית תפתור הכול אזי יורד פה שוק עבודה- יש לך היום תעשייה שלמה סביב זה.

כל טיעון שלך כבר נידון ונטחן מזמן, פשוט לטחון מים...

ההבדל בין AI לבין כל שינוי או מהפכה אחרת הוא מהותי, כי AI לא מחליף עבודה מסויימת, הוא מחליף כל עבודה קוגנטיבית אפשרית, ובעתיד הנראה לעין הוא כנראה יוכל להחליף גם כל עבודה פיזית אפשרית.

אז יתכן שיווצרו עבודות חדשות כמו מפקחי AI, מנהלי עבודה, או מנכ"לי חברות וייבקוד, אבל איך בדיוק זה יכסה את הפער העצום של העבודות שייותרו?

@Bugs-Bunny כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

אוקי, אמרתי את זה נראה לי אבל הAI פועל לפי דפוסים בבסיס.
הפתרון של בעיית המילניום האחרונה לא היה מאינטואציה נדירה
כמו גרגורי פרלמן, חברת האם של GPT הפעילה עשרות סוכני במקביל AI שעבדו 88 שעות ברצף
כשהם מחליפים ביניהם 5 מליון הודעות בשרשרת וזה נבדק לפי קביעה ובדיקה.

פשוט טיעונים אוויליים ומגוחכים.

תסתכל אחורה לשנתיים האחרונות, בכל פעם ש-AI משיג הישג חדש בתחום מסבירים למה הפעם זה לא רציני.

חישובים פשוטים? בסדר, מחשבון כבר עושה את זה.

מדליית זהב ב-IMO? בסדר, זה רק תחרות לתיכון.

פתרון בעיות ארדוש? טוב, זה עדיין לא כזה מאתגר, נראה אותו מול בעיות מילניום

פתרון בעיית מילניום?

משהו אחד ברור - גם אם AI היה מגלה את תורת היחסות, את התרופה לסרטן או את התאוריה של הכל, היו מסבירים שזה רק מערכת כללים ולא אינטואיציה.

לגמד הישגים זה אחד הדברים הכי קלים לבני אנוש.

Bugs Bunny

@שלץ כתב:

לא.
כי אסור לai להתעסק עם זה.
אם היו נותנים לו היה פה סוף עידן

התכוונתי תן למכונה נוזקה שאדם יצר ועירבל הוא מאוד יתקשה גם מודלים גדולים כמו קלוד
אם התכוונת ללכתוב נוזקות אז כן יש להם מומחיות אדירה כי הם אומנו על מאות מליוני שורות קוד
יודעים איך בפועל נכתבו כל הנוזקות שבעולם ומוצאים גרסאות משופרות לזה

אגב בהקשר למה שהזכרתי מודל של חצי טרליון פרמטרים של GPT נכשל בזה.
עוד לא שם.

שלץ

> @NH.LOCAL כתב:

איך בדיוק זה יכסה את הפער העצום של העבודות שייותרו?

ישבו איש תחת גפנו ותאנתו ויתענגו על ה'

NH.LOCAL

@Bugs-Bunny כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

נניח, חקר נוזקות, אני מתעסק מעט. זה תחום שהAI נופל בין הקרשים
כי זה מכונה מול יצירתיות של אדם ולא עובד לפי כללים מוגדרים שזה קוד תכל'ס

@Bugs-Bunny כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

התכוונתי תן למכונה נוזקה שאדם יצר ועירבל הוא מאוד יתקשה גם מודלים גדולים כמו קלוד
אם התכוונת ללכתוב נוזקות אז כן יש להם מומחיות אדירה כי הם אומנו על מאות מליוני שורות קוד
יודעים איך בפועל נכתבו כל הנוזקות שבעולם ומוצאים גרסאות משופרות לזה

הנתונים הללו רחוקים מלהיות מדוייקים, זה נכון באופן מאוד מאוד חלקי.

@Bugs-Bunny כתב:

אגב בהקשר למה שהזכרתי מודל של חצי טרליון פרמטרים של GPT נכשל בזה.

מודל חצי טריליון פרמטרים? זה די קטן לדגמים מודרניים.

GPT 4 כבר היה 1.2 טריליון פרמטרים. GPT 6 לפי ההשערות הוא כ-10 טריליון פרמטרים

Bugs Bunny

@NH.LOCAL כתב:

מודל חצי טריליון פרמטרים? זה די קטן לדגמים מודרניים.

כן, אני אומר רק ברמת העיקרון מודל גדול מאוד עדיין עמד על אחוזים די נמוכים
כבר אבדוק בדיוק, לא נכנס לפרטים הרעיון.

אגב, צדקתי לגמרי ויש לזה גם שם, אבל, אני לא אוהב שאנשים קובעים סתם דברים
בהסתמך על השערות דומות או קצב גדילה נכון, הAI עולה על כל תחום ברמה מאוד גבוהה
אבל לא כל הבחנה שנשמעת דומה היא אותו דבר. תחרות עם שיטת פתרון ידועה וגבול זמן היא שונה מבעיית מחקר כמו מה שנפתר לאחרונה שאיש לא ידע אם יש לה פתרון בכלל -זו לא "גימוד", זו הבחנה אמיתית, עד שגם היא נופלת אתה לא באמת יודע מה יחזיק ומה לא.

בקיצור. אין לדעת בדיוק נראה לאן דברים יתפתחו

ממש כיף לנהל איתך דיון

NH.LOCAL

@Bugs-Bunny כתב:

אגב, צדקתי לגמרי ויש לזה גם שם, אבל, אני לא אוהב שאנשים קובעים סתם דברים
בהסתמך על השערות דומות או קצב גדילה נכון, הAI עולה על כל תחום ברמה מאוד גבוהה
אבל שוב,
אבל לא כל הבחנה שנשמעת דומה היא אותו דבר. תחרות עם שיטת פתרון ידועה וגבול זמן היא שונה מבעיית מחקר פתוחה שאיש לא ידע אם יש לה פתרון בכלל -זו לא "גימוד", זו הבחנה אמיתית, עד שגם היא נופלת בתורה.

זה בהחלט גימוד, כי העובדה היא שגם על פתרון בעיות מילניום או בעיות ארדוש שלא נמצא להם שום פתרון, יש כאלו שמגמדים את ההישג, ומוכיח סופו על תחילתו.

ועוד נקודה: כל תחום קוגנטיבי שעדיין יש בני אנוש שמתעלים בו על ה-AI היום, ה-AI ישתווה ליכולות שלהם מחר, ויעבור אותם בפער מחרתיים. כך שלמעשה זה רק עניין של זמן עד שההמבצר האחרון יפול, יהיה מה שיהיה.

למעשה במתמטיקה המבצר האחרון אכן נפל, עכשיו רק נשאר לראות שזה יקרה בתחומים אחרים, כמו רפואה, מדע, פיזיקה, כלכלה, תכנות וכן הלאה.

מה זה משנה אה

@NH.LOCAL כתב:

תכנות

אתה לא חושב שבתכנות הAI עוקף כבר עכשיו בהרבה?

Bugs Bunny

@NH.LOCAL כתב:

הנתונים הללו רחוקים מלהיות מדוייקים, זה נכון באופן מאוד מאוד חלקי.

אני מרגיש זלזול באינטלגניציה שלי?

בדקת ואימתת את זה או שאתה סתם זורק?

Bugs Bunny

@NH.LOCAL כתב:

למעשה במתמטיקה המבצר האחרון אכן נפל, עכשיו רק נשאר לראות שזה יקרה בתחומים אחרים, כמו רפואה, מדע, פיזיקה, כלכלה, תכנות וכן הלאה.

אני מרגיש זלזול אמיתי בטענות שלי.

מתמטיקה זה הרבה יותר מ"פתרון בעיות שכבר הוצגו". זה כולל ניסוח שאלות חדשות, קביעת מה בכלל מעניין לחקור, בניית הבנה תיאורטית, הוראה. אף אחד מהדברים האלה לא "נכבש"
לפחות לא לעת אתה. וכל אחד מתחומי שהזכרת שונה מהשני.

לא ברור מאיפה אתה קובע שטויות שכאלה ללא בסיס או הוכחות כלשהם.

פרדוקס מורבץ'
זה קצת חומר למחשבה

NH.LOCAL

@Bugs-Bunny כתב:

אני מרגיש זלזול באינטלגניציה שלי?

בדקת ואימתת את זה או שאתה סתם זורק?

בדקתי ואימתתי כמובן, אני לא זורק דברים סתם. כשאני רק משער השערה אני אומר זאת בבירור, כשאני מציב עובדה אני משתדל לבדוק אותה

למעשה, אחרי בדיקה נוספת נראה שלא רק ש-AI גרוע בחלק מהמשימות זיהוי נוזקות וטוב באחרים, למעשה הוא ממש מצוין בתחום. אמנם עד ממש לאחרונה מודלי AI התקשו בחלק מהמשימות הללו עם קבצים בינאריים, כמו שאכן ציינת, אבל GPT 6 פשוט פותר את זה כמעט לחלוטין.

במבחן SRE-Bench - מבחן מורכב במיוחד לתחום הזה, GPT 6 קיבל 88% בניסיון יחיד ו-99% בארבעה נסיונות.

או במילים אחרות: העתיד הוא ההווה החדש.

@Bugs-Bunny כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

מתמטיקה זה הרבה יותר מ"פתרון בעיות שכבר הוצגו". זה כולל ניסוח שאלות חדשות, קביעת מה בכלל מעניין לחקור, בניית הבנה תיאורטית, הוראה. אף אחד מהדברים האלה לא "נכבש"
לפחות לא לעת אתה. וכל אחד מתחומי שהזכרת שונה מהשני.

אתה צודק. אך לא כתבתי שמתמטיקה "נפתרה", או שלא צריך מתמטיקאים. הנקודה היא ש-AI הצליח להגיע עד המשימה הקשה ביותר בתחום, זה בהחלט מבצר שנכבש.

אגב, כנראה ש-AI ייתר חלק עצום מענף המתמטיקה, כולל חלק המחקר, התיאורייה, ניסוח שאלות חדשות וכל השאר. זה עוד לא שם, אבל זה בהחלט עניין של זמן כאמור.

@מה-זה-משנה-אה כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

אתה לא חושב שבתכנות הAI עוקף כבר עכשיו בהרבה?

הכוונה שבאתגרי על מסויימים יתכן שיש עדיין מתכנתים אנושיים יחידים שעדיין טובים ממנו, או אתגרים מסויימים ש-AI עדיין לא מסוגל לפתור. לא מדובר באדם הממוצע

@bugs-bunny כדאי לשלב כמה תשובות בתגובה אחת במקום לחלק למלא תגובות נפרדות...

Bugs Bunny

@NH.LOCAL
א. מדויק , כיף לקרוא וזה אכן מאומת זכור לי משהו
ב.הבנצ'מרק בודק בינארי סטטי עם משימות מוגדרות מראש בזמן ותקציב קבועים
תראה את זה https://arxiv.org/html/2605.30677)
זה בדיוק ההפך ממה שהמחקר שהבאת מציג
שיטה להטעות AI כשהוא מנתח קוד וזה מתפתח כל הזמן בדארק נט.
ג. הפרדוקס שהבאתי יכול ועשוי לעניין אותך תקרא למרות שזה ישן.
ד. זה סוג של מרוץ חימוש חדש.. בקיצור עוד חזון למועד.