הסבר | מדריכי AI מאלף עד תיו | תגובות

[המלאך]

@אברהם-גלסר אני מוסיף לך.
תודה רבה!!

[hartkhartk]

@המלאך יפה מאוד!
תודה רבה
מחכה להמשך

[NH.LOCAL]

@המלאך כתב:

open ai כרגיל לקחה את הבכורה והשיקה מודל חדש בשם o1 , הפואנטה הייתה פשוטה - תנו להם טיפה לחשוב.
המודל מקדיש יותר משאבי חישוב פנימיים לפני שהוא מחזיר תשובה, מה שמאפשר לו להתמודד טוב יותר עם בעיות מורכבות הדורשות מספר שלבי הסקה.

לא מדויק. הנקודה המרכזית היא שילוב מנגנון RL, כמו המנגנון שאפשר את אלפא גו, כלומר למידת חיזוק מתמשכת, מעבר ל-RLHF (למידת חיזוק ממשוב אנושי). הדרך לבצע את זה הייתה באמצעות שיפור רקורסיבי של אסימוני חשיבה ייעודיים

(זה גם כמובן לא הכי מדויק, הנתונים די מפושטים ובסיסיים)

[המלאך]

@NH.LOCAL אבל עיקר המושג הוכר לפני.
רק שלא נעשה בו שימוש מספק.

הדבר שהתחדש מבחינה מדעית היה מנגנון השרשרת הסקה..

כמובן כל הנתונים מופשטים כמה שיותר..

[NH.LOCAL]

@המלאך לגבי זה באמת אין לי מושג רב, רק חידדתי קצת

[אברהם גלסר]

@המלאך בוצע.

[יוסף מאיר וייס]

@המלאך כל הכבוד

Spoiler

אגב זה ברור שהכל כתבת בעזרת הבינה , אחרת למה עצרת ב2024 ולא ביולי 2026?.... . בהומור כמובן

[המלאך]

@יוסף-מאיר-וייס
אבל הסיבה הפשוטה יותר היא שאני נגעתי בנקודות פורצות דרך.
לא בכל הנקודות.
אחרת אם הייתי צריך לגעת בהכל יגמר המקום בפורום..

[hartkhartk]

@המלאך אני אשמח שתתיחס לשאלות כאן
https://mitmachim.top/topic/99316/בקשת-מידע-בקשת-סדר-בכל-תחום-הפיתוח-ai

ציטוט בספוילר

Spoiler

אני מתכנת פייתון פולסטאק שכמו כולם נטרף מקצועו בגלל ה-ai
ולכן חשבתי להכנס לתחום הפיתוח ai
אבל כשהתחלתי לחקור גיליתי ים של שמות מקצועות
LM, LLM, AI Engineer, Deep Learning, AI Research Scientist, Fine-tuning ועוד ועוד ועוד...
חשבתי אם מישהו יוכל לעשות לי כאן סדר מה הם המקצועות הקיימים ומה תפקיד כל מקצוע איך אני נכנס לתחום ומה הידע הקודם הדרוש (מתמטיקה ועוד) ובאיזה רמה צריך לדעת את הידע הקודם הזה

ומעל הכל האם תחום זה גם נטרף\יטרף על ידי ה-ai?

וגם היכן אפשר ללמוד את זה? (כוונתי מקצועי ולא קורסי חינם חובבניים)

[י. פל.]

@המלאך
מדריך יפהפה!
המהפך שקרה, שבעקבותיו הוצג מודל זיהוי התמונה הראשון, היה מעבר מcpu אל gpu, לאחר שהמעבדים התקדמו דיים (וזו התועלת היחידה מקהילת הגיימינג...)
הdeep learning היה סה״כ ״שינוי השם״ (שעזר...), מכיון שהמקצוע היה די ״מוקצה מחמת מיאוס״....

[המלאך]

@י.-פל.
כן,
העניין הוא שהGPU לכשלעצמו היה כלי עזר לדיפ לרנינג ולא להפך..
אחרי הכל אתה לא מהסוברים שהתוכנה היא כלי עזר לחומרה אלא להפך..
@hartkhartk אשתדל.

[פלמנמוני]

@המלאך

@המלאך כתב:

שימו לב!! המדריך לא נכתב בכלל על ידי בינה מלאכותית. אין צורך לשאול אותי על כך, (ולכן גם ייתכנו טעויות..)

לא לכן, אלא אף על פי כן.

[י. פל.]

@המלאך כתב:

העניין הוא שהGPU לכשלעצמו היה כלי עזר לדיפ לרנינג ולא להפך..

נכון, אבל בלעדיו לא היה מתחיל כלום.
כלומר, מודל התמונה לא חידש שום דבר מיוחד. הכל היה לפני.
מה שהוא חידש זה הגודל, וזה התאפשר רק בגלל הgpu. אגב, לא זוכר כרגע את שם המגלה - אבל כמדומני שהוא עבד אחר-כך במטא או בגוגל. כללית, כל מי שהתעסק בזה אז, היום הוא מהמובילים בתעשייה, ונחשב ל״נביא״

[המלאך]

@hartkhartk העלת שם הרבה מושגים, רובם לא קשורים ואת 90% מהם רוב מתכנתי הAI לא מכירים ולא צריכים להכיר, אם כוונתך לכך אז אתה לא אמור להכיר את המושגים, אלא רק את הבסיס של הדרך לשימוש בסוכני קוד,
אם רצונך להיות מדען נתונים או כל מיקצוע אחר דומה לכך, אז המדריכים להערכתי יקדמו אותך,

בעיקרון אני מתכנן במדריך הבא לגעת בנושא החשיבה של הAI וזה אמור לגעת בהמון מונחים..

[NH.LOCAL]

@hartkhartk כתב:

ומעל הכל האם תחום זה גם נטרף\יטרף על ידי ה-ai?

כן, בוודאי. הוא לא שונה מהותית משאר תחומי התכנות

[המלאך]

@י.-פל. בזה צודק.

אז אולי צריך לומר 'המציא ארכיטקטורה', כפשרה

דרך אגב, כל התקדמות הבינה משקפת יחד עם התקדמות המעבדים, כמו שאחרי הGPU ועונת משחקי המחשב הרשתות צצו, כך אחרי הTPU צצו מודלי ההסקה (טוב טכנית זה היה הפוך אבל הצד השווה שבהם שהם באו אחד אחרי השני..)

[NH.LOCAL]

@המלאך כתב:

@י.-פל.
כן,
העניין הוא שהGPU לכשלעצמו היה כלי עזר לדיפ לרנינג ולא להפך..
אחרי הכל אתה לא מהסוברים שהתוכנה היא כלי עזר לחומרה אלא להפך..

@י.-פל. כתב:

נכון, אבל בלעדיו לא היה מתחיל כלום.
כלומר, מודל התמונה לא חידש שום דבר מיוחד. הכל היה לפני.
מה שהוא חידש זה הגודל, וזה התאפשר רק בגלל הgpu.

בתחום הזה, במידה רבה מה שבאמת חשוב זה החומרה וגודל הנתונים. לכן, פריצות דרך בתחום החומרה תמיד יובילו לפריצות דרך של המודלים עצמם.

GPT 3 נוצר ישירות מיכולות ה-GPU החדשות שהחלו להתגלגל באותה תקופה סביב 2020.

למעשה מעבדי ה-T100 של NVIDIA הכשירו את הדרך לפריצה של התחום באופן ישיר

ע"ע הלקח המר, לפיו לטווח ארוך הגדלה של אימון וחישוב מודלי AI, תמיד יהיה יעיל יותר מכוונון ושיפור אנושי של המודלים

@י.-פל. כתב:

אגב, לא זוכר כרגע את שם המגלה - אבל כמדומני שהוא עבד אחר-כך במטא או בגוגל. כללית, כל מי שהתעסק בזה אז, היום הוא מהמובילים בתעשייה, ונחשב ל״נביא״

אאל"ט אתה מתכוון ליאן לקון

[י. פל.]

@NH.LOCAL כתב:

ליאן לקון

חושב כך, תודה.
אגב - מאז הוא הספיק להפוך לרואה השחורות של התעשיה...

[י. פל.]

@המלאך
בזכות הקישור של @nh.local נזכרתי בשאלה שניקרה לי כל הזמן: איך לא כתבת מילה על הפרספטרון???

[NH.LOCAL]

@י.-פל. כתב:

חושב כך, תודה.
אגב - מאז הוא הספיק להפוך לרואה השחורות של התעשיה...

או ללוזר של התעשייה אם תרצה.

הוא נכשל בגדול בדרך הרגילה, לא פלא שהוא מערער עליה