בירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?

[המלאך]

@תותחוביץ זה הבנה פשוטה.
ההבנה המעמיקה גורסת שההבדל בין בנ"א למודל מכונה היא בהבנה אמיתית.
לא רציתי להיכנס לזה, אבל הכרחת אותי.
מודלי מכונה ההבנה שלהם מסתמכת על זה שמלך ומחכה דומים ואש וחום דומים.
אצל בנ"א זה הרבה יותר מזה,
המח טוב יותר מהבינה בשני דברים עיקריים:
1 - בהבנה מעמיקה, למודל אין 5 חושים,
וגם אם היה לו הוא לא היה יכול להבין מתוכם מה זה באמת, לבנ"א [זה חוש שנתן לו הבורא] כן יש יכולת כזו.
2 - לבנ"א יש למידה דינמית, המודל לא יכול להוסיף על מה שהוא התאמן עליו הדאטה שלו, הוא יכול אמנם בצורה של שוטר ושופט, אבל זה לא קרוב לאיך שמח של בנ"א עובד.
שוב אני לא רוצה להיגרר לזה, כי זה עלול להביא לכפירה.
המח שלנו הוא לא משהו שאפשר להבין, זה יצירה אלוקית.
ובזה אין מדען שלא מודה.

[aiib]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

@י.-פל. לא נראה לי הבנת איך עובדים מודלי ai.
זה יותר מבוסס על חיזוי מתמטי מאשר חשיבה אמיתית.
אני אסביר, חשיבה אמיתי זה אומר שאם תיהיה [לדוגמא] בעיה לוגית חדשה בקוד, בני האדם יחשבו וימצאו פיתרון.
הבינה לעולם לא תוכל למצוא לזה פיתרון.
ולו בגלל שזה לא דומה לשום דבר שהיא אומנה עליו.
כי אם אני טועה, אשמח שתסביר לי איך כן עובדת בינה מלאכותית...

לא באמת יודעים איך החשיבה האנושית עובדת ולא בדיוק יודעים איך עובד הAI כן, גם המפתחים יודעים לחזות מה יהיה כשיעשו שינוי כזה ואחר אבל חיזוי מתמטי לא יכול להסביר את התוצאות שהAI מגיע אליהם.
וכן, הAI יכול לפתור בעיות לוגיות חדשות בקוד כמו שבנאדם יכול לפתור. לא יודע באותה רמה, פחות או יותר אבל יכול. זה כבר קורה ועובד. (אגב, 2 מפתחים גדולים של AI קיבלו פרס נובל לפיזיקה כי מודל שלהם הגיע להישג חדש ולא קיים)

ואדרבה, אם יש לך הסבר להסביר לנו פשוטי העם איך בינה מלאכותית עובדת חוץ מלומר חיזוי מתמטי נשמח לשמוע...

[aiib]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

2 - לבנ"א יש למידה דינמית, המודל לא יכול להוסיף על מה שהוא התאמן עליו הדאטה שלו, הוא יכול אמנם בצורה של שוטר ושופט, אבל זה לא קרוב לאיך שמח של בנ"א עובד.

לא יודע מה אתה מתכוון לשוטר ושופט אבל זה שהמודל לא יכול ללמד את עצמו אחרי אימון זה עניין טכני. החברות רוצות לשלוט באימון. יש חברה שבאמת מפתחת מודל שממשיך להתפתח גם אחרי האימון.

[cfopuser]

@המלאך זה אכן אחד המדדים החשובים בai,
unseen question כמה טוב הai מצליח בשאלות שהוא מעולם לא נתקל בהם,
וההצלחה של המודלים השונים היא די מרשימה.

כול החשיבה, זה שאלה פילוסופית שלא כול כך מעניינת אם הוא עושה את העבודה בכמעט כול דבר שמתכנת עושה כיום כן גם בדברים שהוא לא אומן עליהם, אז למי אכפת אם הוא "חושב" או לא כול עוד הוא עושה תעבודה.

[תותחוביץ']

@י.-פל.

Spoiler

הייתי אומר ביקשתי תמונה של ר חיים קנייבסקי אבל בכל מקרה הוא יגיד אופסס נטפרי וכו....
סתםם אתה צודק בעיקרון אבל הייתי צריך דוגמא פשוטה

@המלאך

1. אתה צודק שלבינה יש הבנה רק איך דברים מוגדרים ולא איך דברים מרגישים ולכן היא שונה מהותית מבן אדם
   אבל כשאתה מבקש קוד זה לא משנה לך כי היכולת שלך לכתוב קוד היא נובעת רק מהבנה של הגדרת הדברים ולא הרגשת הדברים ולכן היכולות שלה שלה בזה היא לגמרי כמו בן אדם
2. זה לא שאתה יכול ללמוד יותר ממנה אלא שלך לא חסמו את ה"דאטה" ואתה מקבל תוספת הבנה ולמידה מכל מה שקורה איתך ול-AI רק מה שמכניסים לו
   אבל ברמה התיאורטית יכלו לאפשר לו לקחת את כל האינטרקציות שלו כחומר לדאטה

[המלאך]

@aiib אם אתה ממש רוצה.

המודל מקבל קלט.
הופך אותו לטוקנים.
מעביר ליצוגיים מספריים [ווקטורים].
הייצוג הוקטורי מקבל אינפורמציה נוספת על ההקשר שלו לדברים אחרים.
מתחיל תהליך שנקרא טרנספורמר, שבו המודל כל טוקן חוזה את הטוקן הבא.
[דרך אגב עיקר החידוש בשנה האחרונה היה שהמודלים יכולים להשתמש בטכנולוגיה שנקראת attention mechanism, שמאפשרת למודל לא לבצע טרנספורמר רגיל אלא חיזוי על סמך הבנה של כלל המשפט].
יצירת פלט.
אני די בטוח שמי שלא מונח ממש בתחום לא יבין חצי ממה שאמרתי.
אבל בגלל שביקשת.
ובכל מקרה לגופו של עניין.
אנחנו לא יודעים איך שניהם עובדים.
אבל אנחנו יודעים בוודאות שלמח יש איזשהו הבנה עליונה.
[לא רוצה להיכנס לתחום בגלל הסיבות שלעיל אבל זה מחלוקת ראשונים גדולה, האם זה הנשמה או שזה עוד חלק במח].

ובשבילכם -
@תותחוביץ ו @cfopuser זה כן משנה.
כי א' מחסור בהבנה גורם שהם מסתמכים נטו על דאטה שהונח עליהם.
וככל שהעולם מתקדם עם הבינה הדרישות גדלות יותר.
לדוגמא, אם נניח פעם היו מבקשים מערכת קבלת נתונים פשוטה, כיום יבקשו הרבה יותר מורכבת כי את הפשוטה הבינה יוצרת בקלות.
והבעיה היא שמורכבת הבינה לא יכולה לעשות.
כי אין לי דאטה של מורכבות כזו.
ודבר אחרון - @י.-פל. שופט ושוטר זה הליך אימון שבו על תשובה נכונה מתגמלים ועל לא נכונה מענישים [כביכול] וזה כמעט הדרך היחידה לאמן מודל אחרי גמר האימון המקורי.

[cfopuser]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

שופט ושוטר זה הליך אימון שבו על תשובה נכונה מתגמלים ועל לא נכונה מענישים [כביכול] וזה כמעט הדרך היחידה לאמן מודל אחרי גמר האימון המקורי.

זה נקרא llm as a judge וזה ממש לאו דווקא דרך לאימון אלא דרך לזהות ה אם התוצאות של הllm הינם מדויקות ועומדות בקריטריונים שהצבנו.
זה משמש בלא מעט אם לא כול פיתוחים מבוססי ai כדי למנוע שגיאות כולשהן.

אני בכול אופן קלטתי שאיש פה לא בא עם צד לשנות את דעתו,
אלא לשנות את דעת הצד השני ככה שכול הויכוח לא כזה משנה כבר.

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

sli זה מונח תאורטי כמו שאמרתי לעיל אז להגיד שנחכה שזה יקרה זה לא תשובה.

אמרתי שנחכה לasi במה שאנחנו בני האדם קוראים לו ציניות

[המלאך]

@cfopuser רק להבאיר את המציאות.
הבינה לא תחליף בני אנוש נקודה.
ואני משתמש בבינה כמו כולכם.
רק להבאיר מציאות.

Spoiler

sli זה מונח תאורטי כמו שאמרתי לעיל אז להגיד שנחכה שזה יקרה זה לא תשובה.
כי זה לא יקרה.

Spoiler

אה סליחה.. אם כי ציניות זה דבר שקיים גם היום. עיין ערך CynicBot [gpt]

[aiib]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

המודל מקבל קלט.
הופך אותו לטוקנים.
מעביר ליצוגיים מספריים [ווקטורים].
הייצוג הוקטורי מקבל אינפורמציה נוספת על ההקשר שלו לדברים אחרים.
מתחיל תהליך שנקרא טרנספורמר, שבו המודל כל טוקן חוזה את הטוקן הבא.
[דרך אגב עיקר החידוש בשנה האחרונה היה שהמודלים יכולים להשתמש בטכנולוגיה שנקראת attention mechanism, שמאפשרת למודל לא לבצע טרנספורמר רגיל אלא חיזוי על סמך הבנה של כלל המשפט].
יצירת פלט.
אני די בטוח שמי שלא מונח ממש בתחום לא יבין חצי ממה שאמרתי.
אבל בגלל שביקשת.
ובכל מקרה לגופו של עניין.
אנחנו לא יודעים איך שניהם עובדים.
אבל אנחנו יודעים בוודאות שלמח יש איזשהו הבנה עליונה.
[לא רוצה להיכנס לתחום בגלל הסיבות שלעיל אבל זה מחלוקת ראשונים גדולה, האם זה הנשמה או שזה עוד חלק במח].

אתה מתאר תהליך, שאת רובו גם אתה לא מבין גם אם אתה יודע לצטט את המושגים. וכמו שכתבת בעצמך 'אנחנו לא יודעים איך שניהם עובדים' התחלת בלומר שזה חיזוי מתמטי ואז עכשיו הוספת מושגים כמו הבנה והקשר וכו'...
ברור שלמח ישנה הבנה עליונה, השאלות הן- כמה ולמה בדיוק הפער משמעותי, האם תוספת כח העיבוד והידע שקיים בAI לא מפצה אותו במקומות אחרים.
אתה להבנתי באת ואמרת שבגלל שלמח יש הבנה מסויימת שלAI אין אז זה אומר פחות או יותר שהעתיד של הAI נורא מוגבל ותמיד יצטרכו בני אדם, אני הקטן ורבים וטובים ממני אומרים ששתי הנקודות שטענתי יחד עם פיתוח עתידי ייגברו על ההבנה העמוקה של המוח האנושי לכל הפחות לשימושים הנצרכים. (אין צורך שהAI יהיה אנושי, הוא פשוט צריך לעשות את העבודה...)

[החכם התם]

@המלאך
תשובה של גימיני פרו:
אם היו לך 3 תפוחים ואכלת אחד מהם, נותרו לך 2 תפוחים.
(אך אם התכוונת שיש לך כרגע 3 תפוחים ביד, אז יש לך 3 תפוחים).

[אחרית לעמך]

Spoiler

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

להבאיר

*להבהיר

[שמואל5]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

השאלה ששאלתי הייתה:יש לי 3 תפוחים, אם אכלתי תפוח אחד אתמול כמה תפוחים נותרו לי?
התשובה של ג'י פי טי הייתה: שנותרו לי שני פתוחים.
זה לא נכון כי כתבתי מפורש שנותרו לי שלוש תפוחים, ואתמול אכלתי שנים, החידוש בזה הוא שהבינה לא מסוגלת לחשוב, היא רק משתמשת בתבניות של אלה שאימנו אותה.

אני די בטוח שגם רוב האנשים היו מתבלבלים...

[י. פל.]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

הבינה לא תחליף בני אנוש נקודה.

[המלאך]

התייאשתי.
אין תשובות פה לאף אחד.
@aiib נכון שכל אחד יכול לכתוב בלי להבין.
אבל לא את מה שאני כתבתי.
וכבר כתבתי שהשאלה הזו התבסס על מחקר שנערך לפני חצי שנה.
זה שהיא לא אקטואלית כיום לא אומר כלום.
ככל שהמודלים מתקדמים גם הרצונות של בנ"א מתקדמים,
והבינה בשלב מסויים [שיקרא מהר מהצפוי] לא תוכל לספק את החומר.
תזכרו שאמרתי.

[איש אמת]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

והבינה בשלב מסויים [שיקרא מהר מהצפוי] לא תוכל לספק את החומר.
תזכרו שאמרת

שמעתי על זה גם מאיזה שהוא נחשב בתחומו.
אבל די תפסיק להתנהג כמו איכר או פשוט עם מ 1760.
דוגמה לא הכי נכונה אבל לפני 30 שנה חשבתי שהנה אפל הוציאה מחשב, וככה זה הולך להראות. האם דמיינתי שבעוד 30 שנה ה mac סטודיו שלהם יהיה עם טרה זכרון ram?!, לא ממש לא כי פעם אחר פעם אנשים טועים בזה וחושבים שהגענו לתקרת הזכוכית ומציגים טענות, אי אפשר להקטין יותר תשבבים אין עוד אפשרות לחישובים מתמטים ובלבלה טענות שאולי נכונות בעצם אבל לא מתחשבות בזה שכמו שעברנו מ x86 ל x64 ככה נעבור להמצאה שהשכל הקטן שלי לא מסוגל להכיל עדיין, לא יודע אולי מעבדים נוירומורפיים. מקווה שהבנת את הרעיון - מה שאתה לא מסוגל להבין היום אל תצעק את זה כי זה יעשה לך פאדיחות מחר...

[המלאך]

@איש-אמת כנ"ל הפוך.
במהפכה התעשייתית אמרו שלא יצטרכו איכרים יותר.
בסוף ניהיו צריכים אותם עוד יותר מלפני.
כמות החקלאות גדלה בהרבה.

[יוסף3]

@המלאך כתב בבירור | מה דעתכם - איזה בינה הכי מועילה כיום לקוד?:

במהפכה התעשייתית אמרו שלא יצטרכו איכרים יותר.
בסוף ניהיו צריכים אותם עוד יותר מלפני.
כמות החקלאות גדלה בהרבה.

לפני המהפכה התעשייתית למעלה מ50 אחוז מכוח העבודה עבד בחקלאות, היום זה פחות מ 10 אחוז ברוב עולם

[המלאך]

@יוסף3 כן אבל באופן יחסי זה גדל.
החקלאות גדלה.
וגם כח האדם יכל לגדול אילולא רובם חיפשו אפיקים חדשים שמרוויחים יותר.

[יוסף3]

@המלאך
התכוונת באופן לא יחסי זה גדל, כי באופן יחסי זה צנח.
ולעומת כמות העובדים שכאמור צנחה באופן יחסי, התוצר החקלאי עצמו זינק, מה שדרש עבודה של 200 אנשים לפני 300 שנה היום קיבוצניק אחד עם טרקטור וזרעים מהונדסים עושה.

זה בדיוק התהליך שעובר כיום ההייטק, תוכנה שלפני 5 שנים דרשה 15 מתכנתים שיעבדו עליה במשך שנה, היום מפותחת על ידי 2 מתכנתים תוך חודשיים.

[המלאך]

@יוסף3 וזה מה שהסברתי.
שכיוון שגם הדרישות גדלות - תמיד יצטרכו עוד דברים שאותם הבינה לא תוכל לבצע.
לדוגמא.
פעם ביקשו יצירת דף נחיתה.
היום מבקשים אתר שלם.
ןמחר יבקשו מערכת נודיביבי...
שזה הבינה לא תוכל לעשות.