הסבר | בינה מלאכותית - תתפסו פרופורציה

[pcinfogmach]

@מישהו12
אהבתי את המשפט הבא בכתבה

למרבה ההפתעה (או לא) רבים המגיבים ברדיט דווקא האשימו אותו, מכיוון שנתן לכלי לרוץ במצב "טורבו", מה שאיפשר לסוכן של ה-IDE להריץ פקודות גם ללא קבלת אישור ישיר מהמשתמש. הוא עצמו לקח אחריות על כך ואמר שהמטרה שלו בפוסט לא הייתה "ליצור שערורייה או קונספירציה נגד גוגל". הוא ציין כי המטרה שלו בפוסט היא בסופו של דבר לייצר מודעות כי הכלים הללו נשמעים כמו רעיון טוב, אבל יכולים להפוך בקלות לבעיה רצינית.

אני גם מתחבר להנ"ל אין במטרתי בפוסט לייצר תנועה נגד הבינה סה"כ להדגיש את העובדה שתמיד כדאי לבדוק פרופורציה. צר לי שכל משתמשי הבינה רואים את זה במתקפה אישית נגדם - אולי זה משהו בניסוח....

[pcinfogmach]

@י.-פל. כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

כי יש הבדל באיכות.

וג'וניור שמספק תוכנה ללקוח?

גם הוא צריך לעבוד בשקיפות מול הלקוח. שהלקוח יבין מה הוא יכול לספק ומה לא. גם הוא צריך להיזהר לא להיכנס מעל הראש שלו.

[EBA]

@מישהו12 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

https://www.geektime.co.il/google-vs-code-fork-deletes-users-entire-drive

זה מזכיר לי את הסערה שפרצה כאשר רכב אוטונמי עשה תאונה והרג אדם, וכולם אמרו הנה, זה לא בטיחותי ואי אפשר להשתמש בזה, ושכחו את העובדה הפעוטה שבאחוזים בני אדם שנוהגים ודאי שהורגים הרבה הרבה יותר מהאוטונומיים...
בקיצור, תקלה כזו יכולה לקרות וקורית גם למתכנת אנושי.

[pcinfogmach]

@EBA
דברים נכוחים בהחלט.
רק חשוב לזכור: אם משתמשים בטענה הזו כדי להצדיק מקרה שבו רכב אוטונומי פגע באדם — במקום לשפר את המערכות כדי למנוע הישנות — זו טעות חמורה. אותו דבר נכון כלפי אם משתמשים בטענה זו כדי להצדיק את המקרה בו הבינה מחקה דרייב שלם.
זה כל מה שבאתי לומר: צריך פרופורציה. ואם מישהו הבין מדברי שאני מזלזל ביכולת הטכנולוגיה, או שאני מתנגד לשימוש בה — זו לא הייתה כוונתי כלל.

[מישהו12]

@EBA כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

@מישהו12 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

https://www.geektime.co.il/google-vs-code-fork-deletes-users-entire-drive

זה מזכיר לי את הסערה שפרצה כאשר רכב אוטונמי עשה תאונה והרג אדם, וכולם אמרו הנה, זה לא בטיחותי ואי אפשר להשתמש בזה, ושכחו את העובדה הפעוטה שבאחוזים בני אדם שנוהגים ודאי שהורגים הרבה הרבה יותר מהאוטונומיים...
בקיצור, תקלה כזו יכולה לקרות וקורית גם למתכנת אנושי.

אבל זה מה שאומר לך @pcinfogmach . להפסיק להסתכל על AI כעל מושלם ויודע כל שיחליף את כולנו.

הוא יהיה כלי עזר רב עוצמה (שבאופן טבעי, חלק גדול מאיתנו יוחלף על ידו - בדיוק כמו שמכונות הטוויה החליפו הרבה עובדים במפעלי הבד והפכו לכלי עזר למפסר מצוצמם יותר של עובדים), אבל טעויות קרו ויקרו ולהגיד שיהיה אפשר לתת לו autopilot? זה לא יקרה.
הוא יעשה טעויות, בדיוק כמו שאנחנו עושים.

הוא הדין ברכב אוטונומי - בדיוק מה שאתה אומר; אם אתה מצפה שהוא יהיה מושלם, וזה הגישה של רבים ברשת כלפי AI בין במוצהר בין לא במוצהר - זה לא יקרה, והכתבה הזו היא הוכחה נהדרת.

אם אתה מבין שזה עוד כלי עזר, חזק ככל שיהיה, זה בדיוק מה @pcinfogmach אומר,
להבנתי.

[דאנציג]

לדעתי הAI לעולם לא יחליף מפתחים ובני אנוש, אלא יעזור וישפר את היכולת.
מתכנת מוצלח שישאר תמיד, זה מי שיודע להשתמש בAI בצורה נכונה, באותה מידה שהטרקטור החליף את השור לחרישה, אך נשארו חקלאים.
אז נכון שישנם עבודות שנמחקו מהעולם, אך במקומן צמחו עבודות שונות שלא היו אפילו לפני עשרים שנה.
האדם תמיד ירצה להתקדם, והתחרות גורמת לכך שהאדם לא ישב בטל, ואם יש לצידו כלי AI שדרכו יוכל להשיג פריצת דרך על מתחריו, הוא ינצל אותה עד תום.
אז נכון שיהיו כאלו שלא ירצו להשתמש בAI, אך לבסוף הם יפלו, כי הם לא יכולים להתחרות איתה. אך גם אלו שנשענים על AI בלבד יפלו, מכיון שאין תחליף לבינה אנושית.

[efishesh]

@EBA כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

@מישהו12 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

https://www.geektime.co.il/google-vs-code-fork-deletes-users-entire-drive

זה מזכיר לי את הסערה שפרצה כאשר רכב אוטונמי עשה תאונה והרג אדם, וכולם אמרו הנה, זה לא בטיחותי ואי אפשר להשתמש בזה, ושכחו את העובדה הפעוטה שבאחוזים בני אדם שנוהגים ודאי שהורגים הרבה הרבה יותר מהאוטונומיים...
בקיצור, תקלה כזו יכולה לקרות וקורית גם למתכנת אנושי.

קצת באיחור (לא יכלתי להגיב פה - מחוסר הרשאות)
הטענה שלך נשמעת נכונה
רק יש הבדל גדול ומהותי בין אדם למכונה
האדם עושה כל יום תאונות בכביש, למה? שלל סיבות שכולם יודעים, פלאפון, מהירות ועוד ועוד
כשמכונה מפעילה רכב היא אמורה לזהות את כל זה
אם האוטונומי נסע על הכביש והתנגש באדם שעבר במעבר חצייה זה כ-ש-ל
היום זה כשל קטן שלא זיהה את האדם ומחר הוא יחליט להכנס ב30 איש במהירות של 200 קמ"ש
כשיש כשל במכשיר אתה אף לא יודע איפה הגבולה שלו הכשלים שלו
הוא פשוט לא אמור להכנס בהולך רגל על מהירות של 40 קמ"ש זה גם לא קורה לשום בן אדם שהוא עוצר ופתאום מגביר מהירות ונכנס בהולך רגל
זה כשלים וכשלים תמיד יותר מפחידים כי אתה לא יכול לדעת איפה הגבול

וזה מבלי לגעת בעובדה שאין כמעט אוטונומי בשביל לדעת את אחוזי התאונות שלהם
לא סתם תחום האטונומי ממש תקוע ביחס למה שהבטיחו

[חיים יענקל 0]

@pcinfogmach
ברור חד משמעית שהבינה היא תחליף למפתחים בהרבה מקרים.
אני בעסק קטן ופעם הייתי משתמש עם מפתחים בשביל להקים כל מיני מערכות קטנות לעסק,
היום אני יכול להרים עסק מאפס מבחינת מערכות הרבה מעבר למה שהמפתחים עשו לי כששילמתי להם כסף.

בלי ללמוד מילה אחת תכנות
יש לי שיטס עם סקריפט של 1000 שורות עם 10 פונקציות שונות ומשונות שהיום המפתחים הדגולים עושים ב-MAKE וכדו'.

ההבדל היחיד שאתה צריך להביא את הרעיונות בעצמך, (וגם זה לא תמיד).

ובכן התשובה לשאלתך:
"כן בעוד זמן לא רב הבינה תחליף את מרבית המפתחים ולא יהיה בהם עוד צורך" (חוץ מהמפתחים של הבינה בעצמם שכנראה תחום זה יגדל משמעותית)

[efishesh]

@pcinfogmach האמת אני די מסכים איתך אני מפתח מלא עם AI מכיר את כל הכלים
ההתקדמות היא מטורפת אבל זה עדיין לא שם
לא הרבה יודעים אבל המצב של הAI הולך לכיון מסוכן מאוד
כל מודל שיוצא לחברה מסויימת גורם לשאר החברות להכנס למלחמה ולהחזיר מודל חדש יותר
שזה מגניב מאוד
איפה הבעיה?
כולם עסוקים רק בלהתקדם בשביל להשאר רלוונטים
וזה גורם להכפלות מטורפות של מחיר של כל טוקן
ככל שהמודל מתקדם יותר חברת הAI מפסידה עוד כמה מליונים
בינתיים יש מירוץ של התייקרות הטוקנים ואין כמעט בשורה

קצת היסטוריה למידת מכונה התחיל כבר בשנות ה50 60
זה הפסיק בדיוק בגלל זה - עלות יקרה מידי הפסדים גדולים מידי ששום חברה כבר לא יכלה לספוג
המצב היום חמור יותר מבחינת עלויות וטוב יותר מבחינת אמון המשקיעים במוצר (שנותן תזרימים מטורפים)
שורה תחתונה היא שכל עוד לא יהיה פריצה בתחום היעילות וההוזלה העולם לא יעבור לעידן AI על מלא
(רק השבוע התבשרנו על רצון לשלוח לחלל החיצון מעבדים בשביל להוזיל בעלויות חשמל)

מילה אחרונה
קחו למשל את גרוק
לקוח חינמי שמנצל את כל הטוקנים שלו כולל תמונות ווידיאו חברת גרוק משלמת עליו חשמל בשווי של 600 700 שקל!!!

[ע"ה דכו"ע]

@חיים-יענקל-0 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

חוץ מהמפתחים של הבינה בעצמם שכנראה תחום זה יגדל משמעותית

למה? הבינה הרי יודעת לפתח לבד לדבריך ללא התערבות אנושית? אז שתפתח גם את עצמה!

[חיים יענקל 0]

@ע-ה-דכו-ע
אני מניח -מהשערה ולא מידיעה- שהוא לא יכול לפתח את עצמו בשביל שלא יגיע למקומות מסוכנים.

[מתכנת חובב]

@ע-ה-דכו-ע אנדריי קרפאטי כבר ניסה משהו כזה וטען שלא הלך לו כי זה לא שילוב של קוד קיים ליצירת מוצר חדש אלא יצירה של משהו שהבינה לא ראתה עדיין

[חיים יענקל 0]

@efishesh כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

@pcinfogmach האמת אני די מסכים איתך אני מפתח מלא עם AI מכיר את כל הכלים
ההתקדמות היא מטורפת אבל זה עדיין לא שם
לא הרבה יודעים אבל המצב של הAI הולך לכיון מסוכן מאוד
כל מודל שיוצא לחברה מסויימת גורם לשאר החברות להכנס למלחמה ולהחזיר מודל חדש יותר
שזה מגניב מאוד
איפה הבעיה?
כולם עסוקים רק בלהתקדם בשביל להשאר רלוונטים
וזה גורם להכפלות מטורפות של מחיר של כל טוקן
ככל שהמודל מתקדם יותר חברת הAI מפסידה עוד כמה מליונים
בינתיים יש מירוץ של התייקרות הטוקנים ואין כמעט בשורה

קצת היסטוריה למידת מכונה התחיל כבר בשנות ה50 60
זה הפסיק בדיוק בגלל זה - עלות יקרה מידי הפסדים גדולים מידי ששום חברה כבר לא יכלה לספוג
המצב היום חמור יותר מבחינת עלויות וטוב יותר מבחינת אמון המשקיעים במוצר (שנותן תזרימים מטורפים)
שורה תחתונה היא שכל עוד לא יהיה פריצה בתחום היעילות וההוזלה העולם לא יעבור לעידן AI על מלא
(רק השבוע התבשרנו על רצון לשלוח לחלל החיצון מעבדים בשביל להוזיל בעלויות חשמל)

מילה אחרונה
קחו למשל את גרוק
לקוח חינמי שמנצל את כל הטוקנים שלו כולל תמונות ווידיאו חברת גרוק משלמת עליו חשמל בשווי של 600 700 שקל!!!

לכן יש כאלה שטוענים שבועת הדוט קום הייתה משל לעומת הבועה שצפוייה לנו בתחום הבינה המלאכותית.

שהיא עלולה לקרוס עם כל המיליארדים שהשקיעו בה

[efishesh]

@חיים-יענקל-0 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

שהיא עלולה לקרוס עם כל המיליארדים שהשקיעו בה

לא רציתי לכתוב את זה כי זה יומרני
אבל אי אפשר להתעלם מהעובדה שבתחום הזה המצב לא משתפר בכלל ואם זה ישאר ככה המצב יהיה קריסה
לא סתם כל העיניים נשואות לחברת אינבידיה, שבסוף בסוף היא השחקן המרכזי
תצליח להביא בשורה= מהפכה עולמית על מלא
תכשל=קריסה טוטאלית

[חיים יענקל 0]

@efishesh
זאת לא אמירה שלי,
יש אנלסיטים שטוענים שזה ככה ייגמר.

[efishesh]

@חיים-יענקל-0 כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

יש אנלסיטים שטוענים שזה ככה ייגמר.

ועדיין זה יומרני מאוד
הסיכויים המרביים הם שזה יגיע לפתרון

[EBA]

@efishesh כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

לקוח חינמי שמנצל את כל הטוקנים שלו כולל תמונות ווידיאו חברת גרוק משלמת עליו חשמל בשווי של 600 700 שקל!!!

נתון מעניין! אבל יש לדון האם זה לא משתלם להם בכל זאת.
אני מניח שגם גוגל משלמים כמה שקלים על כל חרדי שמשתמש 15 שנה בשלושה חשבונות גוגל וממלא את כל ה15 ג'יגה שלו בדרייב, ובכל זאת זה מאוד מאוד משתלם להם רק בגלל הדאטה שהם אוספים. לא?

[efishesh]

@EBA כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

ובכל זאת זה מאוד מאוד משתלם להם רק בגלל הדאטה שהם אוספים. לא?

זה משתלם להם בעיקר כדי להיות רלוונטיים
המלחמה הגדולה בעולם היא לא בין רוסיה לאוקראינה או בין ישראל לאיראן
(הטרמינולוגיה מוגזמת אבל ההשאלה לא מוגזמת בכלל זה ממש מלחמה בכל רגע נתון)
המלחמה היא בין כמה חברות שמבינות שמי שישרוד אחרון ינצח
winner takes it all
הם עושים הכל בשביל לנצח גם אם זה כרוך בהפסד של מליארדים
כי בסוף בסוף הם יקבלו מאות מליארדים

אפשר ללכת אחורה בזמן לא כזה רחוק למלחמה על הדפדפן שלנו
כולם יודעים מי ניצח כמה הוא שווה וכמה הוא בלתי ניתן לעצירה

[ע"ה דכו"ע]

@EBA כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

אני מניח שגם גוגל משלמים כמה שקלים על כל חרדי שמשתמש 15 שנה בשלושה חשבונות גוגל וממלא את כל ה15 ג'יגה שלו בדרייב, ובכל זאת זה מאוד מאוד משתלם להם רק בגלל הדאטה שהם אוספים. לא?

אין שום פורפורציה בין תשלום על קצת אחסון וכדו' להסקה של AI, אבל באמת גם גוגל משלמים מליונים על החינמי של ג'ימיני, ובלי לדבר על AI STUDIO, ובלי לחשוב אפילו על COLAB ו-Kaggle

[EBA]

@efishesh כתב בהסבר | בינה מלאכותית - תתפסו פרופורציה:

המלחמה היא בין כמה חברות שמבינות שמי שישרוד אחרון ינצח

נו, שיילחמו, לנו זה טוב, לא? בהנחה שלא קנית מניות באחת מהן. [אל דאגה, מי שהשקיע בS&P500 השקיע בכולן גם יחד, וההצלחה של אחת תגדר לו את הסיכון של התרסקות השאר].