בקשת מידע | בניית תוכנה שלימה עם AI

פלמנמוני

@לא-מתייאש כתב:

דברתי על feature לא על תיקוני באגים

אמנם לך זה היה תיקוני באגים, וגם ניסיתי לפתוח אחד של feature אבל מראש לא נתתי לזה הרבה סיכויים, כי ידעתי שאתה קשוח בזה.
אבל פתחתי לכמה מאגרים עולמיים PR's על תכונות חדשות עם AI, והמון מהם התקבלו.
מדובר על pdfrx, NodeBB, tantivy, rustdesk, sqlite3 וכנראה עוד כמה שאני לא זוכר כעת.

לא-מתייאש

@פלמנמוני תן לי לראות ומה אתה מנסה להוכיח עם נוקלאוס?

פלמנמוני

@לא-מתייאש כתב:

תן לי לראות

את מה?

@לא-מתייאש כתב:

ומה אתה מנסה להוכיח עם נוקלאוס?

כעת - שום דבר, סתם נכנסתי לזה קצת...

ע"ה דכו"ע

@פלמנמוני כתב:

אבל פתחתי לכמה מאגרים עולמיים PR's על תכונות חדשות עם AI, והמון מהם התקבלו.
מדובר על pdfrx, NodeBB, tantivy, rustdesk, sqlite3 וכנראה עוד כמה שאני לא זוכר כעת.

לא כל מאגר עולמי חייב להיות אחראי מספיק, עיין ערך כמה חברות שעברו בעצמם לעשות הכל ע"י סוכני AI אוטונומיים (לא רק קיבלו PR קטן מבחוץ), הרבה מהם הספיקו כבר לגלות איך פתאום הקוד שלהם הפך לערימת זבל

אוויר

לדעתי היתרון של המתכנתים הוא בין היתר בלדעת מה לא לעשות

פלמנמוני

@ע-ה-דכו-ע כתב:

לא כל מאגר עולמי חייב להיות אחראי מספיק, עיין ערך כמה חברות שעברו בעצמם לעשות הכל ע"י סוכני AI אוטונומיים (לא רק קיבלו PR קטן מבחוץ), הרבה מהם הספיקו כבר לגלות איך פתאום הקוד שלהם הפך לערימת זבל

3 מתוך ה5 שהזכרתי הם חבילות עולמיות עם מליוני משתמשים (השערה שלי, לא בדקתי) והקוד שלהם שומר על איכות

לא-מתייאש

@פלמנמוני כתב:

את מה?

את הPR שהתקבלו

פלמנמוני

לא-מתייאש

@פלמנמוני
כשראיתי בהתחלה sqlite לא האמנתי ובאמת זה לא sqlite זה רק פרוייקט קטן בDART בשביל תמיכה לsqlite, גם pdfrx חשבתי שזה היה הקורא הPDF בJS של מוזילה, וזה גם משהו קטן בDART
אבל אוקיי אני חוזר בי שאפשר להכניס feature עם AI, רק תיזהר על משהו, זה כל פעם 200 שורות כולל הטסטים בפרוייקט שהוא כבר מהונדס בצורה נכונה, וגם אתה רואה בן אדם מנווט אותך כמו כאן https://github.com/NodeBB/NodeBB/pull/14303 וכמו אני בנוקליאוס, האם אתה היית יכול לעשות אותו הדבר בתוך מתכנת ?

חוץ מזה בnodebb אני לא יודע אם זה קשור או לא אבל בגרסאות האחרונות, אני חושב שיש יותר באגים, ואוליי אני טועה אבל נראה שהיום באקוסיסטם JS מקובל לסמוך על AI בעניים עצומות.

פלמנמוני

@לא-מתייאש כתב:

האם אתה היית יכול לעשות אותו הדבר בתוך מתכנת ?

לא, ואף פעם לא טענתי כך.
אבל ברור שניתן להגיע גם בפרוייקט חדש מאפס לרמה גבוהה עם AI. כמובן לא בפרומפט קטנטן אלא אחרי השקעה מרובה והבנת היסודות, אם כי לא ברמה עולמית כמו נוקליאוס למשל.

לגבי הבאגים בnodebb, לא יודע על מה אתה מדבר, תוכל להצביע למשל על משהו ספציפי? אני יודע שבאבטחה למשל הם השקיעו רבות בגרסאות האחרונות, ועוד.

אוויר

@לא-מתייאש ציטוט טרי כמה שווה AI

לא-מתייאש

@פלמנמוני כתב:

אבל ברור שניתן להגיע גם בפרוייקט חדש מאפס לרמה גבוהה עם AI. כמובן לא בפרומפט קטנטן אלא אחרי השקעה מרובה והבנת היסודות,

אז אנחנו מסכימים, גם אני רואה שמהנדסים טובים עם AI מוצאים פי כמה יותר פרצות אבטחה, אבל מה שאני לא רואה זה אנשים שלא מבינים כלום זורקים פרומפט ונהיה תוכנה.
מה שאני רואה זה שבשביל AI אני תמיד צודק, "נכון טעיתי, נכון טעיתי", גם כשהוא בכלל צדק. מה שאני רואה זה AI לא יודע שהוא לא יודע, וזה מאוד מובן, זה סטטיסטיקה, להגיד "לא יודע" זה 0% הצלחה, להגיד שטות זה אולי 1%, ולכן הרבה פעמים AI עושה שטויות כי זה עדיין יותר טוב מאשר להגיד "לא יודע". גם את זה OpenAI כתבו בעצמם במאמר שלהם. אז שהדבר הזה שלא יודע להגדיר מתי שהוא לא יודע יחליף מתכנתים, זה חלום.
ל-AI אין מושג של אחריות, רק "סליחה", כי הוא לא מבין שיש תוצאה למה שהוא עושה, את הבאג בפרודקשן סופג בן אדם, לא המודל.
הרבה ממה שאני אומר שמעתי מ-Yann LeCun, מאלו שהמציאו את ה-deep learning, שמעתי ממנו שעות רבות, ומעוד הרבה שמבינים עניין ולא מחפשים למכור מוצר (בניגוד לחלק ממה שהביא @nh.local ), וזה דברים שאני פוגש ביום יום בשימוש שלי עם AI. ולדעתי מי שלא שם לב לדברים האלה, ל-slop, הוא לא מבין מה שהוא עושה, ולכן הוא חושב שהכל בסדר.
אני יכול לכתוב ספר על זה, אבל מה שקרה בעצם זה שבקורונה החברות גייסו הרבה הרבה מתכנתים, והיום רואים שהם לא צריכים את כולם, אבל לפטר מסיבות כלכליות זה לא נראה טוב בעיני המשקיעים, אז אמרו "אנחנו עוברים ל-AI". קוראים לזה "AI-washing" ואגב, חזרנו להיות אותם מספר של 2019 אם אני זוכר נכון ונראה לי שזה אפילו עולה, רק שיש דרישות רק לסניורים, כלומר מי שמבין, מעניין לא?

עכשיו עוד דבר שאני לא יודע, ואת זה, זה משהו משלי, האם יהיה לנו בכלל גישה ל-AI במחיר של היום ? משתמשים כבדים חישבו שמנוי של 200 דולר שווה אלפי דולרים בחודש לפי מחיר ה-API. נכון שה-API זה לא העלות האמיתית ושהעלויות יורדות, אבל ענקיות הטכנולוגיה שופכות השנה בערך 700 מיליארד דולר על תשתיות, ומי משלם ? היזמים ? עד מתי ?
ועוד דבר, OpenAI ו-Anthropic מכריזים בקול רם על כל מודל חדש, אבל את הרווחים שלהם הם לא מפרסמים, למה ? כי אין מה שאנחנו יודעים זה רק מהדלפות וזה מינוס עצום.
אוליי אפשר להשוות את זה לקונקורד, הטכנולוגיה עבדה, מ-1977 טסו מלונדון ופריז לניו יורק בשלוש וחצי שעות, היו לקוחות, אבל כרטיס הלוך חזור עלה בערך 12,000 דולר, העלויות עלו, הביקוש ירד, וב-2003 זה פשוט נעצר. כבר יותר מעשרים שנה אין טיסות על-קוליות. הטכנולוגיה לא נעלמה, הכלכלה הרגה אותה. ובמקרה הטוב זה יהיה כמו אובר, שנים של נסיעות זולות על חשבון המשקיעים, ואחר כך המחירים קפצו בכמעט 92% בין 2018 ל-2021.
ומה עם המודלים הפתוחים ? ברור שהם לא ייעלמו, מי שהוריד מודל ישמור אותו, אבל מי יממן את הבא ? אפילו 32B שאומן ביעילות (OLMo 3) לקח בערך חודשיים על 1,024 כרטיסי H100, זה מיליוני דולרים רק בחישוב. היום משלמים על זה חברות ענק מסיבות אסטרטגיות, וכבר רואים את זה נסדק, Meta שהיו הדגל של הקוד הפתוח עוברים למודל סגור ובתשלום לפי הדיווחים. אם הבועה מתפוצצת, זה הדבר הראשון שייעלם. ובינתיים גם החשמל לא עומד בקצב, בניית מרכזי נתונים כבר מתעכבת כי אין חיבורים לרשת.

לכן אני בעצמי מאוד נזהר כי אני לא מוכן לשלם למחיר הAPI בשביל AI, מצד אחד להנות כמה שיותר, ומצד שני לשמור על שליטה ועל הכישורים שלי, כי אני לא יודע מה יכול לקרות.

@פלמנמוני כתב:

לגבי הבאגים בnodebb, לא יודע על מה אתה מדבר, תוכל להצביע למשל על משהו ספציפי? אני יודע שבאבטחה למשל הם השקיעו רבות בגרסאות האחרונות, ועוד.

אני לא זוכר, אני זוכר שבמתמחים היו לי בעייות של תצוגה, ואני לא יודע אם זה nodebb או מתמחים, אבל אין ספק שהאיכות של התוכנות יורדת, מספיק לראות מה קורא עם ווינדוס.

עידו300

@לא-מתייאש מעניין מה שאתה אומר.
השאלה אם זה מבוסס ובאמת המצב בשטח.

בעצם לפי מה שאתה אומר, הAI יהפך רק לאנשים שיכולים להרשות את זה לעצמם מה שככל הנראה יגרום לו להעלם מהעולם?

לא-מתייאש

@אוויר עצם זה שקוראים לזה "הזיות" ולא טעויות מראה שיש בעייה גדולה בעיניי.

לא-מתייאש

@עידו300 כתב:

בעצם לפי מה שאתה אומר, הAI יהפך רק לאנשים שיכולים להרשות את זה לעצמם מה שככל הנראה יגרום לו להעלם מהעולם?

אני אומר שזה יכול להיות, לא שזה יהיה ככה, ולכן אני נזהר מאוד עם כל זה, כרגע אני לא מכיר חברה שמוכנה לתת 4000 דולר של API לכל מתכנת בחודש, ולדעי היום עם מנוי של 200 דולר זה אוליי שווה ל8000 דולר של API, סתם אני זורק אבל ככה אני חושב

NH.LOCAL

@לא-מתייאש כתב:

לכן אני בעצמי מאוד נזהר כי אני לא מוכן לשלם למחיר הAPI בשביל AI, מצד אחד להנות כמה שיותר, ומצד שני לשמור על שליטה ועל הכישורים שלי, כי אני לא יודע מה יכול לקרות.

מאוד ברור מה קורה כבר עכשיו.

לפי Epoch AI, מאז 2023 העלות להשגת אותה רמת ביצועים ב-AI יורדת בערך פי 13 בכל שנה, קצב מהיר יותר מכל טכנולוגיה משנת-עולם אחרת שהם בדקו. כלומר, סדר גודל של יותר מפי 1,000 בתוך שלוש שנים.

הנתונים די ברורים:
o3-pro עלה $20 למיליון טוקנים קלט ו-$80 בפלט. GPT-6.1 Sol עולה $2 ו-$10 בהתאמה, כלומר פי 8 עד 10 פחות למודל הרבה יותר טוב בפער - o3-pro קיבל 147 במדד ECI של Epoch, מול 166 ל-GPT-6.1 Sol. ב-ARC-AGI-2 הפער הוא 5% מול 94%.

כלומר בתוך 16 חודשים: כמעט עשירית המחיר, וביצועים גבוהים בפער עצום.

הרבה ממה שאני אומר שמעתי מ-Yann LeCun, מאלו שהמציאו את ה-deep learning, שמעתי ממנו שעות רבות, ומעוד הרבה שמבינים עניין ולא מחפשים למכור מוצר (בניגוד לחלק ממה שהביא @nh.local ), וזה דברים שאני פוגש ביום יום בשימוש שלי עם AI. ולדעתי מי שלא שם לב לדברים האלה, ל-slop, הוא לא מבין מה שהוא עושה, ולכן הוא חושב שהכל בסדר.

אני מכיר היטב את דעותיו של יאן לקון. ואני מאוד ממליץ לך, תשמע אותו רק כעוד דעה משנית לאיזון, לא כמקור מידע מרכזי.

יאן לקון לא ממש רלוונטי, הוא טעה שוב ושוב בתחזיות שלו. הוא טען שוב ושוב ש-LLMs לא מסוגלים באמת להסיק, לתכנן ולבצע משימות מורכבות, ובינתיים מודלים כבר מבצעים אוטונומית משימות תכנות של שעות רבות, ובחלק מהמבחנים אפילו משימות של ימים ושבועות.

והנקודה הכי חשובה: לקון עצמו הודה ב-2026 שכבר היו כמה מקרים שבהם הצביע על משהו ש-LLM לא מסוגל לעשות, וכעבור כחצי שנה הוא כבר היה מסוגל לעשות אותו.

הוא חוקר חשוב מאוד, אבל הרקורד שלו בחיזוי היכולות של הדור הבא פשוט גרוע. וההטיה שלו נגד LLMs ברורה לא פחות.

הדמויות שציינתי, כמו סיימון וויליסון או אנדריי קרפאתי בהחלט לא מחפשים למכור מוצר, והם למעשה הרבה יותר אמינים מיאן לקון, שההטיה שלו ברורה.

ועוד דבר, OpenAI ו-Anthropic מכריזים בקול רם על כל מודל חדש, אבל את הרווחים שלהם הם לא מפרסמים, למה ? כי אין מה שאנחנו יודעים זה רק מהדלפות וזה מינוס עצום.

הנתון לגבי אנתרופיק בבירור לא נכון. ב-2026 לפי הדיווחים שלה עצמה אנתרופיק עברה לרווח באופן ברור.

וכבר רואים את זה נסדק, Meta שהיו הדגל של הקוד הפתוח עוברים למודל סגור ובתשלום לפי הדיווחים

בדיוק להיפך. אחרי סדרת Llama הם עברו לקוד סגור, וכעת עם הסדרה החדשה הם חזרו לשילוב קוד פתוח וקוד סגור.

וכבר רואים את זה נסדק, Meta שהיו הדגל של הקוד הפתוח עוברים למודל סגור ובתשלום לפי הדיווחים

בדיוק להיפך. אחרי סדרת Llama הם עברו לקוד סגור, וכעת עם הסדרה החדשה הם חזרו לקוד פתוח.

דאנציג

@לא-מתייאש כתב:

עכשיו עוד דבר שאני לא יודע, ואת זה, זה משהו משלי, האם יהיה לנו בכלל גישה ל-AI במחיר של היום ? משתמשים כבדים חישבו שמנוי של 200 דולר שווה אלפי דולרים בחודש לפי מחיר ה-API. נכון שה-API זה לא העלות האמיתית ושהעלויות יורדות, אבל ענקיות הטכנולוגיה שופכות השנה בערך 700 מיליארד דולר על תשתיות, ומי משלם ? היזמים ? עד מתי ?
ועוד דבר, OpenAI ו-Anthropic מכריזים בקול רם על כל מודל חדש, אבל את הרווחים שלהם הם לא מפרסמים, למה ? כי אין מה שאנחנו יודעים זה רק מהדלפות וזה מינוס עצום.

אם באמת החברות הגדולות במינוס, אז זה רק עניין של זמן כמו שכתבת.
אבל לדעתי בכל מקרה רק מי שיודע קוד ישאר בתחום.

והאמת היא, שבכונני SSD ובזכרון RAM כבר התפוצץ והמחירים קפצו ללא השוואה ללפני שנה וחצי, כך שזה באמת נשמע מאוד הגיוני.
ולכאורה סגירת המפרץ והתקיפות בסעודיה משפיעים המון על כל התפעול, ובפרט על הAI שצורך כמויות חשמל אסטרונומיות.

@לא-מתייאש כתב:

ומה עם המודלים הפתוחים ? ברור שהם לא ייעלמו, מי שהוריד מודל ישמור אותו, אבל מי יממן את הבא ?

@א.מ.ד.
כבר כתב על זה פוסט בעבר, אבל מכיון אחר, כך שבאמת נשמע שכדאי להוריד מודלים אופליין.

השאלה היא האם זה לא אותם חובבי קונספירציה שאומרים שכל הסיבה למעבר לרכב חשמלי היא כדי שכולם יהיו תלויים בחשמל, ואז יעלו את המחירים של החשמל וכו'.

רציונל

@NH.LOCAL כתב:

והמגמה ממשיכה גם במודלים הכי חזקים:
o3-pro עלה $20 למיליון טוקנים קלט ו-$80 בפלט. GPT-6.1 Sol עולה $2 ו-$10 בהתאמה, כלומר פי 8 עד 10 פחות למודל הרבה יותר טוב בפער - o3-pro קיבל 147 במדד ECI של Epoch, מול 166 ל-GPT-6.1 Sol. ב-ARC-AGI-2 הפער הוא 5% מול 94%.

כלומר בתוך 16 חודשים: כמעט עשירית המחיר, וביצועים גבוהים בפער עצום.

השאלה אם זה אמיתי או תחרות

דאנציג

@NH.LOCAL
השאלה היא האם החברות מרוויחות.
אתה אוהב לעשות תחקירים, (אני לא מבין בזה), אולי תעשה תחקיר כמה הרוויחו OPENAI, אנטרופיק וכו'.

NH.LOCAL

@רציונל כתב:

השאלה אם זה אמיתי או תחרות

@דאנציג כתב בבקשת מידע | בניית תוכנה שלימה עם AI:

@NH.LOCAL
השאלה היא האם החברות מרוויחות.
אתה אוהב לעשות תחקירים, (אני לא מבין בזה), אולי תעשה תחקיר כמה הרוויחו OPENAI, אנטרופיק וכו'.

איזו מן שאלה? לפי הנתונים אנתרופיק ברווח עצום על ההסקה. כולל המנויים.

ובכל מקרה, גם אם יש תחרות, חברות לא יכולות להוריד מחירים פי 1000 ועדיין להרוויח.
ירידה כזו חייבת לנבוע מירידת עלויות אמיתית, לא רק תחרות.

אסם יכולה להוריד את מחירי הבמבה ל-2 שקל לחבילה ועדיין להמשיך להרוויח.
אבל היא בהחלט לא יכולה להוריד את המחיר ל-2 אגורות לחבילה ועדיין להרוויח.