בקשת מידע | בניית תוכנה שלימה עם AI

[חייא שיאומי]

@עידו300 הצלחת בסוף ליצור תוכנה ?
אם לא יש לי מדריך לבניית אפליקציה שמתאים גם לתוכנה

[עידו300]

@חייא-שיאומי הצלחתי ליצור כמה וכמה, אבל אנחנו מדברים על האיכות שלה, בזה נמצא הדיון.

[עידו300]

עידו300 כתב:

אני מציע את ההצעה שוב
פתחתי ריפו ציבורי, נבנה ביחד תוכנה, ננסח ביחד פרומפטים שכולם יסכימו שהם טובים, ניתן לAI (התורן, אני לא יכול לבזבז את כל הטוקנים שלי על זה) ונראה מה יוצא, ככה הבדיקה תהיה אובייקטיבית ולא תלויה בדעתו של אחד, האם הקוד טוב או לא, וגם לא יוכלו לטעון "אם היית יודע לעבוד עם AI זה היה נראה אחרת"

@לא-מתייאש אני מדבר לגבי זה

[מויטיו]

@עידו300 אתה יכול לבדוק תוכנה שבניתי בפרומפט אחד? ריצה אחת, זה תוכנה לחיבור הטלפון למחשב לצורך קבלת שיחות והוצאת שיחות כמו במולטימדיה ברכב אין לי מחשב זמין לבדוק את זה https://github.com/generativimt12/Connectfon/actions/runs/37460328143/artifacts/11411607180

[אפי זינגר]

@לא-מתייאש
ביום שאתה משחרר עדכון כזה, שבעיקפים יעזור גם לזית
אתה מתווכח שוב ושוב ועונה בגובה העינים.

אבל האמת שאתה מוערך מאוד
מתנה עצומה לעולם התורה!

[ייעוץ עסקי]

@מויטיו
הקישור שגוי - מופיע 404

[ע"ה דכו"ע]

@ייעוץ-עסקי כתב:

@מויטיו
הקישור שגוי - מופיע 404

צריך להיכנס קודם לחשבון בגיטהב בשביל להוריד

[פלמנמוני]

@לא-מתייאש כתב:

דברתי על feature לא על תיקוני באגים

אמנם לך זה היה תיקוני באגים, וגם ניסיתי לפתוח אחד של feature אבל מראש לא נתתי לזה הרבה סיכויים, כי ידעתי שאתה קשוח בזה.
אבל פתחתי לכמה מאגרים עולמיים PR's על תכונות חדשות עם AI, והמון מהם התקבלו.
מדובר על pdfrx, NodeBB, tantivy, rustdesk, sqlite3 וכנראה עוד כמה שאני לא זוכר כעת.

[לא-מתייאש]

@פלמנמוני תן לי לראות ומה אתה מנסה להוכיח עם נוקלאוס?

[פלמנמוני]

@לא-מתייאש כתב:

תן לי לראות

את מה?

@לא-מתייאש כתב:

ומה אתה מנסה להוכיח עם נוקלאוס?

כעת - שום דבר, סתם נכנסתי לזה קצת...

[ע"ה דכו"ע]

@פלמנמוני כתב:

אבל פתחתי לכמה מאגרים עולמיים PR's על תכונות חדשות עם AI, והמון מהם התקבלו.
מדובר על pdfrx, NodeBB, tantivy, rustdesk, sqlite3 וכנראה עוד כמה שאני לא זוכר כעת.

לא כל מאגר עולמי חייב להיות אחראי מספיק, עיין ערך כמה חברות שעברו בעצמם לעשות הכל ע"י סוכני AI אוטונומיים (לא רק קיבלו PR קטן מבחוץ), הרבה מהם הספיקו כבר לגלות איך פתאום הקוד שלהם הפך לערימת זבל

[אוויר]

לדעתי היתרון של המתכנתים הוא בין היתר בלדעת מה לא לעשות

[פלמנמוני]

@ע-ה-דכו-ע כתב:

לא כל מאגר עולמי חייב להיות אחראי מספיק, עיין ערך כמה חברות שעברו בעצמם לעשות הכל ע"י סוכני AI אוטונומיים (לא רק קיבלו PR קטן מבחוץ), הרבה מהם הספיקו כבר לגלות איך פתאום הקוד שלהם הפך לערימת זבל

3 מתוך ה5 שהזכרתי הם חבילות עולמיות עם מליוני משתמשים (השערה שלי, לא בדקתי) והקוד שלהם שומר על איכות

[לא-מתייאש]

@פלמנמוני כתב:

את מה?

את הPR שהתקבלו

[פלמנמוני]

@לא-מתייאש
דוגמאות, לא ליקטתי הכל...
https://github.com/NodeBB/NodeBB/pull/14625
https://github.com/NodeBB/NodeBB/pull/14303
https://github.com/NodeBB/NodeBB/pull/14840
https://github.com/NodeBB/NodeBB/pull/14681
https://github.com/espresso3389/pdfrx/pull/708
https://github.com/espresso3389/pdfrx/pull/706
https://github.com/quickwit-oss/tantivy/pull/3138
https://github.com/quickwit-oss/tantivy/pull/3136
https://github.com/rustdesk/rustdesk/pull/15934
https://github.com/simolus3/sqlite3.dart/pull/414
https://github.com/simolus3/sqlite3.dart/pull/413

[לא-מתייאש]

@פלמנמוני
כשראיתי בהתחלה sqlite לא האמנתי ובאמת זה לא sqlite זה רק פרוייקט קטן בDART בשביל תמיכה לsqlite, גם pdfrx חשבתי שזה היה הקורא הPDF בJS של מוזילה, וזה גם משהו קטן בDART
אבל אוקיי אני חוזר בי שאפשר להכניס feature עם AI, רק תיזהר על משהו, זה כל פעם 200 שורות כולל הטסטים בפרוייקט שהוא כבר מהונדס בצורה נכונה, וגם אתה רואה בן אדם מנווט אותך כמו כאן https://github.com/NodeBB/NodeBB/pull/14303 וכמו אני בנוקליאוס, האם אתה היית יכול לעשות אותו הדבר בתוך מתכנת ?

חוץ מזה בnodebb אני לא יודע אם זה קשור או לא אבל בגרסאות האחרונות, אני חושב שיש יותר באגים, ואוליי אני טועה אבל נראה שהיום באקוסיסטם JS מקובל לסמוך על AI בעניים עצומות.

[פלמנמוני]

@לא-מתייאש כתב:

האם אתה היית יכול לעשות אותו הדבר בתוך מתכנת ?

לא, ואף פעם לא טענתי כך.
אבל ברור שניתן להגיע גם בפרוייקט חדש מאפס לרמה גבוהה עם AI. כמובן לא בפרומפט קטנטן אלא אחרי השקעה מרובה והבנת היסודות, אם כי לא ברמה עולמית כמו נוקליאוס למשל.

לגבי הבאגים בnodebb, לא יודע על מה אתה מדבר, תוכל להצביע למשל על משהו ספציפי? אני יודע שבאבטחה למשל הם השקיעו רבות בגרסאות האחרונות, ועוד.

[אוויר]

@לא-מתייאש ציטוט טרי כמה שווה AI

[לא-מתייאש]

@פלמנמוני כתב:

אבל ברור שניתן להגיע גם בפרוייקט חדש מאפס לרמה גבוהה עם AI. כמובן לא בפרומפט קטנטן אלא אחרי השקעה מרובה והבנת היסודות,

אז אנחנו מסכימים, גם אני רואה שמהנדסים טובים עם AI מוצאים פי כמה יותר פרצות אבטחה, אבל מה שאני לא רואה זה אנשים שלא מבינים כלום זורקים פרומפט ונהיה תוכנה.
מה שאני רואה זה שבשביל AI אני תמיד צודק, "נכון טעיתי, נכון טעיתי", גם כשהוא בכלל צדק. מה שאני רואה זה AI לא יודע שהוא לא יודע, וזה מאוד מובן, זה סטטיסטיקה, להגיד "לא יודע" זה 0% הצלחה, להגיד שטות זה אולי 1%, ולכן הרבה פעמים AI עושה שטויות כי זה עדיין יותר טוב מאשר להגיד "לא יודע". גם את זה OpenAI כתבו בעצמם במאמר שלהם. אז שהדבר הזה שלא יודע להגדיר מתי שהוא לא יודע יחליף מתכנתים, זה חלום.
ל-AI אין מושג של אחריות, רק "סליחה", כי הוא לא מבין שיש תוצאה למה שהוא עושה, את הבאג בפרודקשן סופג בן אדם, לא המודל.
הרבה ממה שאני אומר שמעתי מ-Yann LeCun, מאלו שהמציאו את ה-deep learning, שמעתי ממנו שעות רבות, ומעוד הרבה שמבינים עניין ולא מחפשים למכור מוצר (בניגוד לחלק ממה שהביא @nh.local ), וזה דברים שאני פוגש ביום יום בשימוש שלי עם AI. ולדעתי מי שלא שם לב לדברים האלה, ל-slop, הוא לא מבין מה שהוא עושה, ולכן הוא חושב שהכל בסדר.
אני יכול לכתוב ספר על זה, אבל מה שקרה בעצם זה שבקורונה החברות גייסו הרבה הרבה מתכנתים, והיום רואים שהם לא צריכים את כולם, אבל לפטר מסיבות כלכליות זה לא נראה טוב בעיני המשקיעים, אז אמרו "אנחנו עוברים ל-AI". קוראים לזה "AI-washing" ואגב, חזרנו להיות אותם מספר של 2019 אם אני זוכר נכון ונראה לי שזה אפילו עולה, רק שיש דרישות רק לסניורים, כלומר מי שמבין, מעניין לא?

עכשיו עוד דבר שאני לא יודע, ואת זה, זה משהו משלי, האם יהיה לנו בכלל גישה ל-AI במחיר של היום ? משתמשים כבדים חישבו שמנוי של 200 דולר שווה אלפי דולרים בחודש לפי מחיר ה-API. נכון שה-API זה לא העלות האמיתית ושהעלויות יורדות, אבל ענקיות הטכנולוגיה שופכות השנה בערך 700 מיליארד דולר על תשתיות, ומי משלם ? היזמים ? עד מתי ?
ועוד דבר, OpenAI ו-Anthropic מכריזים בקול רם על כל מודל חדש, אבל את הרווחים שלהם הם לא מפרסמים, למה ? כי אין מה שאנחנו יודעים זה רק מהדלפות וזה מינוס עצום.
אוליי אפשר להשוות את זה לקונקורד, הטכנולוגיה עבדה, מ-1977 טסו מלונדון ופריז לניו יורק בשלוש וחצי שעות, היו לקוחות, אבל כרטיס הלוך חזור עלה בערך 12,000 דולר, העלויות עלו, הביקוש ירד, וב-2003 זה פשוט נעצר. כבר יותר מעשרים שנה אין טיסות על-קוליות. הטכנולוגיה לא נעלמה, הכלכלה הרגה אותה. ובמקרה הטוב זה יהיה כמו אובר, שנים של נסיעות זולות על חשבון המשקיעים, ואחר כך המחירים קפצו בכמעט 92% בין 2018 ל-2021.
ומה עם המודלים הפתוחים ? ברור שהם לא ייעלמו, מי שהוריד מודל ישמור אותו, אבל מי יממן את הבא ? אפילו 32B שאומן ביעילות (OLMo 3) לקח בערך חודשיים על 1,024 כרטיסי H100, זה מיליוני דולרים רק בחישוב. היום משלמים על זה חברות ענק מסיבות אסטרטגיות, וכבר רואים את זה נסדק, Meta שהיו הדגל של הקוד הפתוח עוברים למודל סגור ובתשלום לפי הדיווחים. אם הבועה מתפוצצת, זה הדבר הראשון שייעלם. ובינתיים גם החשמל לא עומד בקצב, בניית מרכזי נתונים כבר מתעכבת כי אין חיבורים לרשת.

לכן אני בעצמי מאוד נזהר כי אני לא מוכן לשלם למחיר הAPI בשביל AI, מצד אחד להנות כמה שיותר, ומצד שני לשמור על שליטה ועל הכישורים שלי, כי אני לא יודע מה יכול לקרות.

@פלמנמוני כתב:

לגבי הבאגים בnodebb, לא יודע על מה אתה מדבר, תוכל להצביע למשל על משהו ספציפי? אני יודע שבאבטחה למשל הם השקיעו רבות בגרסאות האחרונות, ועוד.

אני לא זוכר, אני זוכר שבמתמחים היו לי בעייות של תצוגה, ואני לא יודע אם זה nodebb או מתמחים, אבל אין ספק שהאיכות של התוכנות יורדת, מספיק לראות מה קורא עם ווינדוס.

[עידו300]

@לא-מתייאש מעניין מה שאתה אומר.
השאלה אם זה מבוסס ובאמת המצב בשטח.

בעצם לפי מה שאתה אומר, הAI יהפך רק לאנשים שיכולים להרשות את זה לעצמם מה שככל הנראה יגרום לו להעלם מהעולם?