בקשת מידע | בניית תוכנה שלימה עם AI

[א.מ.ד.]

@אלי-ויל כתב:

גם אני ועוד נשמח שיהיה אפשרות כזאת (כי לצערי הC שלי הוא קטנטן) אז תעשה את זה גם בשביל הציבור לא רק בשביל הAI...

אין לי עניין להשקיע בפרויקט שאני לא מבין בו כלום. זה היה רק בשביל להוכיח שה-AI כן מבין.

[אלי ויל]

@א.מ.ד. (אישית בשבילי מספיק שזה יעבוד על דיסק D)
זה באמת קשה לAI לעשות את זה או גומר מכסות? מה כל כך מסובך בזה שזה יזכור נתיב אחר או שאולי זה בגלל שהוא צריך ללמוד את הפרוייקט?

[א.מ.ד.]

@אלי-ויל כתב:

זה באמת קשה לAI לעשות את זה או גומר מכסות? מה כל כך מסובך בזה שזה יזכור נתיב אחר או שאולי זה בגלל שהוא צריך ללמוד את הפרוייקט?

יש בזה הרבה מרכיבים, אבל זה ממש לא קשה ל-AI. זה רק גומר מכסות.

[אלי ויל]

@לא-מתייאש כתב:

אני יכול להגיד לך מה הוא יעשה אם תמשיך

השאלה מה הסיבה לזה לדעתך
הרי אתה אימנת אותו על כתב רש"י במשך שבוע בלבד על חומרה חלשה וקצת חומר וזה הגיע לתוצאות מרשימות (אם כי לא ברמה של בן אדם שמבין הקשר)
כאן מדובר בכמויות של מתכנתים מעולים עם החומרה החזקה בעולם וכמויות קוד ענקיות.

[לא-מתייאש]

@א.מ.ד. אני משתמש בAI, ואף פעם לא אמרתי לא להשתמש בAI, רק שזה לא מונע מללמוד ומי שלא לומד יעשה טעויות, זהו.

וזה לא נגדך אישית, זה רק מעצבן אותי לומר שכל אחד שכאילו יודע לכתוב פרומפט חושב שהוא ויותר טוב מאלפי שעות של עמל ושל ניסיון.

[א.מ.ד.]

@לא-מתייאש כתב:

וזה לא נגדך אישית, זה רק מעצבן אותי לומר שכל אחד שכאילו יודע לכתוב פרומפט חושב שהוא ויותר טוב מאלפי שעות של עמל ושל ניסיון.

אוקיי, אבל לא זה מה שטענתי. ואגב, גם בזה יש מן האמת, וזה הולך ומתממש מחודש לחודש...

[לא-מתייאש]

@אלי-ויל כתב:

השאלה מה הסיבה לזה לדעתך
הרי אתה אימנת אותו על כתב רש"י במשך שבוע בלבד על חומרה חלשה וקצת חומר וזה הגיע לתוצאות מרשימות (אם כי לא ברמה של בן אדם שמבין הקשר)
כאן מדובר בכמויות של מתכנתים מעולים עם החומרה החזקה בעולם וכמויות קוד ענקיות.

הסיבה שאתה מכניס "משתנה" שהוא מאוד לא יציב, אפשר להוציא את הדיק און קיי בדיוק בזמן שלא היה צריך להוציא אותו, אפשר לפרמט אותו, הוא יכול להיות מזויף כמו שיש הרבה מאליאקספרס, וכשאתה מכניס משהו בתוכנה שאין לך שליטה עליו, זה קשה, אתה צריך לחשוב על כל דבר שלא יעשו, ואם אתה שואל אותי מה הצורה הנכונה לעשות את זה, אני לא יודע, אני רק יכול לומר לך מה שלא נכון בוודאות, ולכן מן הראוי היה לדבר עם בן אדם שמבין עניין ולשקול את הדברים, אני כרגע לא לקחתי את הזמן לחשוב איך לבצע את זה.

[שניאור שמח]

@כולם! אפשר לנהל ויכוח, אבל בצורה עניינית ומכבדת.
תודה

[yeo4]

@שניאור-שמח דוקא מאוד נהנתי מהדיון, דוקא בגלל הטונים הגבוהים. שמראים יופי. אם מישהו רוצה שאתקצר לו, אז ככה (בגסות):
@א.מ.ד. טוען שבעקבות מהפכת הAI תכנון הפך להיות לנחלת הכלל, ובעזרת כמה פרומטים אפשר לפתח הרבה דברים, ומי שמתעלם מזה - מתנהג כעיוור (ועוד אם לא עכשיו, אז עוד חודש עוד חצי שנה, רק תחשבו מה ייקרה פה עוד שנתיים).
@לא-מתייאש טוען, שתכנות ולוגיקה הם מעשי ידי השכל, ואין אף כלי של "בינה מלאכותית" שהגיע (ואולי גם שיגיע) לרמה של השכל. בנוסף הוא טוען על "אחריות הקוד" - לכך שגם קוד שנכתב ע"י AI נצרך לאישור האנושי. בבד בבד עם זה הוא טוען (בין השורות), שAI הוא כלי נהדר, ויש להשתמש בו בצורה נכונה אחרי שהמשתמש בו יודע איך הדברים פועלים מתחת למכסה מנוע.

בנוסף @א.מ.ד. ביקש לתרום קוד (PR בשפה מקצועית) לפרוייקט מאגר ספרים של זית (בבעלות @לא-מתייאש), ו @לא-מתייאש דחה את בקשת התרומה מכיוון שהיא לא לקחה בחשבון כמה דברים טכניים מהותיים בניהול נכון (פירוט טכני ב[1]).

---

פירוט טכני (חלקי):
[1] - התרומה הייתה לכך שיהיה אפשר להתקין את המאגר גם על דיסק חיצוני, ו @לא-מתייאש מצא כמה טעויות מהותיות בתרומה:
א. במנגנון הנמצא כעת בפרוייקט זית, יש ייעילות גדולה בקריאה של הספרים ויש הנחת מוצא לכך שכל ספר שהוא מחפש הוא יימצא, במקרה של הסרת הדיסק און קי - התוכנה תקרוס בלי שלמשתמש יובן מה הסיבה (וזה מורכב מ2 מנגונים נוספים שאין כאן המקום להאריך).
ב. כל דיסק און קי מצהיר כמה אחסון יש לו, (וההצהרה הזאת יכולה להיות שקרית) - ב"ציבור החרדי" קונים הרבה דיסק און קי מזוייפים ופגומים עם שטח אחסון שמצהיר שיש מלבר יותר משיש מלגיו - ולכן יש צורך לזהות את הבעיה הזאת בשמירה בתוך קובץ חיצוני.

--
הערותיי:
א. סליחה על האריכות.
ב. מה שיפה בהערות של @לא-מתייאש שחלק מהבעיות הם בעיות "טכניות", וחלק מהבעיות הם לפי הכרות עם "המציאות".

[עידו300]

@yeo4 כתב:

א. במנגנון הנמצא כעת בפרוייקט זית, יש ייעילות גדולה בקריאה של הספרים ויש הנחת מוצא לכך שכל ספר שהוא מחפש הוא יימצא, במקרה של הסרת הדיסק און קי - התוכנה תקרוס בלי שלמשתמש יובן מה הסיבה (וזה מורכב מ2 מנגונים נוספים שאין כאן המקום להאריך).
ב. כל דיסק און קי מצהיר כמה אחסון יש לו, (וההצהרה הזאת יכולה להיות שקרית) - ב"ציבור החרדי" קונים הרבה דיסק און קי מזוייפים ופגומים עם שטח אחסון שמצהיר שיש מלבר יותר משיש מלגיו - ולכן יש צורך לזהות את הבעיה הזאת בשמירה בתוך קובץ חיצוני.

זו כוונתו?
אני חושב שזה דבר מאוד בסיסי לטפל בספרים שאולי חסרים בלי שהכל יקרוס, לא_מתיאש טען שהתוכנה יציבה והוא סגר את כל הפינות האלו.

[לא-מתייאש]

@yeo4
אני אישי לא אומר שאין מהפכה של AI, אבל צריך להבין שיש הרבה הייפ בסיפור הזה. הבעייה היא שמוכרים שיעורים של איך לעשות פרומפט בשעתיים ועם זה תוכל להיות יותר טוב ממהנדס שלמד 5 שנים, ואני חושב שאני כן חיי את הדברים הללו, צריך לקחת את הדברים בפרופורציות הנכונות, זית סה"כ זה 20 אלף הורדות כולל, כלומר כל הגרסאות ביחד, נוקלאוס זה מיליון הורדות לחודש, compose media player זה חמי מיליון הורדות לחודש, ואלו שמורדים זה אנשים מקצועים (אז כמובן זה גם ספרים שצריך לקחת בפרופורציות כי CI מורידים את כל התלויות כל פעם, על כל PR), אבל כל זה לומר שיש כן קוד שהוא באמת בprod, ושאני יודע איזה סוג של בעייות יכול להיות.
אני עובד באקוסיסטם של קוטלין שרובם שאני מכיר זה מתכנתים וותיקים שהיו כבר מתכנתים בשנות ה2000 בJAVA, ויש 3 קבוצות של מהנדסים, אלו שהם מאוד בעד AI וכבר לא כותבים ידני שורה אחת, אלו שהם באמצע שזה סוג של קופיילות ואלו שלא משתמשים בכלל בשיטה ובראשם jake wharton (שעליו אומרים שאם הקוד שלא לא מתקמפל זה באג בקומפיילר).
אני הייתי בשנייה עד חודש פברואר - מרס בערך ואחר כך הפכתי להיות בקבוצה הראשונה ולכן התחלתי את הרפוייקט שלי נוקלאוס שזה סוג של חלום בשבילי שבלי AI היה לוקח לי 8 שנים להגיע לאן שהגעתי היום, ועם שיטה השנייה היה לוקח לי 4 שנים, ועכשיו לקח לי 6-7 חודשים, אני אף פעם הייתי בקבוצה הראשונה שלא צריך להשתמש בכלל בAI.
עכשיו מה קורא, מהנדסים של jetbrains שהם ברובם בקבוצה הראשונה או השניים נתקו את הקשר איתי כמעט, איפה שפעם הייתי סוג של ref בשבילם (קצת מזכיר לי את הלחץ החברתי בציבור החרדים אם יש לך אייפון ), בכל זאת הרבה ראו שנוקלאוס הרבה יותר יציב אפילו ממה שעשוים jetbrains ואין כמעט פוסט ברדיט שמזכירים דסקטופ בקוטלין בלי להזכיר את נוקליאוס, כלומר שיש כאן מהפכה של המתכנתים שזה לא מפריע להם שלא כתבתי את הקוד ידני, אבל וזה מאוד מאוד חשוב שזה דורש ממני להיות הרבה יותר מומחה מפעם, כי אני צריך לעשות review ולהבין קוד שלא כתבתי אותו, זה דורש ממני עוד יותר מאמצים כי זה פרוייקט שאני מנהל שהוא 40 מודלים נטיבים, מודול של packaging עם אפשרויות שונות לחלוטין בקמפול ועוד.
עכשיו הדבר המעניין שלמדתי להשתמש בסוכנים בצורה מאוד יסודית, לא מאיזה מפתח וואב שלא יודע לעשות 1% ממה שאני עושה, לדמתי מפיירפוקס איך מצאו פריצות אבטחה עם קלוד, למדתי מהמפתחים של VLC (כולם צרפתים ) , שמעתי שעות על גבי שעות של הרצאות של אנשים שמבינים מה זה קוד, מה זה prod, ועכשיו מה שיוצא שיש סוג של הסכמה, שכל אלו שהם סניור ולא כותבים שורה אחת, הם מתחילים לרדת ברמה, כי בזכות הקוד שהם כתבו בעבר ואת הניסיות הם יכולים היום לעשות את זה ולהיות פי 5 יותר פרודוקטיבי, אבל הם מתחילים להפסיד את זה, ולכן היום מה שיוצא שצריך לעשות קוד ידני כמו פעם שעה ביום, אימון של המוח, ובשביל אלו שמתחילים, כולם אומרים שלא יודעים לעשות איתם, האם הם צריכים ללמוד עם AI בלי AI, אין עדיין קונסנזוס, וגם אני לא יודע מה להגיד בנושא.

[דאנציג]

@yeo4
לפי מה שאני הבנתי:
@א.מ.ד. טוען שכל זמן שהקוד של הAI עובד - אל תגע. יש באג תן לו לתקן.
מה הוא עושה בפועל, זה לא משנה, שישתמש בCPU, בRAM, פירצות אבטחה, לא יודע לא מבין העיקר שעובד.
כמובן, שאם אתה מוצא את אחד מהפרטים הנ"ל, תן לו לתקן את הקוד כך שיעבוד בצורה יותר פרודוקטיבית.

@לא-מתייאש טוען, שכל זמן שאתה לא מבין את הקוד, אין לך את היכולת ליצור תוכנה באמת, זה שAI יוצר תוכנה שעובדת, זה על חשבון עשרות אם לא מאות דברים נלווים שלא קשורים, טעויות, ובאגים מאוחים בפלסתר, שבסופו של דבר זוללים משאבים, וסופו מי ישורנו, כי אף אחד לא יודע מה כתוב בקוד.
ולכן, גם אם אתה משתמש בAI, אתה חייב לעבור על כל הקוד, ולבחון שורה שורה האם היא נכונה או לא, והאם היא עונה על הציפיות שלך, ומבצעת את המוטל עליה בצורה ובדרך הטובה ביותר, כשאתה מזהה מראש כל התנהגות בלתי צפויה ונותן לAI הנחיות ברורות ממה להמנע, והיכן יתכן פרצות שצריך למנוע מראש.

Spoiler

ובינינו, כל מי שהתקין והשתמש עם תוכנה מורכבת שנבנתה על ידי AI בלבד, יודע שהיא באמת בעייתית, אני לא מכיר תוכנות AI כל כך, אבל מהתוכנות שהתקנתי סבלתי והסרתי, ועדיין מדי פעם אני מגלה נזקים, שאריות, ושאר מרעין בישין שהשאירו, אם אתה מכיר תוכנת AI מושלמת, בלי שמהנדס קוד יישב על הקוד, תודיע לי

[שלמה רביב]

@דאנציג כתב:

ובינינו, כל מי שהתקין והשתמש עם תוכנה מורכבת שנבנתה על ידי AI בלבד, יודע שהיא באמת בעייתית, אני לא מכיר תוכנות AI כל כך, אבל מהתוכנות שהתקנתי סבלתי והסרתי, ועדיין מדי פעם אני מגלה נזקים, שאריות, ושאר מרעין בישין שהשאירו, אם אתה מכיר תוכנת AI מושלמת, בלי שמהנדס קוד יישב על הקוד, תודיע לי

לא מסכים עם זה.
אומנם יש הרבה תוכנות עם הרבה באגים אבל לא פעם יצא לי להנות מתוכנה נקייה לגמרי, עיין איבלוק לפני כל השיפורים, עיין מכשירוט
בפועל היום עם קצת נסיון בבנייה עם AI עם הפרומטים הנכונים והכלים הנכונים אפשר לעשות נפלאות.
וכמובן אני לא חולק על @לא-מתייאש שא"א להתחרות כרגע עם מתכנת כמוך אבל חד"ש יש כלים מצויינים שנבנו ב AI.

[א.מ.ד.]

@yeo4 כתב:

@א.מ.ד. טוען שבעקבות מהפכת הAI תכנון הפך להיות לנחלת הכלל, ובעזרת כמה פרומטים אפשר לפתח הרבה דברים, ומי שמתעלם מזה - מתנהג כעיוור (ועוד אם לא עכשיו, אז עוד חודש עוד חצי שנה, רק תחשבו מה ייקרה פה עוד שנתיים).

תרשה לי לדייק אותך - טענתי שמפעיל הסוכן חייב לדעת איך נראית תוכנה, מושגים בסיסיים בפיתוח וניהול פרויקטים וכו'. אחרת התוכנה שלו תיראה כמו עשרות התוכנות שעולות פה בפורום כל יום.
בנוסף, טענתי שצריך לעבוד עם ה-AI במשותף, לא סתם לזרוק לו פרומפט ולראות אם יש באגים. צריך לעבוד שלב אחר שלב ולהשתמש ב-AI כעובד תחתיך שמתרגם את כוונותיך לקוד מדויק, אחרי תכנון מקדים מקיף ומעמיק (שאותו אגב אני אוהב לעשות קודם כל ב-ChatGPT ורק אחר כך מעביר ל-Codex את המידע).
אבל כן, אני בטוח שעם הזמן הצורך במפעיל אנושי ילך ויהיה מיותר מחודש לחודש. למי שזוכר, פעם AI התאים רק להשלמת שורת קוד, בהמשך להשלמת פונקציה שלמה, אחר כך לכתיבת קובץ קוד שלם, וכיום ליצירת פרויקט שלם וניהול מלא שלו, אבל עדיין עם צורך בשת"פ אנושי מסוים, בעיקר כסוקר תוצאה. אני מהמר על מקסימום שנה קדימה (תרשמו לפניכם: י"ג תשרי תשפ"ח) כיום שבו נהיה מיותרים כמעט לחלוטין בתהליך, ונצטרך לאשר רק תוצאה סופית, כמובן בכפוף לשימוש נכון.

@yeo4 כתב:

בנוסף @א.מ.ד. ביקש לתרום קוד (PR בשפה מקצועית) לפרוייקט מאגר ספרים של זית (בבעלות @לא-מתייאש), ו @לא-מתייאש דחה את בקשת התרומה מכיוון שהיא לא לקחה בחשבון כמה דברים טכניים מהותיים בניהול נכון (פירוט טכני ב[1]).

ה-PR באמצע עבודה כמו שכתבתי, אבל אין לי כוח להמשיך כרגע מחוסר עניין (אם יש עניין לציבור תגידו ואולי אני ימשיך).

@yeo4 כתב:

מה שיפה בהערות של @לא-מתייאש שחלק מהבעיות הם בעיות "טכניות", וחלק מהבעיות הם לפי הכרות עם "המציאות".

ולכן סוכן AI לעולם לא יבין אותן כל עוד לא נותנים לו גישה פיזית, או לפחות מציינים לו אותן, וזה אחד המקומות שהמפעיל האנושי נדרש.

@דאנציג כתב:

@א.מ.ד. טוען שכל זמן שהקוד של הAI עובד - אל תגע. יש באג תן לו לתקן.
מה הוא עושה בפועל, זה לא משנה, שישתמש בCPU, בRAM, פירצות אבטחה, לא יודע לא מבין העיקר שעובד.
כמובן, שאם אתה מוצא את אחד מהפרטים הנ"ל, תן לו לתקן את הקוד כך שיעבוד בצורה יותר פרודוקטיבית.

שוב, לא מדויק.

@לא-מתייאש , אני חושב שהנקודה היא אחרת: בוייב קודינג, כל ה"אקוסיסטם" שונה לחלוטין. הכל יותר "אינסטנט". אני לא ממש מצליח להגדיר את זה במילים, אבל זה בערך כמו מעבר מרכבי בנזין לרכבים חשמליים. ידע מעמיק בנבכי המנועים הישנים מעניק לך יתרון עצום בהכרת הסביבה והמושגים, אבל הוא בכל זאת פחות רלוונטי כשתבוא לטפל ברכב חשמלי. הידע של מקודד ב-AI צריך להיות יותר סביב תכנון ותוצאה, ובכלל (כמעט ו)לא להתעסק באופן המימוש וודאי שלא בשורות הקוד עצמן. לכן כשאתה עונה לי עם כל מיני מושגי קוד שאני לא מבין בהם, זה לא מעניין אותי, כי מבחינתי בזה מטפל הדרג שתחתיי - סוכן ה-AI שלי. אני אכנס לזה רק אם אראה שהוא מסתבך.
בנוסף, אתה מסתכל על המתכנתים הוותיקים כמדד, אבל זה ממש לא נכון. זה לא מעניין אותי מה רמת היציאה שלהם מההרגלים (ועם כל הכבוד, הסטיגמה בציבור על מתכנתים היא שהם די מרובעים... ע"ע "בדיחות מתכנתים"). מה שמעניין אותי זה תכלס מי מצליח לעשות כסף מתוכנה/אתר שהוא בנה, מי מצליח להועיל לחייו/חיי סובביו, מי מצליח לממש מה שהוא רצה לבנות, ואיפה התעשיה העולמית נמצאת, בניכוי ההייפ הקבוע (שאכן קיים במידה מסוימת, בעיקר בקרב מקודדי "פרומפט וגמרנו").
עוד דבר אחרון, זה המהירות: יכול להיות שנוקליאוס שלך (שם יפה, אגב) הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך, אבל מה התועלת בה בעוד 8 שנים? עם ה-AI זה לקח לך קצת יותר מחצי שנה, והגעת כמעט לאותן תוצאות! החיסכון המטורף הזה בזמן מאפשר לך להשקיע בדברים אחרים ובדקויות מסביב, מלבד עצם הייתרון שבחיסכון הזמן.

[לא-מתייאש]

@א.מ.ד. כתב:

אני חושב שכולם הבינו את מה שאני חושב, לא צריך לאריך יותר, רק

הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך,

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

[דאנציג]

@א.מ.ד. כתב:

אם יש עניין לציבור תגידו ואולי אני ימשיך

יש! והרבה, תתן לAI לבדוק כמה בקשות היו בנושא המקורי, ובגיטהב של זית למיקום שונה בהתקנת הקבצים (הצעת ייעול שלי שיהיה אפשרי גם כתוכנה ניידת).

@א.מ.ד. כתב:

בל זה בערך כמו מעבר מרכבי בנזין לרכבים חשמליים. ידע מעמיק בנבכי המנועים הישנים מעניק לך יתרון עצום בהכרת הסביבה והמושגים, אבל הוא בכל זאת פחות רלוונטי כשתבוא לטפל ברכב חשמלי.

אין הנידון דומה לראיה.
המנוע שונה לגמרי, בעוד שבתכנות זה הפוך, אתה משתמש באותו מנוע (בנזין), רק במקום ברכב בכלי אחר, כך שבתקלות מנוע כן יהיה יתרון למי שמכיר את המנוע, יותר ממי שיבנה את הכלי שמשתמש בו.

@א.מ.ד. כתב:

הידע של מקודד ב-AI צריך להיות יותר סביב תכנון ותוצאה, ובכלל (כמעט ו)לא להתעסק באופן המימוש וודאי שלא בשורות הקוד עצמן. לכן כשאתה עונה לי עם כל מיני מושגי קוד שאני לא מבין בהם, זה לא מעניין אותי, כי מבחינתי בזה מטפל הדרג שתחתיי - סוכן ה-AI שלי. אני אכנס לזה רק אם אראה שהוא מסתבך.

וכאן מגיע הקטע שניסיתי להסביר, אם אתה לא יודע איזה מנוע פועל מתחת למכסה, זה שהרכב נוסע לא אומר שהוא גם בטיחותי, המנוע עלול להתפוצץ כל רגע בלי שתדע על כך, ופתאום תגלה באג בטורים שלא מגלים לך שהחום מנוע עלה עד שתראה שלהבות ח"ו.
אתה חייב לדעת מה קורה מתחת למכסה, איזה חלקים נעים, ואיזה חלקים מופעלים, איזה חלקים מקובעים, וממה הם עשויים, אחרת יכולה לפרוץ מלחמת עולם שלישית בגלל אונייה שנושאת חלקי גרעיני פיסטוק...

@א.מ.ד. כתב:

עוד דבר אחרון, זה המהירות: יכול להיות שנוקליאוס שלך (שם יפה, אגב) הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך, אבל מה התועלת בה בעוד 8 שנים? עם ה-AI זה לקח לך קצת יותר מחצי שנה, והגעת כמעט לאותן תוצאות! החיסכון המטורף הזה בזמן מאפשר לך להשקיע בדברים אחרים ובדקויות מסביב, מלבד עצם הייתרון שבחיסכון הזמן.

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

[עניו כמשה]

פוסט זה נמחק!

[עניו כמשה]

@דאנציג כתב:

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

אולי כדאי אז שתעלה קורס לזה?

[NH.LOCAL]

@לא-מתייאש כתב:

הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך,

@לא-מתייאש כתב:

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

רק אוסיף על זה: המגמה מאוד ברורה והיא כבר קורית בענפים מסויימים. זה רק עניין של זמן ש-AI יהיה טוב יותר מכל מתכנת שהוא בפער.

AI עבר מרמה של תחליף ל-Stackoverflow, לכותב סקריפטים חובב, ומשם למתכנת ג'וניור, מתקדם וסניור. המגמה ברורה.

זה כבר קרה בתחומים אחרים, כמו מחקר החיסון, בו Derya Unutmaz אחד האימונולוגים המומחים ביותר בעולם כבר הצהיר ש-GPT 5 יותר טוב ממנו!

כך גם לגבי מתמטיקה, AI למעשה עקף ביכולות שלו כל מתמטיקאי עלי אדמות באופן זה או אחר. ולו בשל העובדה שהוא מהיר בפער ועם יכולת לרוץ במקביל עם אלפי ועשרות אלפי סוכנים.

באותו אופן, זה רק עניין של זמן שהוא יהפוך לכותב הקוד הטוב בעולם, עם יתרון של יעילות אדירה, מהירות עצומה ועבודה מקבילית בסדר גודל עצום.

זה עדיין לא אומר שמתכנתים או מתמטיקאים מיותרים, אבל אין ספק שהגישה צריכה להיות עבודה עם AI, לא במקום AI.

[לא-מתייאש]

@NH.LOCAL ה-AI חזק מאוד במשימות ספציפיות ומוגדרות היטב: לפתור בעיה של ארדש, להציע השערה על מנגנון, לבדוק אפשרויות. שם הוא עוקף הרבה אנשים, אני לא מתווכח על זה.

אבל תסתכל על הדוגמאות שלך עצמך. אצל Unutmaz זה עבד כי הוא אימונולוג שהיו לו את הנתונים והוא יכל לשפוט אם התשובה מחזיקה מבחינה ביולוגית. בבעיות של ארדש, כל הוכחה נבדקת באופן פורמלי ב-Lean ואחר כך מאושרת ע"י טאו. בשני המקרים יש מאמת. ב-prod אין Lean שיגיד לך שהקוד נכון: המאמת זה מי שמבין את הקוד.

ופרויקט שלם זה כבר משהו אחר לגמרי. צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר. בזה הוא עדיין רחוק שנות אור מהמוח האנושי.

בן אדם יכול ללמוד לתכנת מספר של 50 עמודים. הוא באמת מבין מה הוא עושה, הוא יוצר, מתקן את עצמו, לומד מהטעויות שלו. ה-AI נשען על דפוסים שהוא ראה מיליארדי פעמים. זה חזק מאוד במשימות מסוימות, אבל תסתכל על דף נחיתה פשוט: כל הקוד נכנס לו בקונטקסט, ובכל זאת התוצאה מזעזעת. כל אלמנט בנפרד תקין, אבל לכלל אין שום קוהרנטיות. זה ה-slop: חוסר בראייה כוללת.

אישית, אני אפילו לא בטוח שנראה AGI