בקשת מידע | בניית תוכנה שלימה עם AI

דאנציג

@א.מ.ד. כתב:

אם יש עניין לציבור תגידו ואולי אני ימשיך

יש! והרבה, תתן לAI לבדוק כמה בקשות היו בנושא המקורי, ובגיטהב של זית למיקום שונה בהתקנת הקבצים (הצעת ייעול שלי שיהיה אפשרי גם כתוכנה ניידת).

@א.מ.ד. כתב:

בל זה בערך כמו מעבר מרכבי בנזין לרכבים חשמליים. ידע מעמיק בנבכי המנועים הישנים מעניק לך יתרון עצום בהכרת הסביבה והמושגים, אבל הוא בכל זאת פחות רלוונטי כשתבוא לטפל ברכב חשמלי.

אין הנידון דומה לראיה.
המנוע שונה לגמרי, בעוד שבתכנות זה הפוך, אתה משתמש באותו מנוע (בנזין), רק במקום ברכב בכלי אחר, כך שבתקלות מנוע כן יהיה יתרון למי שמכיר את המנוע, יותר ממי שיבנה את הכלי שמשתמש בו.

@א.מ.ד. כתב:

הידע של מקודד ב-AI צריך להיות יותר סביב תכנון ותוצאה, ובכלל (כמעט ו)לא להתעסק באופן המימוש וודאי שלא בשורות הקוד עצמן. לכן כשאתה עונה לי עם כל מיני מושגי קוד שאני לא מבין בהם, זה לא מעניין אותי, כי מבחינתי בזה מטפל הדרג שתחתיי - סוכן ה-AI שלי. אני אכנס לזה רק אם אראה שהוא מסתבך.

וכאן מגיע הקטע שניסיתי להסביר, אם אתה לא יודע איזה מנוע פועל מתחת למכסה, זה שהרכב נוסע לא אומר שהוא גם בטיחותי, המנוע עלול להתפוצץ כל רגע בלי שתדע על כך, ופתאום תגלה באג בטורים שלא מגלים לך שהחום מנוע עלה עד שתראה שלהבות ח"ו.
אתה חייב לדעת מה קורה מתחת למכסה, איזה חלקים נעים, ואיזה חלקים מופעלים, איזה חלקים מקובעים, וממה הם עשויים, אחרת יכולה לפרוץ מלחמת עולם שלישית בגלל אונייה שנושאת חלקי גרעיני פיסטוק...

@א.מ.ד. כתב:

עוד דבר אחרון, זה המהירות: יכול להיות שנוקליאוס שלך (שם יפה, אגב) הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך, אבל מה התועלת בה בעוד 8 שנים? עם ה-AI זה לקח לך קצת יותר מחצי שנה, והגעת כמעט לאותן תוצאות! החיסכון המטורף הזה בזמן מאפשר לך להשקיע בדברים אחרים ובדקויות מסביב, מלבד עצם הייתרון שבחיסכון הזמן.

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

עניו כמשה

פוסט זה נמחק!

עניו כמשה

@דאנציג כתב:

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

אולי כדאי אז שתעלה קורס לזה?

NH.LOCAL

@לא-מתייאש כתב:

הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך,

@לא-מתייאש כתב:

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

רק אוסיף על זה: המגמה מאוד ברורה והיא כבר קורית בענפים מסויימים. זה רק עניין של זמן ש-AI יהיה טוב יותר מכל מתכנת שהוא בפער.

AI עבר מרמה של תחליף ל-Stackoverflow, לכותב סקריפטים חובב, ומשם למתכנת ג'וניור, מתקדם וסניור. המגמה ברורה.

זה כבר קרה בתחומים אחרים, כמו מחקר החיסון, בו Derya Unutmaz אחד האימונולוגים המומחים ביותר בעולם כבר הצהיר ש-GPT 5 יותר טוב ממנו!

כך גם לגבי מתמטיקה, AI למעשה עקף ביכולות שלו כל מתמטיקאי עלי אדמות באופן זה או אחר. ולו בשל העובדה שהוא מהיר בפער ועם יכולת לרוץ במקביל עם אלפי ועשרות אלפי סוכנים.

באותו אופן, זה רק עניין של זמן שהוא יהפוך לכותב הקוד הטוב בעולם, עם יתרון של יעילות אדירה, מהירות עצומה ועבודה מקבילית בסדר גודל עצום.

זה עדיין לא אומר שמתכנתים או מתמטיקאים מיותרים, אבל אין ספק שהגישה צריכה להיות עבודה עם AI, לא במקום AI.

לא-מתייאש

@NH.LOCAL ה-AI חזק מאוד במשימות ספציפיות ומוגדרות היטב: לפתור בעיה של ארדש, להציע השערה על מנגנון, לבדוק אפשרויות. שם הוא עוקף הרבה אנשים, אני לא מתווכח על זה.

אבל תסתכל על הדוגמאות שלך עצמך. אצל Unutmaz זה עבד כי הוא אימונולוג שהיו לו את הנתונים והוא יכל לשפוט אם התשובה מחזיקה מבחינה ביולוגית. בבעיות של ארדש, כל הוכחה נבדקת באופן פורמלי ב-Lean ואחר כך מאושרת ע"י טאו. בשני המקרים יש מאמת. ב-prod אין Lean שיגיד לך שהקוד נכון: המאמת זה מי שמבין את הקוד.

ופרויקט שלם זה כבר משהו אחר לגמרי. צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר. בזה הוא עדיין רחוק שנות אור מהמוח האנושי.

בן אדם יכול ללמוד לתכנת מספר של 50 עמודים. הוא באמת מבין מה הוא עושה, הוא יוצר, מתקן את עצמו, לומד מהטעויות שלו. ה-AI נשען על דפוסים שהוא ראה מיליארדי פעמים. זה חזק מאוד במשימות מסוימות, אבל תסתכל על דף נחיתה פשוט: כל הקוד נכנס לו בקונטקסט, ובכל זאת התוצאה מזעזעת. כל אלמנט בנפרד תקין, אבל לכלל אין שום קוהרנטיות. זה ה-slop: חוסר בראייה כוללת.

אישית, אני אפילו לא בטוח שנראה AGI

המלאך

@לא-מתייאש לפתור בעיות ספציפיות היה היתרון של הבינה לפני שנה פלוס.

אנחנו הרבה אחרי זה, כל החידושים כיום זה בלפתור בעיות מורכבות ושרשראות הסקה, ותתפלא אבל גם בזה הai רק משתבח,

אני באמת לא מצליח להבין את ההיגיון של להתעלם מהמציאות.

yeo4

נראה שיש פה קצת שיח חרשים, בזמן ש @לא-מתייאש טוען טענות טכניות במבט מיקרו, ואילו @המלאך ו @nh.local טוענים טענות במאקרו באופן כללי.
מה שטענו לא הודה לו, ומה שהודה לו לא טענו.

המלאך

@yeo4 סלח לי על השאלה אבל אתה בכלל קראת את התגובה שלי?

@לא-מתייאש טען מפורשות שAI טוב בלפתור בעיות ספציפיות ואני עניתי לו שזה נכון ללפני שנה.
איפה אתה רואה פה מיקרו ומאקרו?

א.מ.ד.

@לא-מתייאש כתב:

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

כמובן התכוונתי לרבותא.

NH.LOCAL

@לא-מתייאש כתב:

@NH.LOCAL ה-AI חזק מאוד במשימות ספציפיות ומוגדרות היטב: לפתור בעיה של ארדש, להציע השערה על מנגנון, לבדוק אפשרויות. שם הוא עוקף הרבה אנשים, אני לא מתווכח על זה.

אבל תסתכל על הדוגמאות שלך עצמך. אצל Unutmaz זה עבד כי הוא אימונולוג שהיו לו את הנתונים והוא יכל לשפוט אם התשובה מחזיקה מבחינה ביולוגית. בבעיות של ארדש, כל הוכחה נבדקת באופן פורמלי ב-Lean ואחר כך מאושרת ע"י טאו. בשני המקרים יש מאמת. ב-prod אין Lean שיגיד לך שהקוד נכון: המאמת זה מי שמבין את הקוד.

ופרויקט שלם זה כבר משהו אחר לגמרי. צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר. בזה הוא עדיין רחוק שנות אור מהמוח האנושי.

בן אדם יכול ללמוד לתכנת מספר של 50 עמודים. הוא באמת מבין מה הוא עושה, הוא יוצר, מתקן את עצמו, לומד מהטעויות שלו. ה-AI נשען על דפוסים שהוא ראה מיליארדי פעמים. זה חזק מאוד במשימות מסוימות, אבל תסתכל על דף נחיתה פשוט: כל הקוד נכנס לו בקונטקסט, ובכל זאת התוצאה מזעזעת. כל אלמנט בנפרד תקין, אבל לכלל אין שום קוהרנטיות. זה ה-slop: חוסר בראייה כוללת.

אתה בהחלט צודק במובנים רבים. בסוף אתר או תוכנה בנוי מאינסוף החלטות אנושיות קטנות שמכוונות את איך שהכל יראה. אני אישית לא מסתכל על קוד כבר שנים, אבל כל חלק שקשור לחווית השימוש, ההגדרות המדויקות ועוד עבר אינסוף ליטוש והיה נראה אחרת לגמרי בלי כוונון מדויק שלי.

מצד שני, זה יכול להיות נכון כי אתה רוצה מוצר "שלך" בסגנון "שלך" ובראש "שלך" (גם אני ככה) אבל אם למשל המטרה היא מוצר שימקסם את הכסף שלך, יתכן מאוד ש-AI יוכל להחליט מספיק החלטות נכונות בלי התערבות של היוצר, כי דעתו פשוט לא תשנה.
בדיוק כמו שגוגל קבעה את צבע הקישורים שלה לפי מבחני A/B ולא לפי הטעם האישי של המנכ"ל.

אם תרצה דוגמה פשוטה, כתיבת רומן היא בהחלט משהו ש-AI לא פתר, ויתכן שגם לא יפתור גם אחרי שימצא תרופה לסרטן. אבל זו בעית ארכיקטורה וסביר להניח שברגע שנגיע ל-ASI או RSI זה כבר יפתר ממילא עם גילוי שיטות חדשות ויעילות יותר לזיכרון לטווח בינוני וארוך.

לגבי בעיות המתמטיקה, אתה קצת מפשט (בלשון המעטה) את מה שכלול בפתרון הנאוויה סטוקס או בעיות ארדוש. זה לא סתם "בוא נמצא את הפתרון", אלא תיאום מורכב ועצום בין אינסוף נקודות וחלקים.
זה בהחלט נכנס להגדרה של "צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר."
הוא אכן רחוק שנות אור מהמוח האנושי, אבל לא מהכיוון שאתה חושב...

אגב ראייה כוללת, חפש דוגמאות של סרטונים מבוססי קוד שקלוד אופוס 5.5 יצר, זה הרבה מעבר לראייה כוללת, זו ראייה על אנושית

אישית, אני אפילו לא בטוח שנראה AGI

לפי כל מדד של 2020, אנחנו עם AGI כבר שנים. השער פשוט זז כל הזמן, כך שהמושג שלעצמו חסר משמעות במידת מה.

אני משוכנע שאם תרצה ב-2050 להכחיש קיום של AGI, תמצא מגוון דרכים לשכנע את עצמך.

ושוב: ברגע ש-AI ישתפר באופן רקורסיבי, לכל הבעיות ימצא פתרון במהירות גבוהה בהרבה משניתן לדמיין.

אני עם @א.מ.ד. - ניפגש בתשרי תשפ"ח

שלץ

@לא-מתייאש @א.מ.ד. @nh.local

השרשור הפך לדיון נוסף על ai?

לפחות תתנו מסקנה ל @עידו300 , כי נראה שכולם פה מסכימים שכותבים תוכנות בעזרת ai,
ומישהו מכם ייתן פה איזה פוסט ארוך ומפורט על איך בונים תוכנה כמו שצריך עם ai במקום האם צריך לעשות את זה?

והאם הai ישתלט על כל התעשיות, והאם הוא יאכל אותנו, וכו'

עריכה: עברתי שוב על השרשור ויש הסברים מדהימים למעלה, אבל למה לא פתחתם שרשור נפרד לדיון?

יעב"ץ

@שלץ כתב:

למה לא פתחתם

כי זה בנ"א כאן, לא מכונות.
וככה מתנהלים בנ"א, דיון מתפתח לאו דווקא לפי הנתיב הרשמי.

yeo4

@המלאך כתב:

@yeo4 סלח לי על השאלה אבל אתה בכלל קראת את התגובה שלי?

קראתי. (כמובן, שאפשר לא להסכים :))

המלאך

@שלץ העניין הוא שאתה מצפה למשהו לא הגיוני.

זה דבר שתלוי בטעם אישי, לכל אחד יש את השיטות שלו והדרכים שלו והכלים שלו לפיתוח תוכנה עם ai.

שלץ

@המלאך ברור, אבל יש בסיס.

לדעתי דווקא נתנו אותו יפה למעלה, עם פריסה יפה של מידע על כלים שונים

לכן הוספתי את ההערה, כי נראה שממה שנתנו כבר אין הרבה לאן להתקדם, אבל נראה בלי קשר לפה ספציפית שמספימים שרשורים שקשורים לai בדיונים בנושא, ואף אחד לא פותח שרשור דיונים מסודר

אלי ויל

@NH.LOCAL

ניפגש בתשרי תשפ"ח

מתי אתה מהמר יהיה אפשר לכתוב לAI תעשה לי מערכת הפעלה למחשב? או שזה ידע שלא קיים בכלל באינטרנט.

בכל אופן מה לגבי הטענה של לא נתייאש שהקוד של AI לא מתקרב לרמה של מתכנת אנושי ושהוא נוטה להביא קוד שגורם לבעיות בהמשך, ושאין לו תפיסה של כל הפרוייקט במיוחד כשמדובר על הרבה קבצים.
מדובר בעצם בטענה טכנית מציאותית שאי אפשר להתווכח
אתה יכול לטעון שזה ישתנה בהמשך אם יצליחו לעשות הקשר יותר גדול ואימון יותר גדול שימחק ממנו הרבה אימון על קוד של מתכנתים פחות טובים וכדומה, אבל כרגע המצב שזה לא ככה

בעבר נתתי לך אתגר לתת לAI לעשות אתר דף נחיתה כמו https://mirindastudio.com/ וראית שהוא די מתקשה

המלאך

@אלי-ויל אני מהמר שתוך שנה וחצי גג שנתיים ניהיה שם.
גם אם לא ברמה של ווינדוס,

והאיכות קוד זה עניין של זמן ג"כ, הבינה כל הזמן משתפרת בזה, בסוף קוד של בינה יהיה יותר איכותי ועמיד מקוד של מתכנת אנושי.

א.מ.ד.

@אלי-ויל כתב:

מתי אתה מהמר יהיה אפשר לכתוב לAI תעשה לי מערכת הפעלה למחשב? או שזה ידע שלא קיים בכלל באינטרנט.

כבר כיום. קראתי לאחרונה כמה פעמים על מערכות הפעלה שנוצרו עם קלוד קוד. צריך לזכור שמערכת הפעלה יכולה להיות מאוד קטנה, לא חייב להיות שהיא מסובכת מורכבת כמו ווינדוס.

NH.LOCAL

@אלי-ויל כתב:

מתי אתה מהמר יהיה אפשר לכתוב לAI תעשה לי מערכת הפעלה למחשב?

הימור שלי 2030-2035. בפועל ציר הזמן כנראה יהיה מהיר יותר.

או שזה ידע שלא קיים בכלל באינטרנט.

בוודאי שקיים. על לינוקס שמעת?

בכל אופן מה לגבי הטענה של לא מתייאש שהקוד של AI לא מתקרב לרמה של מתכנת אנושי ושהוא נוטה להביא קוד שגורם לבעיות בהמשך, ושאין לו תפיסה של כל הפרוייקט במיוחד כשמדובר על הרבה קבצים.
מדובר בעצם בטענה טכנית מציאותית שאי אפשר להתווכח
אתה יכול לטעון שזה ישתנה בהמשך אם יצליחו לעשות הקשר יותר גדול ואימון יותר גדול שימחק ממנו הרבה אימון על קוד של מתכנתים פחות טובים וכדומה, אבל כרגע המצב שזה לא ככה

החלק הראשון לא נכון. החלק השני יהיה גם יהיה. בוודאות. פשוט אין סיבה מספיק טובה להניח שיהיה מחסום שיעצור את ההתקדמות הזו, בארכיקטורה זו או אחרת.

אתה יכול לטעון שזה ישתנה בהמשך אם יצליחו לעשות הקשר יותר גדול ואימון יותר גדול שימחק ממנו הרבה אימון על קוד של מתכנתים פחות טובים וכדומה, אבל כרגע המצב שזה לא ככה

(לא צריך למחוק הקשר של מתכנתים פחות טובים, זה חסר משמעות בסדר גודל של המודלים היום.)

בעבר נתתי לך אתגר לתת לAI לעשות אתר דף נחיתה כמו https://mirindastudio.com/ וראית שהוא די מתקשה

חפש הדגמות של דברים שקלוד אופוס 5.5 יצר. הדוגמה שהבאת היא אפילו לא בדיחה לעומת היכולות שלו.

זה בשבילך - https://miaai-lab.github.io/Claude-Opus-5.5-100-HTML-Files/014-kinetic-manifesto.html

וזו הדוגמה הכי פשוטה ובסיסית שיש, מצורף גם להורדה

MOVE — A Manifesto in Motion.z

לא-מתייאש

פוסט זה נמחק!