בקשת מידע | בניית תוכנה שלימה עם AI

עידו300

@yeo4 כתב:

א. במנגנון הנמצא כעת בפרוייקט זית, יש ייעילות גדולה בקריאה של הספרים ויש הנחת מוצא לכך שכל ספר שהוא מחפש הוא יימצא, במקרה של הסרת הדיסק און קי - התוכנה תקרוס בלי שלמשתמש יובן מה הסיבה (וזה מורכב מ2 מנגונים נוספים שאין כאן המקום להאריך).
ב. כל דיסק און קי מצהיר כמה אחסון יש לו, (וההצהרה הזאת יכולה להיות שקרית) - ב"ציבור החרדי" קונים הרבה דיסק און קי מזוייפים ופגומים עם שטח אחסון שמצהיר שיש מלבר יותר משיש מלגיו - ולכן יש צורך לזהות את הבעיה הזאת בשמירה בתוך קובץ חיצוני.

זו כוונתו?
אני חושב שזה דבר מאוד בסיסי לטפל בספרים שאולי חסרים בלי שהכל יקרוס, לא_מתיאש טען שהתוכנה יציבה והוא סגר את כל הפינות האלו.

לא-מתייאש

@yeo4
אני אישי לא אומר שאין מהפכה של AI, אבל צריך להבין שיש הרבה הייפ בסיפור הזה. הבעייה היא שמוכרים שיעורים של איך לעשות פרומפט בשעתיים ועם זה תוכל להיות יותר טוב ממהנדס שלמד 5 שנים, ואני חושב שאני כן חיי את הדברים הללו, צריך לקחת את הדברים בפרופורציות הנכונות, זית סה"כ זה 20 אלף הורדות כולל, כלומר כל הגרסאות ביחד, נוקלאוס זה מיליון הורדות לחודש, compose media player זה חמי מיליון הורדות לחודש, ואלו שמורדים זה אנשים מקצועים (אז כמובן זה גם ספרים שצריך לקחת בפרופורציות כי CI מורידים את כל התלויות כל פעם, על כל PR), אבל כל זה לומר שיש כן קוד שהוא באמת בprod, ושאני יודע איזה סוג של בעייות יכול להיות.
אני עובד באקוסיסטם של קוטלין שרובם שאני מכיר זה מתכנתים וותיקים שהיו כבר מתכנתים בשנות ה2000 בJAVA, ויש 3 קבוצות של מהנדסים, אלו שהם מאוד בעד AI וכבר לא כותבים ידני שורה אחת, אלו שהם באמצע שזה סוג של קופיילות ואלו שלא משתמשים בכלל בשיטה ובראשם jake wharton (שעליו אומרים שאם הקוד שלא לא מתקמפל זה באג בקומפיילר).
אני הייתי בשנייה עד חודש פברואר - מרס בערך ואחר כך הפכתי להיות בקבוצה הראשונה ולכן התחלתי את הרפוייקט שלי נוקלאוס שזה סוג של חלום בשבילי שבלי AI היה לוקח לי 8 שנים להגיע לאן שהגעתי היום, ועם שיטה השנייה היה לוקח לי 4 שנים, ועכשיו לקח לי 6-7 חודשים, אני אף פעם הייתי בקבוצה הראשונה שלא צריך להשתמש בכלל בAI.
עכשיו מה קורא, מהנדסים של jetbrains שהם ברובם בקבוצה הראשונה או השניים נתקו את הקשר איתי כמעט, איפה שפעם הייתי סוג של ref בשבילם (קצת מזכיר לי את הלחץ החברתי בציבור החרדים אם יש לך אייפון ), בכל זאת הרבה ראו שנוקלאוס הרבה יותר יציב אפילו ממה שעשוים jetbrains ואין כמעט פוסט ברדיט שמזכירים דסקטופ בקוטלין בלי להזכיר את נוקליאוס, כלומר שיש כאן מהפכה של המתכנתים שזה לא מפריע להם שלא כתבתי את הקוד ידני, אבל וזה מאוד מאוד חשוב שזה דורש ממני להיות הרבה יותר מומחה מפעם, כי אני צריך לעשות review ולהבין קוד שלא כתבתי אותו, זה דורש ממני עוד יותר מאמצים כי זה פרוייקט שאני מנהל שהוא 40 מודלים נטיבים, מודול של packaging עם אפשרויות שונות לחלוטין בקמפול ועוד.
עכשיו הדבר המעניין שלמדתי להשתמש בסוכנים בצורה מאוד יסודית, לא מאיזה מפתח וואב שלא יודע לעשות 1% ממה שאני עושה, לדמתי מפיירפוקס איך מצאו פריצות אבטחה עם קלוד, למדתי מהמפתחים של VLC (כולם צרפתים ) , שמעתי שעות על גבי שעות של הרצאות של אנשים שמבינים מה זה קוד, מה זה prod, ועכשיו מה שיוצא שיש סוג של הסכמה, שכל אלו שהם סניור ולא כותבים שורה אחת, הם מתחילים לרדת ברמה, כי בזכות הקוד שהם כתבו בעבר ואת הניסיות הם יכולים היום לעשות את זה ולהיות פי 5 יותר פרודוקטיבי, אבל הם מתחילים להפסיד את זה, ולכן היום מה שיוצא שצריך לעשות קוד ידני כמו פעם שעה ביום, אימון של המוח, ובשביל אלו שמתחילים, כולם אומרים שלא יודעים לעשות איתם, האם הם צריכים ללמוד עם AI בלי AI, אין עדיין קונסנזוס, וגם אני לא יודע מה להגיד בנושא.

דאנציג

@yeo4
לפי מה שאני הבנתי:
@א.מ.ד. טוען שכל זמן שהקוד של הAI עובד - אל תגע. יש באג תן לו לתקן.
מה הוא עושה בפועל, זה לא משנה, שישתמש בCPU, בRAM, פירצות אבטחה, לא יודע לא מבין העיקר שעובד.
כמובן, שאם אתה מוצא את אחד מהפרטים הנ"ל, תן לו לתקן את הקוד כך שיעבוד בצורה יותר פרודוקטיבית.

@לא-מתייאש טוען, שכל זמן שאתה לא מבין את הקוד, אין לך את היכולת ליצור תוכנה באמת, זה שAI יוצר תוכנה שעובדת, זה על חשבון עשרות אם לא מאות דברים נלווים שלא קשורים, טעויות, ובאגים מאוחים בפלסתר, שבסופו של דבר זוללים משאבים, וסופו מי ישורנו, כי אף אחד לא יודע מה כתוב בקוד.
ולכן, גם אם אתה משתמש בAI, אתה חייב לעבור על כל הקוד, ולבחון שורה שורה האם היא נכונה או לא, והאם היא עונה על הציפיות שלך, ומבצעת את המוטל עליה בצורה ובדרך הטובה ביותר, כשאתה מזהה מראש כל התנהגות בלתי צפויה ונותן לAI הנחיות ברורות ממה להמנע, והיכן יתכן פרצות שצריך למנוע מראש.

ובינינו, כל מי שהתקין והשתמש עם תוכנה מורכבת שנבנתה על ידי AI בלבד, יודע שהיא באמת בעייתית, אני לא מכיר תוכנות AI כל כך, אבל מהתוכנות שהתקנתי סבלתי והסרתי, ועדיין מדי פעם אני מגלה נזקים, שאריות, ושאר מרעין בישין שהשאירו, אם אתה מכיר תוכנת AI מושלמת, בלי שמהנדס קוד יישב על הקוד, תודיע לי

שלמה רביב

@דאנציג כתב:

ובינינו, כל מי שהתקין והשתמש עם תוכנה מורכבת שנבנתה על ידי AI בלבד, יודע שהיא באמת בעייתית, אני לא מכיר תוכנות AI כל כך, אבל מהתוכנות שהתקנתי סבלתי והסרתי, ועדיין מדי פעם אני מגלה נזקים, שאריות, ושאר מרעין בישין שהשאירו, אם אתה מכיר תוכנת AI מושלמת, בלי שמהנדס קוד יישב על הקוד, תודיע לי

לא מסכים עם זה.
אומנם יש הרבה תוכנות עם הרבה באגים אבל לא פעם יצא לי להנות מתוכנה נקייה לגמרי, עיין איבלוק לפני כל השיפורים, עיין מכשירוט
בפועל היום עם קצת נסיון בבנייה עם AI עם הפרומטים הנכונים והכלים הנכונים אפשר לעשות נפלאות.
וכמובן אני לא חולק על @לא-מתייאש שא"א להתחרות כרגע עם מתכנת כמוך אבל חד"ש יש כלים מצויינים שנבנו ב AI.

א.מ.ד.

@yeo4 כתב:

@א.מ.ד. טוען שבעקבות מהפכת הAI תכנון הפך להיות לנחלת הכלל, ובעזרת כמה פרומטים אפשר לפתח הרבה דברים, ומי שמתעלם מזה - מתנהג כעיוור (ועוד אם לא עכשיו, אז עוד חודש עוד חצי שנה, רק תחשבו מה ייקרה פה עוד שנתיים).

תרשה לי לדייק אותך - טענתי שמפעיל הסוכן חייב לדעת איך נראית תוכנה, מושגים בסיסיים בפיתוח וניהול פרויקטים וכו'. אחרת התוכנה שלו תיראה כמו עשרות התוכנות שעולות פה בפורום כל יום.
בנוסף, טענתי שצריך לעבוד עם ה-AI במשותף, לא סתם לזרוק לו פרומפט ולראות אם יש באגים. צריך לעבוד שלב אחר שלב ולהשתמש ב-AI כעובד תחתיך שמתרגם את כוונותיך לקוד מדויק, אחרי תכנון מקדים מקיף ומעמיק (שאותו אגב אני אוהב לעשות קודם כל ב-ChatGPT ורק אחר כך מעביר ל-Codex את המידע).
אבל כן, אני בטוח שעם הזמן הצורך במפעיל אנושי ילך ויהיה מיותר מחודש לחודש. למי שזוכר, פעם AI התאים רק להשלמת שורת קוד, בהמשך להשלמת פונקציה שלמה, אחר כך לכתיבת קובץ קוד שלם, וכיום ליצירת פרויקט שלם וניהול מלא שלו, אבל עדיין עם צורך בשת"פ אנושי מסוים, בעיקר כסוקר תוצאה. אני מהמר על מקסימום שנה קדימה (תרשמו לפניכם: י"ג תשרי תשפ"ח) כיום שבו נהיה מיותרים כמעט לחלוטין בתהליך, ונצטרך לאשר רק תוצאה סופית, כמובן בכפוף לשימוש נכון.

@yeo4 כתב:

בנוסף @א.מ.ד. ביקש לתרום קוד (PR בשפה מקצועית) לפרוייקט מאגר ספרים של זית (בבעלות @לא-מתייאש), ו @לא-מתייאש דחה את בקשת התרומה מכיוון שהיא לא לקחה בחשבון כמה דברים טכניים מהותיים בניהול נכון (פירוט טכני ב[1]).

ה-PR באמצע עבודה כמו שכתבתי, אבל אין לי כוח להמשיך כרגע מחוסר עניין (אם יש עניין לציבור תגידו ואולי אני ימשיך).

@yeo4 כתב:

מה שיפה בהערות של @לא-מתייאש שחלק מהבעיות הם בעיות "טכניות", וחלק מהבעיות הם לפי הכרות עם "המציאות".

ולכן סוכן AI לעולם לא יבין אותן כל עוד לא נותנים לו גישה פיזית, או לפחות מציינים לו אותן, וזה אחד המקומות שהמפעיל האנושי נדרש.

@דאנציג כתב:

@א.מ.ד. טוען שכל זמן שהקוד של הAI עובד - אל תגע. יש באג תן לו לתקן.
מה הוא עושה בפועל, זה לא משנה, שישתמש בCPU, בRAM, פירצות אבטחה, לא יודע לא מבין העיקר שעובד.
כמובן, שאם אתה מוצא את אחד מהפרטים הנ"ל, תן לו לתקן את הקוד כך שיעבוד בצורה יותר פרודוקטיבית.

שוב, לא מדויק.

@לא-מתייאש , אני חושב שהנקודה היא אחרת: בוייב קודינג, כל ה"אקוסיסטם" שונה לחלוטין. הכל יותר "אינסטנט". אני לא ממש מצליח להגדיר את זה במילים, אבל זה בערך כמו מעבר מרכבי בנזין לרכבים חשמליים. ידע מעמיק בנבכי המנועים הישנים מעניק לך יתרון עצום בהכרת הסביבה והמושגים, אבל הוא בכל זאת פחות רלוונטי כשתבוא לטפל ברכב חשמלי. הידע של מקודד ב-AI צריך להיות יותר סביב תכנון ותוצאה, ובכלל (כמעט ו)לא להתעסק באופן המימוש וודאי שלא בשורות הקוד עצמן. לכן כשאתה עונה לי עם כל מיני מושגי קוד שאני לא מבין בהם, זה לא מעניין אותי, כי מבחינתי בזה מטפל הדרג שתחתיי - סוכן ה-AI שלי. אני אכנס לזה רק אם אראה שהוא מסתבך.
בנוסף, אתה מסתכל על המתכנתים הוותיקים כמדד, אבל זה ממש לא נכון. זה לא מעניין אותי מה רמת היציאה שלהם מההרגלים (ועם כל הכבוד, הסטיגמה בציבור על מתכנתים היא שהם די מרובעים... ע"ע "בדיחות מתכנתים"). מה שמעניין אותי זה תכלס מי מצליח לעשות כסף מתוכנה/אתר שהוא בנה, מי מצליח להועיל לחייו/חיי סובביו, מי מצליח לממש מה שהוא רצה לבנות, ואיפה התעשיה העולמית נמצאת, בניכוי ההייפ הקבוע (שאכן קיים במידה מסוימת, בעיקר בקרב מקודדי "פרומפט וגמרנו").
עוד דבר אחרון, זה המהירות: יכול להיות שנוקליאוס שלך (שם יפה, אגב) הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך, אבל מה התועלת בה בעוד 8 שנים? עם ה-AI זה לקח לך קצת יותר מחצי שנה, והגעת כמעט לאותן תוצאות! החיסכון המטורף הזה בזמן מאפשר לך להשקיע בדברים אחרים ובדקויות מסביב, מלבד עצם הייתרון שבחיסכון הזמן.

לא-מתייאש

@א.מ.ד. כתב:

אני חושב שכולם הבינו את מה שאני חושב, לא צריך לאריך יותר, רק

הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך,

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

דאנציג

@א.מ.ד. כתב:

אם יש עניין לציבור תגידו ואולי אני ימשיך

יש! והרבה, תתן לAI לבדוק כמה בקשות היו בנושא המקורי, ובגיטהב של זית למיקום שונה בהתקנת הקבצים (הצעת ייעול שלי שיהיה אפשרי גם כתוכנה ניידת).

@א.מ.ד. כתב:

בל זה בערך כמו מעבר מרכבי בנזין לרכבים חשמליים. ידע מעמיק בנבכי המנועים הישנים מעניק לך יתרון עצום בהכרת הסביבה והמושגים, אבל הוא בכל זאת פחות רלוונטי כשתבוא לטפל ברכב חשמלי.

אין הנידון דומה לראיה.
המנוע שונה לגמרי, בעוד שבתכנות זה הפוך, אתה משתמש באותו מנוע (בנזין), רק במקום ברכב בכלי אחר, כך שבתקלות מנוע כן יהיה יתרון למי שמכיר את המנוע, יותר ממי שיבנה את הכלי שמשתמש בו.

@א.מ.ד. כתב:

הידע של מקודד ב-AI צריך להיות יותר סביב תכנון ותוצאה, ובכלל (כמעט ו)לא להתעסק באופן המימוש וודאי שלא בשורות הקוד עצמן. לכן כשאתה עונה לי עם כל מיני מושגי קוד שאני לא מבין בהם, זה לא מעניין אותי, כי מבחינתי בזה מטפל הדרג שתחתיי - סוכן ה-AI שלי. אני אכנס לזה רק אם אראה שהוא מסתבך.

וכאן מגיע הקטע שניסיתי להסביר, אם אתה לא יודע איזה מנוע פועל מתחת למכסה, זה שהרכב נוסע לא אומר שהוא גם בטיחותי, המנוע עלול להתפוצץ כל רגע בלי שתדע על כך, ופתאום תגלה באג בטורים שלא מגלים לך שהחום מנוע עלה עד שתראה שלהבות ח"ו.
אתה חייב לדעת מה קורה מתחת למכסה, איזה חלקים נעים, ואיזה חלקים מופעלים, איזה חלקים מקובעים, וממה הם עשויים, אחרת יכולה לפרוץ מלחמת עולם שלישית בגלל אונייה שנושאת חלקי גרעיני פיסטוק...

@א.מ.ד. כתב:

עוד דבר אחרון, זה המהירות: יכול להיות שנוקליאוס שלך (שם יפה, אגב) הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך, אבל מה התועלת בה בעוד 8 שנים? עם ה-AI זה לקח לך קצת יותר מחצי שנה, והגעת כמעט לאותן תוצאות! החיסכון המטורף הזה בזמן מאפשר לך להשקיע בדברים אחרים ובדקויות מסביב, מלבד עצם הייתרון שבחיסכון הזמן.

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

עניו כמשה

פוסט זה נמחק!

עניו כמשה

@דאנציג כתב:

צודק לגמרי, ולדעתי המתכנתים היחידים שישרדו את מהפכת הAI הם אלו שילמדו כיצד להשתמש איתו, ולהפיק את המירב - מהירות + איכות.

אולי כדאי אז שתעלה קורס לזה?

NH.LOCAL

@לא-מתייאש כתב:

הייתה יותר יציבה ואיכותית אם היית בונה אותה לגמרי לבדך,

@לא-מתייאש כתב:

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

רק אוסיף על זה: המגמה מאוד ברורה והיא כבר קורית בענפים מסויימים. זה רק עניין של זמן ש-AI יהיה טוב יותר מכל מתכנת שהוא בפער.

AI עבר מרמה של תחליף ל-Stackoverflow, לכותב סקריפטים חובב, ומשם למתכנת ג'וניור, מתקדם וסניור. המגמה ברורה.

זה כבר קרה בתחומים אחרים, כמו מחקר החיסון, בו Derya Unutmaz אחד האימונולוגים המומחים ביותר בעולם כבר הצהיר ש-GPT 5 יותר טוב ממנו!

כך גם לגבי מתמטיקה, AI למעשה עקף ביכולות שלו כל מתמטיקאי עלי אדמות באופן זה או אחר. ולו בשל העובדה שהוא מהיר בפער ועם יכולת לרוץ במקביל עם אלפי ועשרות אלפי סוכנים.

באותו אופן, זה רק עניין של זמן שהוא יהפוך לכותב הקוד הטוב בעולם, עם יתרון של יעילות אדירה, מהירות עצומה ועבודה מקבילית בסדר גודל עצום.

זה עדיין לא אומר שמתכנתים או מתמטיקאים מיותרים, אבל אין ספק שהגישה צריכה להיות עבודה עם AI, לא במקום AI.

לא-מתייאש

@NH.LOCAL ה-AI חזק מאוד במשימות ספציפיות ומוגדרות היטב: לפתור בעיה של ארדש, להציע השערה על מנגנון, לבדוק אפשרויות. שם הוא עוקף הרבה אנשים, אני לא מתווכח על זה.

אבל תסתכל על הדוגמאות שלך עצמך. אצל Unutmaz זה עבד כי הוא אימונולוג שהיו לו את הנתונים והוא יכל לשפוט אם התשובה מחזיקה מבחינה ביולוגית. בבעיות של ארדש, כל הוכחה נבדקת באופן פורמלי ב-Lean ואחר כך מאושרת ע"י טאו. בשני המקרים יש מאמת. ב-prod אין Lean שיגיד לך שהקוד נכון: המאמת זה מי שמבין את הקוד.

ופרויקט שלם זה כבר משהו אחר לגמרי. צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר. בזה הוא עדיין רחוק שנות אור מהמוח האנושי.

בן אדם יכול ללמוד לתכנת מספר של 50 עמודים. הוא באמת מבין מה הוא עושה, הוא יוצר, מתקן את עצמו, לומד מהטעויות שלו. ה-AI נשען על דפוסים שהוא ראה מיליארדי פעמים. זה חזק מאוד במשימות מסוימות, אבל תסתכל על דף נחיתה פשוט: כל הקוד נכנס לו בקונטקסט, ובכל זאת התוצאה מזעזעת. כל אלמנט בנפרד תקין, אבל לכלל אין שום קוהרנטיות. זה ה-slop: חוסר בראייה כוללת.

אישית, אני אפילו לא בטוח שנראה AGI

המלאך

@לא-מתייאש לפתור בעיות ספציפיות היה היתרון של הבינה לפני שנה פלוס.

אנחנו הרבה אחרי זה, כל החידושים כיום זה בלפתור בעיות מורכבות ושרשראות הסקה, ותתפלא אבל גם בזה הai רק משתבח,

אני באמת לא מצליח להבין את ההיגיון של להתעלם מהמציאות.

yeo4

נראה שיש פה קצת שיח חרשים, בזמן ש @לא-מתייאש טוען טענות טכניות במבט מיקרו, ואילו @המלאך ו @nh.local טוענים טענות במאקרו באופן כללי.
מה שטענו לא הודה לו, ומה שהודה לו לא טענו.

המלאך

@yeo4 סלח לי על השאלה אבל אתה בכלל קראת את התגובה שלי?

@לא-מתייאש טען מפורשות שAI טוב בלפתור בעיות ספציפיות ואני עניתי לו שזה נכון ללפני שנה.
איפה אתה רואה פה מיקרו ומאקרו?

א.מ.ד.

@לא-מתייאש כתב:

אני ממש לא חושב את זה, דווקא אם אני חושב ששלי יותר יציב משל jetbrains זה בגלל שאני כן משתמש בAI בצורה נכונה והם לא רוצים בשיטה.

כמובן התכוונתי לרבותא.

NH.LOCAL

@לא-מתייאש כתב:

@NH.LOCAL ה-AI חזק מאוד במשימות ספציפיות ומוגדרות היטב: לפתור בעיה של ארדש, להציע השערה על מנגנון, לבדוק אפשרויות. שם הוא עוקף הרבה אנשים, אני לא מתווכח על זה.

אבל תסתכל על הדוגמאות שלך עצמך. אצל Unutmaz זה עבד כי הוא אימונולוג שהיו לו את הנתונים והוא יכל לשפוט אם התשובה מחזיקה מבחינה ביולוגית. בבעיות של ארדש, כל הוכחה נבדקת באופן פורמלי ב-Lean ואחר כך מאושרת ע"י טאו. בשני המקרים יש מאמת. ב-prod אין Lean שיגיד לך שהקוד נכון: המאמת זה מי שמבין את הקוד.

ופרויקט שלם זה כבר משהו אחר לגמרי. צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר. בזה הוא עדיין רחוק שנות אור מהמוח האנושי.

בן אדם יכול ללמוד לתכנת מספר של 50 עמודים. הוא באמת מבין מה הוא עושה, הוא יוצר, מתקן את עצמו, לומד מהטעויות שלו. ה-AI נשען על דפוסים שהוא ראה מיליארדי פעמים. זה חזק מאוד במשימות מסוימות, אבל תסתכל על דף נחיתה פשוט: כל הקוד נכנס לו בקונטקסט, ובכל זאת התוצאה מזעזעת. כל אלמנט בנפרד תקין, אבל לכלל אין שום קוהרנטיות. זה ה-slop: חוסר בראייה כוללת.

אתה בהחלט צודק במובנים רבים. בסוף אתר או תוכנה בנוי מאינסוף החלטות אנושיות קטנות שמכוונות את איך שהכל יראה. אני אישית לא מסתכל על קוד כבר שנים, אבל כל חלק שקשור לחווית השימוש, ההגדרות המדויקות ועוד עבר אינסוף ליטוש והיה נראה אחרת לגמרי בלי כוונון מדויק שלי.

מצד שני, זה יכול להיות נכון כי אתה רוצה מוצר "שלך" בסגנון "שלך" ובראש "שלך" (גם אני ככה) אבל אם למשל המטרה היא מוצר שימקסם את הכסף שלך, יתכן מאוד ש-AI יוכל להחליט מספיק החלטות נכונות בלי התערבות של היוצר, כי דעתו פשוט לא תשנה.
בדיוק כמו שגוגל קבעה את צבע הקישורים שלה לפי מבחני A/B ולא לפי הטעם האישי של המנכ"ל.

אם תרצה דוגמה פשוטה, כתיבת רומן היא בהחלט משהו ש-AI לא פתר, ויתכן שגם לא יפתור גם אחרי שימצא תרופה לסרטן. אבל זו בעית ארכיקטורה וסביר להניח שברגע שנגיע ל-ASI או RSI זה כבר יפתר ממילא עם גילוי שיטות חדשות ויעילות יותר לזיכרון לטווח בינוני וארוך.

לגבי בעיות המתמטיקה, אתה קצת מפשט (בלשון המעטה) את מה שכלול בפתרון הנאוויה סטוקס או בעיות ארדוש. זה לא סתם "בוא נמצא את הפתרון", אלא תיאום מורכב ועצום בין אינסוף נקודות וחלקים.
זה בהחלט נכנס להגדרה של "צריך לתאם מאות החלטות, לעשות את החיבורים הנכונים בין חלקים שאין ביניהם קשר, ולזכור אלפי פרטים שאתה מחליט שהם חשובים: למה נעשתה בחירה מסוימת, מה כבר נשבר, מה עלול להישבר."
הוא אכן רחוק שנות אור מהמוח האנושי, אבל לא מהכיוון שאתה חושב...

אגב ראייה כוללת, חפש דוגמאות של סרטונים מבוססי קוד שקלוד אופוס 5.5 יצר, זה הרבה מעבר לראייה כוללת, זו ראייה על אנושית

אישית, אני אפילו לא בטוח שנראה AGI

לפי כל מדד של 2020, אנחנו עם AGI כבר שנים. השער פשוט זז כל הזמן, כך שהמושג שלעצמו חסר משמעות במידת מה.

אני משוכנע שאם תרצה ב-2050 להכחיש קיום של AGI, תמצא מגוון דרכים לשכנע את עצמך.

ושוב: ברגע ש-AI ישתפר באופן רקורסיבי, לכל הבעיות ימצא פתרון במהירות גבוהה בהרבה משניתן לדמיין.

אני עם @א.מ.ד. - ניפגש בתשרי תשפ"ח

שלץ

@לא-מתייאש @א.מ.ד. @nh.local

השרשור הפך לדיון נוסף על ai?

לפחות תתנו מסקנה ל @עידו300 , כי נראה שכולם פה מסכימים שכותבים תוכנות בעזרת ai,
ומישהו מכם ייתן פה איזה פוסט ארוך ומפורט על איך בונים תוכנה כמו שצריך עם ai במקום האם צריך לעשות את זה?

והאם הai ישתלט על כל התעשיות, והאם הוא יאכל אותנו, וכו'

עריכה: עברתי שוב על השרשור ויש הסברים מדהימים למעלה, אבל למה לא פתחתם שרשור נפרד לדיון?

יעב"ץ

@שלץ כתב:

למה לא פתחתם

כי זה בנ"א כאן, לא מכונות.
וככה מתנהלים בנ"א, דיון מתפתח לאו דווקא לפי הנתיב הרשמי.

yeo4

@המלאך כתב:

@yeo4 סלח לי על השאלה אבל אתה בכלל קראת את התגובה שלי?

קראתי. (כמובן, שאפשר לא להסכים :))

המלאך

@שלץ העניין הוא שאתה מצפה למשהו לא הגיוני.

זה דבר שתלוי בטעם אישי, לכל אחד יש את השיטות שלו והדרכים שלו והכלים שלו לפיתוח תוכנה עם ai.