בקשת מידע | בניית תוכנה שלימה עם AI

[YAHBDK]

@עידו300 כתב:

אני רוצה משותף, לא לבד...

מה הכוונה משותף?

[עידו300]

@YAHBDK בשביל להוכיח אם אפשר או לא צריך שכולם יסכימו שהפרומפט נכון, אחרת יגידו אם היית עושה נכון זה היה מצליח...
אז צריך שישתפו פעולה... שיסכימו שהפרומפט נכון

[פרוזי]

@עידו300 אני‌​‌‌​‌​​​​​‌ לא מבין מה אתה רוצה להוכיח...
אני אומר לך אני בניתי תוצר שאני יכול למכור בלי שום בעייה
0 באגים כרגע והוא בשימוש רציף אצלי כבר שבועיים... היו כמה באגים וכרגע אני לא מוצא עוד...
אני לא אומר לך שהייתי משחרר את זה עכשיו, כי אני כן הייתי חורש את המערכת עוד חודש בערך כדי לוודא שאין עוד באגים...
וכמו שאמרתי אני מכיר עוד הרבה מערכות מורכבות שנמצאות כבר בשוק שנבנו אך ורק עם AI

[שלץ]

@עידו300 כתב:

מנוע חיפוש חכם במסמכים

@א.מ.ד. לכאורה בונה אחד, עם ai...

[Shealtiel]

@פרוזי כתב:

מערכות מורכבות שנמצאות כבר בשוק שנבנו אך ורק עם AI

לא ברור מה הגדרת ל"מערכות מורכבות"

מה אם באגים שמתגלים אחרי ריצה של כמה שבועות?

בעיות אבטחה? מי יאמת עוד AI?

וכו' וכו'

הAI כלי נהדר, רק צריך לדעת מי משתמש בו.

לא מחייב באגים, אבל העיקרון ברור.

[ישראלש]

@פרוזי כתב:

אני מכיר עוד הרבה מערכות מורכבות שנמצאות כבר בשוק שנבנו אך ורק עם AI

למשל?
אך ורק עם AI אתה מתכוון שהמתכנתים לא מבינים כלום בקוד?

[לא-מתייאש]

@אוויר כתב:

Spoiler

1. Race Condition (מרוץ בין פעולות): שני משתמשים שולחים הודעות בו־זמנית, והתהליך שומר מידע בסדר שגוי או דורס עדכון של משתמש אחר.
2. Lost Update (עדכון אבוד): שני תהליכים משנים אותה רשומה, והשינוי של התהליך השני מוחק את השינוי הראשון.
3. Transaction ללא אטומיות: שמירת ההודעה מצליחה, אבל שמירת הקשר שלה נכשלת. מתקבלת הודעה ללא שיוך תקין לשיחה.
4. Foreign Key Orphan (רשומה יתומה): נמחקת שיחה, אך נשארות הודעות שמצביעות על שיחה שאינה קיימת.
5. Unique Constraint חסר: שתי בקשות מקבילות יוצרות שני משתמשים או שני אירועים שאמורים להיות ייחודיים.
6. Migration לא הפיכה: עדכון מבנה בסיס הנתונים נכשל באמצע, ולא ניתן לחזור לגרסה הקודמת בלי לאבד מידע.
סנכרון והודעות
7. Idempotency חסרה: בקשת שליחה חוזרת בעקבות ניתוק יוצרת שתי הודעות במקום הודעה אחת.
8. At-least-once Delivery ללא Deduplication: מערכת התורים מוסרת אותה הודעה כמה פעמים, והמערכת מציגה אותה שוב ושוב.
9. Event Ordering: אירועי עדכון מגיעים בסדר שונה מהסדר שבו התרחשו, והמסך מציג מצב ישן כאילו הוא החדש.
10. Race בין שמירה ל־Broadcast: המערכת משדרת הודעה למשתמשים לפני שהשמירה בבסיס הנתונים הושלמה. משתמשים רואים הודעה שאינה קיימת לאחר רענון.
11. Reconnect Gap: משתמש מתנתק ומתחבר מחדש, והודעות שהתקבלו בזמן הניתוק אינן נטענות.
12. Cache Invalidation Failure: הודעה נמחקת או משתנה, אבל מטמון ישן ממשיך להציג את הגרסה הקודמת.
אבטחה והרשאות
13. Broken Object-Level Authorization (BOLA): השרת בודק שהמשתמש מחובר, אך אינו בודק שהוא מורשה לקרוא את השיחה שאליה הוא מבקש לגשת.
14. IDOR (גישה לאובייקט באמצעות מזהה): שינוי מזהה של הודעה או שיחה בבקשה מאפשר גישה למידע של משתמש אחר, משום שההרשאה אינה נבדקת בצד השרת.
15. Race Condition בהרשאות: משתמש מאבד הרשאה לשיחה, אבל בקשה מקבילה שכבר החלה מצליחה לבצע פעולה לאחר ביטול ההרשאה.
16. Mass Assignment: השרת מקבל מהלקוח שדות שלא היה אמור לאפשר לשנות, כגון תפקיד משתמש או הרשאות מנהל.
17. Stored Cross-Site Scripting (XSS): הודעה הכוללת תוכן זדוני נשמרת ומוצגת בדפדפן באופן שמאפשר להריץ קוד לא מורשה.
תשתית והתאוששות מתקלות
18. Split-Brain: שתי מופעים של השירות מקבלים החלטות סותרות בזמן תקלה בתקשורת, והנתונים ביניהם מתפצלים.
19. Retry Storm: תקלה זמנית גורמת לכל הרכיבים לבצע ניסיונות חוזרים ללא הגבלה, מעמיסה את השרת ומאריכה את התקלה.
20. Partial Failure בזמן מחיקת חשבון: החשבון נמחק, אבל הודעות, קבצים, הרשאות או נתונים אישיים נשארים במערכות אחרות.

הלכת רחוק, על וואי שAI תשמור על DRY וKISS, לי זה כבר היה עוזר מאשר לנוות אותו כל פעם על דברים טפשים כאלו

[פרוזי]

@ישראלש כתב:

אך‌​‌‌​‌​​​​​‌ ורק עם AI אתה מתכוון שהמתכנתים לא מבינים כלום בקוד?

ממש כך

[אוויר]

טיפ שעזר לי כמה פעמים: כשאני רואה שה-AI מסתבך, אני פשוט אומר לו לחפש קוד קיים ואמין, וזה עוזר מאוד.
לדוגמה, יש לי תחביב לחבר דומיינים לקלוד. רציתי לחבר את קול הלשון, ביקשתי ממנו והוא ניסה ונכשל. מה שעשיתי פשוט, מצאתי כאן בפורום שרשור שעסק בזה. הוא קרא אותו, ותוך דקות בנה את זה בצורה הטובה. (תודה לכל מי שכותב כאן!)
בנוסף, אני לא יודע אם הזכירו כאן, אבל סקילים זה דבר שמאוד עוזר לא לחזור על טעויות.
מה שאומר @עידו300, יש למתמחים בתחום מה שאין לקלוד.

[י. פל.]

לפני תקופה קצרה, שוחחתי עם מומחה AI (עובד בקואופרטיב) [חילוני לגמרי, לא חרדי משום צורה, לדאבון לב].
הוא סיפר לי, בין השאר, שהוא לא כותב קוד כבר למעלה משנה, אני לא זוכר אם הוא אמר לי שנה וחצי או משהו כזה.
הוא רק עובר על הקוד שהAI יוצר לו.

[אוויר]

פוסט זה נמחק!

[י. פל.]

@אוויר כתב:

יש למתמחים בתחום מה שאין לקלוד.

בנושאי נישה - נכון.
גם בקשר ל'ימות', אני משער שיש למומחים כאן יותר ממנו...

[אוויר]

@י.-פל. נכון, נעזרתי בהם רבות(במומחי ימות) בלי זה קלוד איבד ידים ורגלים

[NH.LOCAL]

@Shealtiel כתב:

@י.-פל. כתב:

שהן?

חומרה פיזית, תכנות נמוך, בעיות אבטחה.

לא ברור לגמרי למה התכוונת - אבל בהחלט יש הדגמות רבות בהן AI יצר קושחות מותאמות לחומרות פיזיות שונות ומשונות. כולל שלטי מזגנים וטלוויזיה ועוד.

אם אתה מתכוון ב"תכנות נמוך" לאסמבלי, שפת C/C++ וכו', אז גם בתחום הזה AI הוא מצוין. וכבר כתבו ככה מתכנתי C++ שעשרות שנים במקצוע.

לגבי אבטחה - מודלי AI מצויינים בתחום, לפחות מסוף 2025.

@Shealtiel כתב:

בעיות אבטחה? מי יאמת עוד AI?

כן, בהחלט.

[NH.LOCAL]

@Shealtiel כתב:

חומרה פיזית

NH.LOCAL כתב:

לא ברור לגמרי למה התכוונת - אבל בהחלט יש הדגמות רבות בהן AI יצר קושחות מותאמות לחומרות פיזיות שונות ומשונות. כולל שלטי מזגנים וטלוויזיה ועוד.

סתם מעניין - בדיוק עכשיו OpenAI פרסמה אתר קטן של פרוייקטי חומרה שנבנו עם קודקס...

https://youcanjustbuildthings.openai.chatgpt.site

[רציונל]

@NH.LOCAL כתב:

סתם מעניין - בדיוק עכשיו OpenAI פרסמה אתר קטן של פרוייקטי חומרה שנבנו עם קודקס...

איני מבין הרבה בפרויקטי חומרה, אבל זה נראה פרויקטים די קטנים , למרות שגם זה יפה מאוד

[NH.LOCAL]

@רציונל כתב:

איני מבין הרבה בפרויקטי חומרה, אבל זה נראה פרויקטים די קטנים , למרות שגם זה יפה מאוד

אכן. זו רק דוגמה מעניינת.

בכל מקרה, גם NVIDIA כותבת חלק גדול מהקוד שלה באמצעות AI, אם אתה מתעקש על המינוח "חומרה" בהקשר ל-AI

[עידו300]

פוסט זה נמחק!

[עידו300]

עברנו לhttps://mitmachim.top/topic/102842/בניית-תוכנה-שלימה-עם-ai-מתחילים-את-האתגר?_=1792341998109

מי שיש לו מה להוסיף, מוזמן.

כמו שזה נראה מהתגובות אין באמת פרומפטים "נכונים", אני גם לא רואה מה יכול להיות מיוחד בפרומפט שאומר לעבוד לפי הסדר שתוכנן מראש...

[עידו300]

@NH.LOCAL כתב:

מאובטח

נושא פתור לפחות חצי שנה. AI מצוין בזה. באיתור בעיות אבטחה הוא טוב ומהיר מבני אדם.
הכל עניין של כוונון ותשומת לב מינימלית לנושא. ושימוש בקודקס או קלוד קוד בצורה מקצועית, לא בייס44 ודומיה.

דוגמא טריה מהימים האחרונים

בדיקה של קלוד על מה שGPT סול על אקסטרה הי עשה עם דגש שיהיה מאובטח ואחרי סריקות של באגים אבטחה ואופטמיזציה

️ צריך לטפל עכשיו, לא דרך ה-PR: פ1 חשוף בשרת היום.

השירות שרץ ב-//phone-agent מאמת רק לפי מספר המתקשר.
ב-secrets.env אין PHONE_PIN, ולכן השיחה נפתחת בלי שום קוד.
כל מי שמזייף את המספר שלך יכול להכתיב משימה שתרוץ ב-Codex בחשבון שלך, ולשמוע דוחות של משימות קודמות מהריפו הפרטי.
התיקון ב-PR יחסום את זה רק אחרי מיזוג ופריסה.
מה לעשות עכשיו: להגדיר PHONE_PIN של 6 ספרות לפחות ב-secrets.env ולהפעיל מחדש את שני השירותים. אפשר גם לעצור אותם עד המיזוג.
לא עשיתי את זה בעצמי. זה שירות חי, והקוד צריך להיבחר בידיך.
חמורים נוספים, כבר מתוקנים בקומיטים שעוד לא נדחפו:

פ2: prepare-browser.sh מריץ כ-root מפרש Python ש-phone-agent יכול לכתוב אליו. זה מסלול להשגת root על השרת שמחזיק את הקטלוג ואת הדמון. אל תריץ את הסקריפט הזה בשרת עד המיזוג.

זה 2 מתוך כמה, רק ה2 הקריטיים.
לכן לא הייתי ממהר להגיד שהם עושים את זה טוב