בקשת מידע | בניית תוכנה שלימה עם AI

י. פל.

@אוויר כתב:

יש למתמחים בתחום מה שאין לקלוד.

בנושאי נישה - נכון.
גם בקשר ל'ימות', אני משער שיש למומחים כאן יותר ממנו...

אוויר

@י.-פל. נכון, נעזרתי בהם רבות(במומחי ימות) בלי זה קלוד איבד ידים ורגלים

NH.LOCAL

@Shealtiel כתב:

@י.-פל. כתב:

שהן?

חומרה פיזית, תכנות נמוך, בעיות אבטחה.

לא ברור לגמרי למה התכוונת - אבל בהחלט יש הדגמות רבות בהן AI יצר קושחות מותאמות לחומרות פיזיות שונות ומשונות. כולל שלטי מזגנים וטלוויזיה ועוד.

אם אתה מתכוון ב"תכנות נמוך" לאסמבלי, שפת C/C++ וכו', אז גם בתחום הזה AI הוא מצוין. וכבר כתבו ככה מתכנתי C++ שעשרות שנים במקצוע.

לגבי אבטחה - מודלי AI מצויינים בתחום, לפחות מסוף 2025.

@Shealtiel כתב:

בעיות אבטחה? מי יאמת עוד AI?

כן, בהחלט.

NH.LOCAL

@Shealtiel כתב:

חומרה פיזית

NH.LOCAL כתב:

לא ברור לגמרי למה התכוונת - אבל בהחלט יש הדגמות רבות בהן AI יצר קושחות מותאמות לחומרות פיזיות שונות ומשונות. כולל שלטי מזגנים וטלוויזיה ועוד.

סתם מעניין - בדיוק עכשיו OpenAI פרסמה אתר קטן של פרוייקטי חומרה שנבנו עם קודקס...

https://youcanjustbuildthings.openai.chatgpt.site

רציונל

@NH.LOCAL כתב:

סתם מעניין - בדיוק עכשיו OpenAI פרסמה אתר קטן של פרוייקטי חומרה שנבנו עם קודקס...

איני מבין הרבה בפרויקטי חומרה, אבל זה נראה פרויקטים די קטנים , למרות שגם זה יפה מאוד

NH.LOCAL

@רציונל כתב:

איני מבין הרבה בפרויקטי חומרה, אבל זה נראה פרויקטים די קטנים , למרות שגם זה יפה מאוד

אכן. זו רק דוגמה מעניינת.

בכל מקרה, גם NVIDIA כותבת חלק גדול מהקוד שלה באמצעות AI, אם אתה מתעקש על המינוח "חומרה" בהקשר ל-AI

עידו300

פוסט זה נמחק!

עידו300

עברנו לhttps://mitmachim.top/topic/102842/בניית-תוכנה-שלימה-עם-ai-מתחילים-את-האתגר?_=1792341998109

מי שיש לו מה להוסיף, מוזמן.

כמו שזה נראה מהתגובות אין באמת פרומפטים "נכונים", אני גם לא רואה מה יכול להיות מיוחד בפרומפט שאומר לעבוד לפי הסדר שתוכנן מראש...

עידו300

@NH.LOCAL כתב:

מאובטח

נושא פתור לפחות חצי שנה. AI מצוין בזה. באיתור בעיות אבטחה הוא טוב ומהיר מבני אדם.
הכל עניין של כוונון ותשומת לב מינימלית לנושא. ושימוש בקודקס או קלוד קוד בצורה מקצועית, לא בייס44 ודומיה.

דוגמא טריה מהימים האחרונים

בדיקה של קלוד על מה שGPT סול על אקסטרה הי עשה עם דגש שיהיה מאובטח ואחרי סריקות של באגים אבטחה ואופטמיזציה

️ צריך לטפל עכשיו, לא דרך ה-PR: פ1 חשוף בשרת היום.

השירות שרץ ב-//phone-agent מאמת רק לפי מספר המתקשר.
ב-secrets.env אין PHONE_PIN, ולכן השיחה נפתחת בלי שום קוד.
כל מי שמזייף את המספר שלך יכול להכתיב משימה שתרוץ ב-Codex בחשבון שלך, ולשמוע דוחות של משימות קודמות מהריפו הפרטי.
התיקון ב-PR יחסום את זה רק אחרי מיזוג ופריסה.
מה לעשות עכשיו: להגדיר PHONE_PIN של 6 ספרות לפחות ב-secrets.env ולהפעיל מחדש את שני השירותים. אפשר גם לעצור אותם עד המיזוג.
לא עשיתי את זה בעצמי. זה שירות חי, והקוד צריך להיבחר בידיך.
חמורים נוספים, כבר מתוקנים בקומיטים שעוד לא נדחפו:

פ2: prepare-browser.sh מריץ כ-root מפרש Python ש-phone-agent יכול לכתוב אליו. זה מסלול להשגת root על השרת שמחזיק את הקטלוג ואת הדמון. אל תריץ את הסקריפט הזה בשרת עד המיזוג.

זה 2 מתוך כמה, רק ה2 הקריטיים.
לכן לא הייתי ממהר להגיד שהם עושים את זה טוב

שלץ

@עידו300 נראה לי שאו שאני מפספס משהו, או שאתה (במחילה) מפספס משהו.
@nh.local אמר ש

@NH.LOCAL כתב:

AI מצוין בזה. באיתור בעיות אבטחה הוא טוב ומהיר מבני אדם.

ואתה אמרת ש

@עידו300 כתב:

בדיקה של קלוד על מה שGPT סול על אקסטרה הי עשה

ז"א שקלוד איתר בעיות אבטחה.
נראה שגם כמו שצריך.
נראה שגם

@NH.LOCAL כתב:

באיתור בעיות אבטחה הוא טוב ומהיר מבני אדם.

זה בדיוק מה שהוא אמר.
פספסתי משהו?

עידו300

@שלץ אני אמרתי שהוא גם יוצר בעיות, וגם לא בהכרח מוצא אותם, כמו שGPT לא מצא את הבעיות החמורות שהוא דחף.

זה מה שאני כתבתי שם:

עידו300 כתב:

מאובטח (הAI חופשי יכול לפתוח API או שרת שיהיה פתוח לכל מי שרק מכיר את הקישור) ברמה נורמאלית,

שלץ

@עידו300 עד כמה שאני הבנתי, @nh.local לא טען שהai כותב קוד יותר טוב מבני אדם, אלא מוצא פרצות אבטחה יותר טוב, ונראה שאתה רק מגבה את טענתו.

עידו300

@שלץ יכול למצוא בעיות, חוץ מזה שGPT לא מצא אותה... והשאיר את השרת שלי פתוח לרווחה להרצת קודי פייתון שיכולים להשתלט לי עליו...
ולהשתמש במכסה שלי של GPT

שלץ

@עידו300 כתב:

GPT לא מצא אותה

ממה שהבנתי, זה לא שהוא בדק ופספס אותה, אלה הוא כתב קוד שהיא הייתה חלק ממנו.
שוב, מה שהוא אמר, זה שכשנותנים לai קוד הוא מסוגל למצוא בו פרצות אבטחה יותר טוב מבני אדם.

לא לכתוב טוב יותר,
לא לכתוב מאובטח יותר.
למיטב הבנתי.

עידו300

@שלץ קוד שהוא כתב מאפס ואחר כך בדק אולי אפילו כמה פעמים

שלץ

@עידו300 .

נחכה לתגובתו של @nh.local .
אני רק ביררתי מה שהיה נראה לי שפוספס.
אולי המסקנה מזה היא לתת לקלוד לעבור על קוד של gpt, למרות שעד עכשיו שמעתי רק ההפך...

או שאולי הוא לא עבר על הקוד כמו שצריך, אבל זה אני כבר לא יודע איך לברר...

NH.LOCAL

@שלץ אעשה סדר:

AI טוב גם בכתיבת קוד מאובטח, וגם באיתור בעיות אבטחה.

לגבי השני - הוא כנראה טוב ועדיף בהרבה מבני אדם.

לגבי הראשון - הוא כנראה לכל הפחות ברמת אדם. גם בקוד אנושי תמיד אפשר למצוא בעיות אבטחה.
לכן, כשכותבים קוד עם AI, תמיד מומלץ לבצע סקירה אחרי, גם לזיהוי בעיות אבטחה וגם לזיהוי בעיות אחרות.

תמיד אפשר לייעל לחזק ולשפר קוד קיים, זה לא אומר שהקוד הקיים לא טוב. זה אומר שהוא יכול להפוך לעוד יותר טוב.

@שלץ כתב בבקשת מידע | בניית תוכנה שלימה עם AI:

אולי המסקנה מזה היא לתת לקלוד לעבור על קוד של gpt, למרות שעד עכשיו שמעתי רק ההפך...

לדעתי, אין עניין גדול לתת ל-GPT לבדוק את קלוד או להיפך. פשוט יותר לתת ל-GPT לבדוק את GPT, או לתת לקלוד לבדוק את קלוד. התוצאה זהה

@עידו300 כתב בבקשת מידע | בניית תוכנה שלימה עם AI:

זה 2 מתוך כמה, רק ה2 הקריטיים.
לכן לא הייתי ממהר להגיד שהם עושים את זה טוב

שים לב שאלו הבאגים הכי חמורים באופן יחסי, אבל הם לא בהכרח "קריטיים".

למשל, הבאג שהוא זיהה כחמור (P1) הוא שמישהו יזייף את מספר הטלפון שלך ולכן חייבים להוסיף הגדרה של קוד למספר הטלפון.

איך לומר? הסיכון קיים, אבל זה לא משהו שמונע פריסה...

מעבר לזה, שני הבאגים מדורגים P1 ו-P2. המשמעות היא באגים במדרג שני ושלישי ברמת הקריטיות. P0 נחשב באג קריטי.

שלץ

@NH.LOCAL כתב:

אין עניין גדול לתת ל-GPT לבדוק את קלוד או להיפך. פשוט יותר לתת ל-GPT לבדוק את GPT, או לתת לקלוד לבדוק את קלוד. התוצאה זהה

לכאורה סותר את טענתו של @עידו300 , הוא אומר שכשהוא נתן לgpt לבדוק את gpt הוא לא מצא את הפרצות, וכשהוא נתן לקלוד לבדוק הן נמצאו

@עידו300 כתב:

GPT לא מצא אותה

@עידו300 כתב:

בדק אולי אפילו כמה פעמים

@עידו300 כתב:

בדיקה של קלוד על מה שGPT סול על אקסטרה הי עשה

....

NH.LOCAL

@שלץ הוא נתן לו למצוא בשיחה חדשה או באותו סשן?

שיכתוב בקודקס את הממצאים וישאלו אותו האם זה בכלל נחשב פרצה

שלץ

@NH.LOCAL כתב:

הוא נתן לו למצוא בשיחה חדשה או באותו סשן?

שאלה טובה.
תייג אותו. ( @עידו300 )

ניחוש שלי - אותו סשן. ככה זה נשמע...

> שלץ כתב:

זה אני כבר לא יודע איך לברר...

טוב שיש מי שיודע....