עזרה | כל הAI לכתיבת קוד חינם/מגבלה חינמית כאן
-
-
-
אם מדובר בפרויקט פשוט עוד יש סיכוי קלוש שיעבוד לך עם אופליין וגם זה יקח שעות
בפרויקט מורכב הסיכויים שואפים לאפס -
@המלאך סוכן קידוד ברמה הזאת יתן תוצאות טובות?
@א.מ.ד. נשמח לתגובתך איזה מודול אופליין מומלץ לצורך תכנה להפעלת סוכן לקידוד למחשב I7 דור 11 16 גיגה ראם כרטיס מסך מובנה (מסתמא הכי טוב עם SparkMoE)אתה יכול להשתמש ב-Qwen 3.5 9B, או ב-Ornith 1.5 9B שמשדרג אותו מאוד.
לחילופין, אתה יכול להשתמש ב-SparkMoE עם Qwen 3.6 35B A3B, שאמנם חזק בהרבה אבל זה יהיה קצת יותר איטי. אני בניתי אתר שמחקה את חיפוש גוגל עם המודל הזה, וזה לקח לו חצי שעה אבל התוצאה היתה מאוד יפה וכמעט זהה למקור. -
@המלאך סוכן קידוד ברמה הזאת יתן תוצאות טובות?
@א.מ.ד. נשמח לתגובתך איזה מודול אופליין מומלץ לצורך תכנה להפעלת סוכן לקידוד למחשב I7 דור 11 16 גיגה ראם כרטיס מסך מובנה (מסתמא הכי טוב עם SparkMoE)אתה יכול להשתמש ב-Qwen 3.5 9B, או ב-Ornith 1.5 9B שמשדרג אותו מאוד.
לחילופין, אתה יכול להשתמש ב-SparkMoE עם Qwen 3.6 35B A3B, שאמנם חזק בהרבה אבל זה יהיה קצת יותר איטי. אני בניתי אתר שמחקה את חיפוש גוגל עם המודל הזה, וזה לקח לו חצי שעה אבל התוצאה היתה מאוד יפה וכמעט זהה למקור.@א.מ.ד. איך משתמשים בהם?
-
@א.מ.ד. איך משתמשים בהם?
@א.מ.ד. איך משתמשים בהם?
https://mitmachim.top/topic/95702/מדריך-מודלי-ai-מקומיים-מדריך-וסקירה-מקיפים-עדכון-כ-ח-אב-ה-תשפ-ו/101
ויש גם מדריך ברור ונוח להרצה של @חובבן-מקצועי -
@המלאך עם כמה ראם? כמה פרמטרים? עם ספארקמו?
טכנית לא יכול להיות שאת מה שמודלים של טריליוני פרמטרים עם כח מחשוב בהתאם תקבל במחשב ביתי
לא חולק על כך שאפשר להשתמש בסוכני קוד עם מודלים מקומיים אבל זה אפילו לא מיליונית ממקוון -
@ישראל123 זה לא התסכלות נכונה, ההסתכלות הנכונה היא שמודלים של טריליוני פרמטרים יכולים להגיע לרמה גבוהה מדי שאנחנו לא מנצלים, והרמה שאנחנו מנצלים במודלים הכי חזקים - אפילו מודלים קטנים יכולים לעשות.
@ישראל123 זה לא התסכלות נכונה, ההסתכלות הנכונה היא שמודלים של טריליוני פרמטרים יכולים להגיע לרמה גבוהה מדי שאנחנו לא מנצלים, והרמה שאנחנו מנצלים במודלים הכי חזקים - אפילו מודלים קטנים יכולים לעשות.
לא התעמקתי בשרשור, אבל גם ההסתכלות שלך היא לא מדוייקת, נכון שהיום במודלים אופליין אפשר להגיע לתוצאות מדהימות, אבל צריך הרבה יותר להכווין אותם, ובשביל לנצל אותם כדבעי צריך להיות אחד שיודע להפיק את המירב גם ממודלים חזקים יותר.. (כי מטבע הדברים יש באגים וכו', וצריך להיות עם ניסיון בעבודה עם כלי AI יותר מאשר אם הכתיבת קוד שלך הייתה על ידי מודל AI מוביל שהוא אונליין).
-
@א.מ.ד. איך משתמשים בהם?
https://mitmachim.top/topic/95702/מדריך-מודלי-ai-מקומיים-מדריך-וסקירה-מקיפים-עדכון-כ-ח-אב-ה-תשפ-ו/101
ויש גם מדריך ברור ונוח להרצה של @חובבן-מקצועיויש גם מדריך ברור ונוח להרצה של @חובבן-מקצועי
אני אישית ממליץ להשתמש בJAN, הוא הרבה יותר נוח לדעתי, הבעייה היא שעדיין לא הבנתי איך הרצתי אותו על המחשב שלי (הרצתי אותו על המחשב בשיטת ניסוי וטעייה), ומשום כך אני לא יכול לכתוב עליו מדריך.. (הסתבכתי לחלוטין בהגדרה של הlamma.cpp שלו)
-
@ישראל123 זה לא התסכלות נכונה, ההסתכלות הנכונה היא שמודלים של טריליוני פרמטרים יכולים להגיע לרמה גבוהה מדי שאנחנו לא מנצלים, והרמה שאנחנו מנצלים במודלים הכי חזקים - אפילו מודלים קטנים יכולים לעשות.
לא התעמקתי בשרשור, אבל גם ההסתכלות שלך היא לא מדוייקת, נכון שהיום במודלים אופליין אפשר להגיע לתוצאות מדהימות, אבל צריך הרבה יותר להכווין אותם, ובשביל לנצל אותם כדבעי צריך להיות אחד שיודע להפיק את המירב גם ממודלים חזקים יותר.. (כי מטבע הדברים יש באגים וכו', וצריך להיות עם ניסיון בעבודה עם כלי AI יותר מאשר אם הכתיבת קוד שלך הייתה על ידי מודל AI מוביל שהוא אונליין).
@חובבן-מקצועי הדסת פרומפטים זה לא מיקצוע שמייצר עוד.
כלומר יש גבול לפרומפט, בסוףאתה מגיע למושלם.
אני אומר שאותופרומפט מושלם של אונליין שייך גם באופליין, בסוף אם לא תכתוב בצורה ברורה הוא פשוט לא יבין.. -
@חובבן-מקצועי הדסת פרומפטים זה לא מיקצוע שמייצר עוד.
כלומר יש גבול לפרומפט, בסוףאתה מגיע למושלם.
אני אומר שאותופרומפט מושלם של אונליין שייך גם באופליין, בסוף אם לא תכתוב בצורה ברורה הוא פשוט לא יבין..בסוף אם לא תכתוב בצורה ברורה הוא פשוט לא יבין.
ועדיין, הרבה יותר קל להגיע ל'פרודקשן' עם claud 5.5 מאשר עם qwen גירסת אופליין - יהיה גדול אשר יהיה (כמובן שאני מדבר בגדלים שאפשר להריץ על מחשב ביתי, בגודל של טריליון פרמטרים הוא מתחרה עם מודלים מובילים - אבל זה לא רלוונטי בעבור רוב המשתמשים)..
ומודל אונליין יבין גם אם לא כתבת בצורה ההכי ברורה שבעולם.
אם כי אולי יש צדק בדבריך בזה שאפשר פשוט בשיחה מקבילה לדון איתו על פרומפטים לתוכנה שאתה רוצה לבנות.
אהה, וגם אני חושב שתוך שנתיים רוב מה שצריך לתכנת 'בבית' עבור המשתמש הפשוט בהחלט יהיה אפשר לעשות עם מודלי אופליין, והם יגיעו לרמה מדהימה שלא נופלת על המודלים המובילים נכון להיום, אבל אז כבר מתסבר שגמיני בגירסת לייט יוכל לעשות לך את העבודה עד הסוף, ככה שזה לא יהיה רלוונטי אם השאלה היא 'AI חינמי לכתיבת קוד'
-
ויש גם מדריך ברור ונוח להרצה של @חובבן-מקצועי
אני אישית ממליץ להשתמש בJAN, הוא הרבה יותר נוח לדעתי, הבעייה היא שעדיין לא הבנתי איך הרצתי אותו על המחשב שלי (הרצתי אותו על המחשב בשיטת ניסוי וטעייה), ומשום כך אני לא יכול לכתוב עליו מדריך.. (הסתבכתי לחלוטין בהגדרה של הlamma.cpp שלו)
אני אישית ממליץ להשתמש בJAN, הוא הרבה יותר נוח לדעתי, הבעייה היא שעדיין לא הבנתי איך הרצתי אותו על המחשב שלי (הרצתי אותו על המחשב בשיטת ניסוי וטעייה), ומשום כך אני לא יכול לכתוב עליו מדריך.. (הסתבכתי לחלוטין בהגדרה של הlamma.cpp שלו)
לא הבנתי מה אהבת כל כך ב-JAN.
אני אישית משתמש ב-LM Studio בשביל להפעיל ככה בקלות, וב-SparkMoE המבוסס על llama.cpp באופן ישיר כשאני רוצה להריץ מודלים גדולים, או כשאני רוצה להריץ מודלים רגילים במהירות גבוהה יותר. -
בסוף אם לא תכתוב בצורה ברורה הוא פשוט לא יבין.
ועדיין, הרבה יותר קל להגיע ל'פרודקשן' עם claud 5.5 מאשר עם qwen גירסת אופליין - יהיה גדול אשר יהיה (כמובן שאני מדבר בגדלים שאפשר להריץ על מחשב ביתי, בגודל של טריליון פרמטרים הוא מתחרה עם מודלים מובילים - אבל זה לא רלוונטי בעבור רוב המשתמשים)..
ומודל אונליין יבין גם אם לא כתבת בצורה ההכי ברורה שבעולם.
אם כי אולי יש צדק בדבריך בזה שאפשר פשוט בשיחה מקבילה לדון איתו על פרומפטים לתוכנה שאתה רוצה לבנות.
אהה, וגם אני חושב שתוך שנתיים רוב מה שצריך לתכנת 'בבית' עבור המשתמש הפשוט בהחלט יהיה אפשר לעשות עם מודלי אופליין, והם יגיעו לרמה מדהימה שלא נופלת על המודלים המובילים נכון להיום, אבל אז כבר מתסבר שגמיני בגירסת לייט יוכל לעשות לך את העבודה עד הסוף, ככה שזה לא יהיה רלוונטי אם השאלה היא 'AI חינמי לכתיבת קוד'
-
אהה, וגם אני חושב שתוך שנתיים רוב מה שצריך לתכנת 'בבית' עבור המשתמש הפשוט בהחלט יהיה אפשר לעשות עם מודלי אופליין, והם יגיעו לרמה מדהימה שלא נופלת על המודלים המובילים נכון להיום
אני די פסימי בנושא, מכמה סיבות.
-
אהה, וגם אני חושב שתוך שנתיים רוב מה שצריך לתכנת 'בבית' עבור המשתמש הפשוט בהחלט יהיה אפשר לעשות עם מודלי אופליין, והם יגיעו לרמה מדהימה שלא נופלת על המודלים המובילים נכון להיום
אני די פסימי בנושא, מכמה סיבות.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות