עזרה | כל הAI לכתיבת קוד חינם/מגבלה חינמית כאן
-
@א.מ.ד. חזרתי אחורה וחיפשתי איך להוריד מהתוכנה שלך מודלים, ראיתי את הפוסט של @YOLEVI https://mitmachim.top/topic/102079/עזרה-כל-הai-לכתיבת-קוד-חינם-מגבלה-חינמית-כאן/67 ומה שרואים אצלו בתמונה אין אצלי,

-
@א.מ.ד.
תודה על הסבלנות וסליחה על החפירות... -
איפה אני משיג מודלים?
תוריד את הגרסה העדכנית כפרה...
וקצת ביררתי, הבנתי שהמודל הכי טוב לקוד שאני יכול להריץ הוא Qwen 2.5 Coder 7B Instruct, אמנם הוא יהיה ממש איטי אבל אני מעדיף איכות על מהירות. אשמח אם תסביר לי איך לחבר אותו לתוכנה ומאיפה להוריד אותו, אני לא ממש מבין בזה...
מודלים של 2B עוקפים אותו... ומודלים של 7B כיום טובים פי 5 ממנו...
@א.מ.ד. להוריד את כל הדברים שפה?

-
@א.מ.ד. להוריד את כל הדברים שפה?

-
תמונה מתוך התכנה (לא אתה יצרת את התכנה? בטח שיש אופצייה להורדה מתוך התכנה עצמה)
צודק סורי התבלבלתי עם סמארטי. שכחתי אפילו שהכנסתי את האופציה הזאת. אחרי הכל לא כתבתי את זה שורה אחר שורה אלא יחד עם קודקס...
אגב יש אופצייה שסוכן יעבוד ישירות עם SparkMoE? כי כשאני מחבר את OpenCode לOLLAMA עם Qwen3.6-35B-A3B-UD-Q4_K_M.gguf זה פשוט לא זז... (אלא אם כן יש לי בעייה בצורה שחיברתי)
הסיבה שזה לא זז היא שהנחיית המערכת של OpenCode היא בערך 10 אלף טוקנים. על מחשב סטנדרטי עם 16 RAM זה לוקח כמה דקות טובות, ועם מודל גדול עם טכנולוגיית העברת המומחים לדיסק של SparkMoE זה אמור לקחת אף יותר.
אם בכל זאת אתה רוצה לנסות, פשוט תפעיל את SparkMoE ותשנה את כתובת שרת ה-API בתוכנת הסוכן ל-http://127.0.0.1:8080.
ממליץ לך לנסות את מצב שרת מקומי בסמארטי, שתומך ב-"FastMode" - מצב מהיר למודלים מקומיים. משימה קצרה כמו בדיקת מזג אוויר עם מודל כמו Qwen 3.5 4B מסתיימת בהצלחה אחרי כ-5 דקות במחשב הנ"ל.ם בכל זאת אתה רוצה לנסות, פשוט תפעיל את SparkMoE ותשנה את כתובת שרת ה-API בתוכנת הסוכן ל-http://127.0.0.1:8080.
ממליץ לך לנסות את מצב שרת מקומי בסמארטי, שתומך ב-"FastMode" - מצב מהיר למודלים מקומייםכשאני פותח את SparkMoE אוטומטית נפתח שרת ל127.0.0.1:8080?
-
תמונה מתוך התכנה (לא אתה יצרת את התכנה? בטח שיש אופצייה להורדה מתוך התכנה עצמה)
צודק סורי התבלבלתי עם סמארטי. שכחתי אפילו שהכנסתי את האופציה הזאת. אחרי הכל לא כתבתי את זה שורה אחר שורה אלא יחד עם קודקס...
אגב יש אופצייה שסוכן יעבוד ישירות עם SparkMoE? כי כשאני מחבר את OpenCode לOLLAMA עם Qwen3.6-35B-A3B-UD-Q4_K_M.gguf זה פשוט לא זז... (אלא אם כן יש לי בעייה בצורה שחיברתי)
הסיבה שזה לא זז היא שהנחיית המערכת של OpenCode היא בערך 10 אלף טוקנים. על מחשב סטנדרטי עם 16 RAM זה לוקח כמה דקות טובות, ועם מודל גדול עם טכנולוגיית העברת המומחים לדיסק של SparkMoE זה אמור לקחת אף יותר.
אם בכל זאת אתה רוצה לנסות, פשוט תפעיל את SparkMoE ותשנה את כתובת שרת ה-API בתוכנת הסוכן ל-http://127.0.0.1:8080.
ממליץ לך לנסות את מצב שרת מקומי בסמארטי, שתומך ב-"FastMode" - מצב מהיר למודלים מקומיים. משימה קצרה כמו בדיקת מזג אוויר עם מודל כמו Qwen 3.5 4B מסתיימת בהצלחה אחרי כ-5 דקות במחשב הנ"ל. -
תגידו יש דבר כזה להשתמש באופוס 5.5 כמה שאני רוצה בלי מגבלה בכלל? או אם לא, אולי באסטרה?
אתם מחפשים משהו שלא קיים, בהצלחה!@אברהם-גלסר ראיתי סרטון ביוטיוב שמראה איך להשתמש בהם שנגמר הקרדטים...
-
@אברהם-גלסר ראיתי סרטון ביוטיוב שמראה איך להשתמש בהם שנגמר הקרדטים...
@yehokarpel שתף אותנו
-
תגידו יש דבר כזה להשתמש באופוס 5.5 כמה שאני רוצה בלי מגבלה בכלל? או אם לא, אולי באסטרה?
אתם מחפשים משהו שלא קיים, בהצלחה!תגידו יש דבר כזה להשתמש באופוס 5.5 כמה שאני רוצה בלי מגבלה בכלל? או אם לא, אולי באסטרה?
אתם מחפשים משהו שלא קיים, בהצלחה! -
@yehokarpel שתף אותנו
-
צפה ותלמד
-
@yehokarpel שתף אותנו
@YOLEVI את האמת צפתי בסרטון עכשיו הוא רק מראה איך מורדים מודלים של קלוד קוד עם פרמטרים שעד מקסימום 30 מליארד פרמטרים אבל מעבר לכך אתה יכול להוריד אבל המחשב שלך לא יחזיק את זה אז אולי יש לזה פטרון אחר כמו שרת ענן להריץ אותו שם ולבנות תוכנה שמתווכת בין השרת למחשב שלך
סתם לשם השוואה המודלים שאתה מקבל שם בחינם לא כאלה חזקים באופס 5.5 יש בערך בין 5 ל-10 טריליון פרמטרים ופה אתה מקבל רק 30 מליארד ומודלים יותר חלשים
-
ם בכל זאת אתה רוצה לנסות, פשוט תפעיל את SparkMoE ותשנה את כתובת שרת ה-API בתוכנת הסוכן ל-http://127.0.0.1:8080.
ממליץ לך לנסות את מצב שרת מקומי בסמארטי, שתומך ב-"FastMode" - מצב מהיר למודלים מקומייםכשאני פותח את SparkMoE אוטומטית נפתח שרת ל127.0.0.1:8080?
כשאני פותח את SparkMoE אוטומטית נפתח שרת ל127.0.0.1:8080?
כשהשרת פועל - כן.
אפרופו סמארטי כתבת היכנשהו שיש אופצייה לחבר את סמארטי למודול אופליין, איך בדיוק? גם כן עם SparkMoE וכתובת http://127.0.0.1:8080 או שיש לו אופצייה לחיבור ישיר?
עם SparkMoE או כל תוכנה אחרת. אתה בוחר בהגדרות ספק "שרת מקומי", מזין את כתובת השרת (אם תשתמש ב-LM Studio - זה כבר מוגדר כברירת המחדל), ומפעיל בתוכנה מודל כלשהוא, ואז בוחר את המודל בסמארטי.
-
@אברהם-גלסר ראיתי סרטון ביוטיוב שמראה איך להשתמש בהם שנגמר הקרדטים...
@yehokarpel ממש לא!!
את האמת צפתי בסרטון עכשיו
אני לא מבין, עד עכשיו לא צפית??? בזבזת לי 7 דק'....
איך מורדים מודלים של קלוד
ממש לא!! הוא מראה איך להשתמש עם הסוכן של קלוד עם מודולים אופליין שאיננם של קלוד שזה דבר שכולם מכירים ויודעים.....
בקיצור אין שום חידוש...
פעם הבאה לפני לכתוב הודעות מפוצצות (שהם בגדר רעידת אדמה אם זה היה אמיתי) תבדוק שוב כדי להיות בטוח
-
@yehokarpel ממש לא!!
את האמת צפתי בסרטון עכשיו
אני לא מבין, עד עכשיו לא צפית??? בזבזת לי 7 דק'....
איך מורדים מודלים של קלוד
ממש לא!! הוא מראה איך להשתמש עם הסוכן של קלוד עם מודולים אופליין שאיננם של קלוד שזה דבר שכולם מכירים ויודעים.....
בקיצור אין שום חידוש...
פעם הבאה לפני לכתוב הודעות מפוצצות (שהם בגדר רעידת אדמה אם זה היה אמיתי) תבדוק שוב כדי להיות בטוח
@YOLEVI עדיף מכלום פשוט הטאמנייל של הסרטון היה קליק בייט אז סקרן אותי גם לי זה היה נשמע לא הגיוני בכל זאת שלחתי לך
מצטער על העוגמת הנפש(:
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות
