בירור | יתרונות בינה מלאכותית לקוד אופליין?
-
קצת נסטה מהנושא.
מכיון שאני רואה שאתם לא כ"כ ממליצים על סוכנים אופליין...
מישהו יכול לעשות סדר בכל הנושא של הסוכנים?
וכן אני רוצה לעשות מנוי בתשלום ומתלבט איפה קלוד או GPT (שניהם בערך 70 ש"ח לחודש) אולי בכלל משהו אחר?
כמובן מעניין אותי רק קוד לא שאר דברים. -
קצת נסטה מהנושא.
מכיון שאני רואה שאתם לא כ"כ ממליצים על סוכנים אופליין...
מישהו יכול לעשות סדר בכל הנושא של הסוכנים?
וכן אני רוצה לעשות מנוי בתשלום ומתלבט איפה קלוד או GPT (שניהם בערך 70 ש"ח לחודש) אולי בכלל משהו אחר?
כמובן מעניין אותי רק קוד לא שאר דברים. -
קצת נסטה מהנושא.
מכיון שאני רואה שאתם לא כ"כ ממליצים על סוכנים אופליין...
מישהו יכול לעשות סדר בכל הנושא של הסוכנים?
וכן אני רוצה לעשות מנוי בתשלום ומתלבט איפה קלוד או GPT (שניהם בערך 70 ש"ח לחודש) אולי בכלל משהו אחר?
כמובן מעניין אותי רק קוד לא שאר דברים. -
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
-
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
-
@המלאך בדיוק, לחבר כמה LLM אופליין, אבל אם הם עדיין לא בשלים לזה, אז אין ברירה, צריך אונליין.
-
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
לא חפרתי שם יותר מחצי דקה, אבל באופן כללי אתה לכאורה יכול לשנות את ה-URL שם של ה-API של OPEN AI לשרת מקומי של LM STUDIO שמריץ מודלים מקומיים.
-
יש גם את הGSD שנשמע מעניין.
https://www.youtube.com/watch?v=nnZbSXXNzlA -
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
הQwen 3.5 0.8B ממש קטן, משהו כמו ג'יגה, אליו התכוונת?
כן. (כמובן בכימות המדוייק של 4 B הוא אמור לשקול באזור הזה,) כמדומני.
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
והcoder-next שוקלים בערך 159 ג'יגה?
כן.
אבל זה לא הקוואן קודר שאליו התכוונו כמובן.
(זה ממש לא מותאם למחשבים ריגלים),
יש קודר יותר קטנים. -
@עידו300 ה-Qwen 3.5 0.8B שוקל בכימות של 4 ביט 700 MB, אבל אפשר לא לטעון את רכיב הראיה ואז זה רק 530 MB.
Qwen-Coder-Next הוא מודל 80B, ששוקל כ-45 GB.
אבל לכאורה Qwen 3.5 35B יותר טוב גם בקידוד, והוא שוקל כ-20 GB.