בירור | יתרונות בינה מלאכותית לקוד אופליין?
-
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
פשוט ראיתי את זה https://github.com/cohen-liel/hivemind ודי התלהבתי, אמרתי אולי נעשה את זה מLLM לוקאלים.
לא חפרתי שם יותר מחצי דקה, אבל באופן כללי אתה לכאורה יכול לשנות את ה-URL שם של ה-API של OPEN AI לשרת מקומי של LM STUDIO שמריץ מודלים מקומיים.
-
יש גם את הGSD שנשמע מעניין.
https://www.youtube.com/watch?v=nnZbSXXNzlA -
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
הQwen 3.5 0.8B ממש קטן, משהו כמו ג'יגה, אליו התכוונת?
כן. (כמובן בכימות המדוייק של 4 B הוא אמור לשקול באזור הזה,) כמדומני.
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
והcoder-next שוקלים בערך 159 ג'יגה?
כן.
אבל זה לא הקוואן קודר שאליו התכוונו כמובן.
(זה ממש לא מותאם למחשבים ריגלים),
יש קודר יותר קטנים. -
@עידו300 ה-Qwen 3.5 0.8B שוקל בכימות של 4 ביט 700 MB, אבל אפשר לא לטעון את רכיב הראיה ואז זה רק 530 MB.
Qwen-Coder-Next הוא מודל 80B, ששוקל כ-45 GB.
אבל לכאורה Qwen 3.5 35B יותר טוב גם בקידוד, והוא שוקל כ-20 GB. -
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
ואם אפשר לעשות כמה סוכנים במקביל?
אפשר, אבל מה זה יעזור לך? נחילי סוכנים לא נועדו לתחום הביתי והקליל.
-
@עידו300 כתב בבירור | יתרונות בינה מלאכותית לקוד אופליין?:
@א.מ.ד. אולי כמה ביחד כן יוכלו לעשות תוצר טוב?
מודלים בכזה גודל לא טובים מספיק בשביל לנהל תיזמור רב סוכני.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}