שיתוף | מודל קוד פתוח GPT - OSS
-
אחרי אין ספור שמועות והבטחות OpenAi השיקה אתמול מודל קוד פתוח שמתיימר להיות ברמה של 4 מיני.
יש אותו ב 120B פרמטרים, אבל בשביל זה צריך תחנת עבודה בכדי להריץ אותו (או מקבוק פרו...)
אבל יש גרסה קטנה יותר של 20B פרמטרים שניתנת להרצה על מחשב (סם אלטמן אמנם כתב על פלאפון אבל זה בלתי אפשרי).
היום כבר יצאה ב huggingface גרסה מכווצת שלו ב GGUF.
קישור להורדה
תוכנה שניתן להריץ בה את המודל -
אחרי אין ספור שמועות והבטחות OpenAi השיקה אתמול מודל קוד פתוח שמתיימר להיות ברמה של 4 מיני.
יש אותו ב 120B פרמטרים, אבל בשביל זה צריך תחנת עבודה בכדי להריץ אותו (או מקבוק פרו...)
אבל יש גרסה קטנה יותר של 20B פרמטרים שניתנת להרצה על מחשב (סם אלטמן אמנם כתב על פלאפון אבל זה בלתי אפשרי).
היום כבר יצאה ב huggingface גרסה מכווצת שלו ב GGUF.
קישור להורדה
תוכנה שניתן להריץ בה את המודל -
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
סליחה על השאלות?
הוא מוגבל טוקונים
מה המעלה שהוא קוד פתוח?מוגבל בהקשר או בשימוש?
המעלה של קוד פתוח שאתה יכול להריץ אותו על המחשב אופליין בלי הגבלה.@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
סליחה על השאלות?
הוא מוגבל טוקונים
מה המעלה שהוא קוד פתוח?מוגבל בהקשר?
המעלה של קוד פתוח שאתה יכול להריץ אותו על המחשב אופליין בלי הגבלה.יענו אם אני עובד באונליין אז אני לא יכול להתכתב איתו שעות.
-
אחרי אין ספור שמועות והבטחות OpenAi השיקה אתמול מודל קוד פתוח שמתיימר להיות ברמה של 4 מיני.
יש אותו ב 120B פרמטרים, אבל בשביל זה צריך תחנת עבודה בכדי להריץ אותו (או מקבוק פרו...)
אבל יש גרסה קטנה יותר של 20B פרמטרים שניתנת להרצה על מחשב (סם אלטמן אמנם כתב על פלאפון אבל זה בלתי אפשרי).
היום כבר יצאה ב huggingface גרסה מכווצת שלו ב GGUF.
קישור להורדה
תוכנה שניתן להריץ בה את המודל -
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
סליחה על השאלות?
הוא מוגבל טוקונים
מה המעלה שהוא קוד פתוח?מוגבל בהקשר?
המעלה של קוד פתוח שאתה יכול להריץ אותו על המחשב אופליין בלי הגבלה.יענו אם אני עובד באונליין אז אני לא יכול להתכתב איתו שעות.
-
-
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי כן. זה יהיה קצת איטי אבל נסבל.
איזה מודל אני עכשיו?
הוא יותר טוב מזה?
-
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי 4 מיני. הוא אמור להשתוות לו. כמובן שאחרי הכיווץ הביצועים יורדים.
וזה בעצם מוגבל לי..
אז עדיף לי להשתמש על האופליין בחינם..? -
@למה-באתי לא ממש. ה4 מיני לא מוגבל בכלל, ואתה לא באמת רוצה שהמחשב שלך יעבוד ב 100% כל הזמן.
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי לא ממש. ה4 מיני לא מוגבל בכלל, ואתה לא באמת רוצה שהמחשב שלך יעבוד ב 100% כל הזמן.
למה? בפועל יש ]עמים שהוא אומר לי שדרג לפלוס?
זה מה שהAI אמרו לי שהוא הכי תואם לציפיות שלי. אתה מכיר|?
ההמלצה החזקה ביותר – Qwen2.5‑Coder‑7B‑Instruct -
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי לא ממש. ה4 מיני לא מוגבל בכלל, ואתה לא באמת רוצה שהמחשב שלך יעבוד ב 100% כל הזמן.
למה? בפועל יש ]עמים שהוא אומר לי שדרג לפלוס?
זה מה שהAI אמרו לי שהוא הכי תואם לציפיות שלי. אתה מכיר|?
ההמלצה החזקה ביותר – Qwen2.5‑Coder‑7B‑Instruct@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
למה? בפועל יש ]עמים שהוא אומר לי שדרג לפלוס?
אם אתה מעלה קובץ לשיחה אתה משתמש במודל המתקדם יותר שהוא מוגבל.
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
Qwen2.5‑Coder‑7B‑Instruct
לא ניסיתי אותו ספציפית, אבל מנסיון רוב המודלים האלה כשהם בקוונטיזציה (מה שבפועל אתה מריץ במחשב שלך) לא תומכים כמעט בעברית.
אם אתה רוצה מודל טוב שכן תומך בעברית תנסה את Gemma של גוגל. -
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
למה? בפועל יש ]עמים שהוא אומר לי שדרג לפלוס?
אם אתה מעלה קובץ לשיחה אתה משתמש במודל המתקדם יותר שהוא מוגבל.
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
Qwen2.5‑Coder‑7B‑Instruct
לא ניסיתי אותו ספציפית, אבל מנסיון רוב המודלים האלה כשהם בקוונטיזציה (מה שבפועל אתה מריץ במחשב שלך) לא תומכים כמעט בעברית.
אם אתה רוצה מודל טוב שכן תומך בעברית תנסה את Gemma של גוגל.@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
לא ניסיתי אותו ספציפית, אבל מנסיון רוב המודלים האלה כשהם בקוונטיזציה (מה שבפועל אתה מריץ במחשב שלך) לא תומכים כמעט בעברית.
גם GPT - OSS לא ממש טוב בעברית
כרגע המודל הכי טוב בעברית זה ככל הנראה Claude Opus 4.1 -
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
לא ניסיתי אותו ספציפית, אבל מנסיון רוב המודלים האלה כשהם בקוונטיזציה (מה שבפועל אתה מריץ במחשב שלך) לא תומכים כמעט בעברית.
גם GPT - OSS לא ממש טוב בעברית
כרגע המודל הכי טוב בעברית זה ככל הנראה Claude Opus 4.1@אלי-ויל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
לא ניסיתי אותו ספציפית, אבל מנסיון רוב המודלים האלה כשהם בקוונטיזציה (מה שבפועל אתה מריץ במחשב שלך) לא תומכים כמעט בעברית.
גם GPT - OSS לא ממש טוב בעברית
כרגע המודל הכי טוב בעברית זה ככל הנראה Claude Opus 4.1עבד לי בסדר גמור באנגלית.
השני הוא לא קוד פתוח -
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
120B פרמטרים,
יש לי 40 ראם I7 H דור 13 זה מספיק?
לא
-
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
120B פרמטרים,
יש לי 40 ראם I7 H דור 13 זה מספיק?
לא
@צדיק-תמים כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
120B פרמטרים,
יש לי 40 ראם I7 H דור 13 זה מספיק?
לא
אני הרצתי על אותו המעבד, 16 ראם, RTX 4050 שהוא רק 6 ראם, ועבד יפה מאד.
שים לב שהבאתי גרסת GGUF, זה 10 - 12 גיגה. -
@צדיק-תמים כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@למה-באתי כתב בשיתוף | מודל קוד פתוח GPT - OSS:
@אריאלל כתב בשיתוף | מודל קוד פתוח GPT - OSS:
120B פרמטרים,
יש לי 40 ראם I7 H דור 13 זה מספיק?
לא
אני הרצתי על אותו המעבד, 16 ראם, RTX 4050 שהוא רק 6 ראם, ועבד יפה מאד.
שים לב שהבאתי גרסת GGUF, זה 10 - 12 גיגה.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}