בקשת מידע | להפוך מחשב לשרת - איך מתחילים?
-
@מייבין-במקצת נראה לי שאתה יכול לקנות באלי כרטיס של RAM באיזור ה200 שקל עוד 16 RAM
@הישבשר-המלומד תודה...
אבל אני לא מחפש לשלם בשביל זה - לכן העניין עם המודל המקומי -
@מייבין-במקצת נראה לי שאתה יכול לקנות באלי כרטיס של RAM באיזור ה200 שקל עוד 16 RAM
@הישבשר-המלומד זה תלוי איזה DDR זה כי אם זה 4 ומעלה זה קצת יותר מ-200...
-
@הישבשר-המלומד תודה...
אבל אני לא מחפש לשלם בשביל זה - לכן העניין עם המודל המקומי@מייבין-במקצת כן סבבה אבל בלי קשר למודל הזה המחשב שלך יהיה הרבה יותר נורמלי.
-
@א.מ.ד. לא בדיוק הצלחתי להבין משם - אני מריץ את המודל כרגיל ואז?
-
@מייבין-במקצת נראה לי שאתה יכול לקנות באלי כרטיס של RAM באיזור ה200 שקל עוד 16 RAM
@הישבשר-המלומד אולי תעלה גם עם קישור מומלץ
-
@א.מ.ד. לא בדיוק הצלחתי להבין משם - אני מריץ את המודל כרגיל ואז?
ואז יש לך שרת פתוח על הכתובת של llama.cpp
@א.מ.ד. צריך לאשר את הגישה למחשבים אחרים (מה שאמרת מקודם)?
-
@מישהו12 מה לעשות שאין לי מחשב אחר
-
@מייבין-במקצת שרת vps או להחליף משהו במחשב אני חושב.
@א.מ.ד. אני צודק?
להקים שרת בכמה עשרות דולרים לחודש. אי אפשר להחליף רכיבים במחשב כזה. זה לא מק סטודיו...
-
היי, לפי המפרט שהעלית לא תוכל להריץ עליו שום AI מספיק חכם במהירות נורמלית,
גם VPS עם כרטיס מסך יעלה לך מאות דולרים.
האופצייה היחידה זה להשקיע על מחשב יד שניה עם 32GB DDR4
כרטיס מסך בסיסי (3060, 4060, 5060) ומעלה, ואז תוכל להריץ AI לשאלות כלליות הוא כמובן לא יוכל בחיים להיות חכם כמו ChatGPT וכדומה -
היי, לפי המפרט שהעלית לא תוכל להריץ עליו שום AI מספיק חכם במהירות נורמלית,
גם VPS עם כרטיס מסך יעלה לך מאות דולרים.
האופצייה היחידה זה להשקיע על מחשב יד שניה עם 32GB DDR4
כרטיס מסך בסיסי (3060, 4060, 5060) ומעלה, ואז תוכל להריץ AI לשאלות כלליות הוא כמובן לא יוכל בחיים להיות חכם כמו ChatGPT וכדומה -
-
@המלאך
מגניב ואיך אתה מתכנן להריץ אותו על מחשב מיד שניה עם 5060?יש לך במקרה תקציב למחשב עם 4 RTX 6000 PRO במחיר של 300 אלף דולר?
-
-
@המלאך
אתה רשמת Max, וכמו שרשמתי מודלים קטנים כאלו בחיים לא יתקרבו לרמת הידע וה-reasoning
מה שהמודלים הסיניים האלו עושים זה לחקות צורת חשיבה של מודלים גדולים, אין להם באמת ידע או יכולת חשיבה אמיתית@Yehuda-1 מאיפה הוצאת גם את זה? רזורינג זה לא המצאה מקורית של האמריקאים.
זה עניין תאורטי שכל אחד בוחר לממש בדרך אחרת.
וכבר כתבתי שגירסת ה8b היא ממש לא חיקוי של דגמים אמריקאים והיא די טובה בקידוד.אני לא מאמין בשטויות שהם מעתיקים ממודלים סגורים.. אי אפשר להגיע לרמה כזאת עם העתקה.
ועוד לא דיברנו על התנוונות המודל..
-
עדיין לא הבנתי מה המטרה בדיון שלך?
איפה הבעיה בטענה שלי שהוא בחיים לא יוכל להריץ מודל מקומי שמתקרב לרמת חשיבה של ChatGPT וכדומה?
במיוחד לא בתקציב נמוך / אפסי -
@Yehuda-1 שזה לא נכון.
ספציפית לקידוד.
מודלים פתוחים על המחשב האישי,
בפרט Qwen (שזה MoE) יכולים לרוץ על המחשב הביתי ולעקוף את gpt במודלים הסטנדרטיים שלהם.. -
@המלאך
אשמח לשמוע על מודל פחות מ-12B שמקודד טוב יותר מ-ChatGPT
וזה לא מודל שאימנו אותו ישירות על מבחנים קוד פתוח -
@המלאך
באמת שנסיתי למצוא מקור לזה, אשמח שתצרף מקור למידע שלך, כי הוא מופרך לחלוטיןלגבי זיוף מבחנים, זה דבר אמיתי שקורה: https://youtu.be/enk4w5mRjQY
חוץ מזה ש-Qwen3.8 + Qwen3.7 מעולם לא יצאו לציבור בקוד פתוח ככה שבאמת אין לי מושג מה המקורות שלך
-
@המלאך
באמת שנסיתי למצוא מקור לזה, אשמח שתצרף מקור למידע שלך, כי הוא מופרך לחלוטיןלגבי זיוף מבחנים, זה דבר אמיתי שקורה: https://youtu.be/enk4w5mRjQY
חוץ מזה ש-Qwen3.8 + Qwen3.7 מעולם לא יצאו לציבור בקוד פתוח ככה שבאמת אין לי מושג מה המקורות שלך
@Yehuda-1 צודק חלקית.
התבססתי על מידע שאינו מעודכן.בדקתי ממש עכשיו.
אז כך, עליבאבא מצידה הצהירה שהוא נמצא במקום השני בקידוד, כשפייבל היחיד שעוקף אותו,
בבנצ'מרק של KingBench הוא קיבל 65 מתוך 80-במקום השני אחרי פייבל.מבחן SWE-bench עדיין אין עליו.
הדגם של 32b יחסית לגודל שלו הוא סבבה, כלומר לא מתחרה לסול 5.6 אבל לא 'טיפש'.
המשקלים לא יצאו, אבל עצם זה שהם אמורים לצאת בקרוב מונע ממנה לאמן על מבחנים.
ובכל מקרה אי אפשר לרמות במבחנים שבהם כל אחד יכול להמציא מבחן בעצמו..
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}