מדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
ולמה? מודל מלפני שנה וחצי בערך
כל עוד איננו יודעים (ומחכים להסבר של @א.מ.ד. ) כיצד להשבית את הליך החשיבה, אם המחשב איטי מאוד, זה מאוד מקשה. (תחשוב ש90 אחוז מהמילים שהוא כותב זה בכלל להליך החשיבה..)
(הוא הזכיר לעיל שיש לו רק 2 ליבות מעבד..)
@חובבן-מקצועי בסדר אני יוסיף למדריך איך להשבית את הליך החשיבה
-
א א.מ.ד. התייחס לנושא זה
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
ולמה? מודל מלפני שנה וחצי בערך
כל עוד איננו יודעים (ומחכים להסבר של @א.מ.ד. ) כיצד להשבית את הליך החשיבה, אם המחשב איטי מאוד, זה מאוד מקשה. (תחשוב ש90 אחוז מהמילים שהוא כותב זה בכלל להליך החשיבה..)
(הוא הזכיר לעיל שיש לו רק 2 ליבות מעבד..)
-
@CUBASE כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
@א.מ.ד. זה לא צוין במדריך של @חובבן-מקצועי , כדאי שיעודכן
בכל אופן תודה רבה!, נראה מה הלאה..
כתב במדריך | מדריך בסיסי להתקנה ושימוש במודלים ב-LM Studio:
עכשיו צריך להגדיר לתוכנה בהגדרות מאיפה לקחת את קבצי ה gguf.
בשביל שהתוכנה תקרא את קבצי הgguf אתם צריכים ליצור תיקיות בסדר של תיקייה בתוך תייקיה בתוך תיקייה. הסדר המומלץ לדעתי הוא LM_models/manual><name_model>/file.gguf - (למי שלא הבין - name_model - היינו תוסיפו תיקייה בשם של המודל שלכם. וfile.gguf - זה הקובץ של המודל שפה עצמו).דווקא כן כתוב.. (אולי בלי ההסבר של @ א.מ.ד. למה זה ככה, אבל בהחלט כתבתי שזה צריך להיות תיקייה בתוך תיקייה בתוך תיקייה.. (אגב, זה לא משנה השם, אפילו נתיב של
1/2/3/the_model.ggufיעבוד. (אם תבחר בLM studio את התייקיה 1)
@חובבן-מקצועי כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
דווקא כן כתוב..
לא בדיוק, כתבת
LM_models/manual><name_model>/file.gguf,
ה-**<**manualבלבל אותי, תתקן ל-LM_models/manual/<name_model>/file.ggufבעצם ערבבת בין
/מפריד ל-< -
@חובבן-מקצועי כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
דווקא כן כתוב..
לא בדיוק, כתבת
LM_models/manual><name_model>/file.gguf,
ה-**<**manualבלבל אותי, תתקן ל-LM_models/manual/<name_model>/file.ggufבעצם ערבבת בין
/מפריד ל-<@CUBASE צודק. תיקנתי.
(אגב, היית יכול להבין את זה ממה שכתבתי תיקייה בתוך תייקיה בתוך תיקייה...)
-
@CUBASE צודק. תיקנתי.
(אגב, היית יכול להבין את זה ממה שכתבתי תיקייה בתוך תייקיה בתוך תיקייה...)
@חובבן-מקצועי נכון, אבל דווקא הדוגמא היא זו שגרמה לי לפקפק בהבנה של הדברים
-
יש מודלים שמתאימים גם לאייפד?
תודה רבה
-
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
נשמח שתוסיף גם את הembedding.
לא קשור להרצת מודלים, או למודלי LLM בכללי.
@אליהו-הגדול כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
יש מודלים שמתאימים גם לאייפד?
כן.
תבדוק את המפרט שלך ותתאים לפי זה.
באייפד יש עניין נוסף שיש את השבב ANE. צריך להשתמש בפורמט של אפל שנקרא Core ML. -
-
איך עושים זאת?
@אליהו-הגדול בדיקת מפרט? אין לי אייפד, אבל זה אמור להיות באודות בהגדרות.
-
תודה רבה
-
איך עושים זאת?
@אליהו-הגדול אפליקציית PocketPal AI מיועדת גם ל-IOS.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@אליהו-הגדול אפליקציית PocketPal AI מיועדת גם ל-IOS.
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
אפליקציית PocketPal AI מיועדת גם ל-IOS
הוא לא התכוון לשכבת הרצה אלא למודל. כך למיטב הבנתי.
@המלאך
תמיד ידעתי שאני מסתדר טוב עם 'מלאכים'...
רק הם מבינים אותי מדויק ומקצועי!!! -
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
נשמח שתוסיף גם את הembedding.
לא קשור להרצת מודלים, או למודלי LLM בכללי.
@אליהו-הגדול כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
יש מודלים שמתאימים גם לאייפד?
כן.
תבדוק את המפרט שלך ותתאים לפי זה.
באייפד יש עניין נוסף שיש את השבב ANE. צריך להשתמש בפורמט של אפל שנקרא Core ML. -
@המלאך כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
לא קשור להרצת מודלים, או למודלי LLM בכללי.
אלא למה?
-
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
אלא למה?
NLP בכללי.
-
@עידו300 לא כל המושג AI זה LLM או בעברית מודל שלם כמו דיפסיק וקוואן.
יש עולם שלם, רוב האנשים לא מכירים את זה.
NLP זה הבנת שפה טבעית, זה תחום בלמידת מכונה, להסביר את זה זה לבקש מדריך על כל המושג AI. זה יגמור את המקום בפורום
.@המלאך לא מטריד אותי שיגמר המקום בפורום, אם זה מה שצריך...
לא בקשתי את כל הnlp, רק את החלק של האמבדינג, ברעיון הוא בסה"כ לוקח את המידע והופך אותו לווקטורים שהLLM יודע לקרוא ולעבד יותר בקלות, לא? וגם כאן מגיע החלק החשוב, אילו מודלים טובים יותר ובעיקר בעברית.
-
@המלאך לא מטריד אותי שיגמר המקום בפורום, אם זה מה שצריך...
לא בקשתי את כל הnlp, רק את החלק של האמבדינג, ברעיון הוא בסה"כ לוקח את המידע והופך אותו לווקטורים שהLLM יודע לקרוא ולעבד יותר בקלות, לא? וגם כאן מגיע החלק החשוב, אילו מודלים טובים יותר ובעיקר בעברית.
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
ברעיון הוא בסה"כ לוקח את המידע והופך אותו לווקטורים שהLLM יודע לקרוא ולעבד יותר בקלות, לא?
בערך.
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
וגם כאן מגיע החלק החשוב, אילו מודלים טובים יותר ובעיקר בעברית.
זה לא קשור לעברית. החלוקה לווקטורים הוא אוניברסלית לכל השפות.
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}