מדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
ולמה? מודל מלפני שנה וחצי בערך
כל עוד איננו יודעים (ומחכים להסבר של @א.מ.ד. ) כיצד להשבית את הליך החשיבה, אם המחשב איטי מאוד, זה מאוד מקשה. (תחשוב ש90 אחוז מהמילים שהוא כותב זה בכלל להליך החשיבה..)
(הוא הזכיר לעיל שיש לו רק 2 ליבות מעבד..)
@חובבן-מקצועי בסדר אני יוסיף למדריך איך להשבית את הליך החשיבה
-
א א.מ.ד. התייחס לנושא זה
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
ולמה? מודל מלפני שנה וחצי בערך
כל עוד איננו יודעים (ומחכים להסבר של @א.מ.ד. ) כיצד להשבית את הליך החשיבה, אם המחשב איטי מאוד, זה מאוד מקשה. (תחשוב ש90 אחוז מהמילים שהוא כותב זה בכלל להליך החשיבה..)
(הוא הזכיר לעיל שיש לו רק 2 ליבות מעבד..)
-
@CUBASE כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
@א.מ.ד. זה לא צוין במדריך של @חובבן-מקצועי , כדאי שיעודכן
בכל אופן תודה רבה!, נראה מה הלאה..
כתב במדריך | מדריך בסיסי להתקנה ושימוש במודלים ב-LM Studio:
עכשיו צריך להגדיר לתוכנה בהגדרות מאיפה לקחת את קבצי ה gguf.
בשביל שהתוכנה תקרא את קבצי הgguf אתם צריכים ליצור תיקיות בסדר של תיקייה בתוך תייקיה בתוך תיקייה. הסדר המומלץ לדעתי הוא LM_models/manual><name_model>/file.gguf - (למי שלא הבין - name_model - היינו תוסיפו תיקייה בשם של המודל שלכם. וfile.gguf - זה הקובץ של המודל שפה עצמו).דווקא כן כתוב.. (אולי בלי ההסבר של @ א.מ.ד. למה זה ככה, אבל בהחלט כתבתי שזה צריך להיות תיקייה בתוך תיקייה בתוך תיקייה.. (אגב, זה לא משנה השם, אפילו נתיב של
1/2/3/the_model.ggufיעבוד. (אם תבחר בLM studio את התייקיה 1)
@חובבן-מקצועי כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
דווקא כן כתוב..
לא בדיוק, כתבת
LM_models/manual><name_model>/file.gguf,
ה-**<**manualבלבל אותי, תתקן ל-LM_models/manual/<name_model>/file.ggufבעצם ערבבת בין
/מפריד ל-< -
@חובבן-מקצועי כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
דווקא כן כתוב..
לא בדיוק, כתבת
LM_models/manual><name_model>/file.gguf,
ה-**<**manualבלבל אותי, תתקן ל-LM_models/manual/<name_model>/file.ggufבעצם ערבבת בין
/מפריד ל-<@CUBASE צודק. תיקנתי.
(אגב, היית יכול להבין את זה ממה שכתבתי תיקייה בתוך תייקיה בתוך תיקייה...)
-
@CUBASE צודק. תיקנתי.
(אגב, היית יכול להבין את זה ממה שכתבתי תיקייה בתוך תייקיה בתוך תיקייה...)
@חובבן-מקצועי נכון, אבל דווקא הדוגמא היא זו שגרמה לי לפקפק בהבנה של הדברים
-
יש מודלים שמתאימים גם לאייפד?
תודה רבה
-
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
נשמח שתוסיף גם את הembedding.
לא קשור להרצת מודלים, או למודלי LLM בכללי.
@אליהו-הגדול כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
יש מודלים שמתאימים גם לאייפד?
כן.
תבדוק את המפרט שלך ותתאים לפי זה.
באייפד יש עניין נוסף שיש את השבב ANE. צריך להשתמש בפורמט של אפל שנקרא Core ML. -
-
איך עושים זאת?
@אליהו-הגדול בדיקת מפרט? אין לי אייפד, אבל זה אמור להיות באודות בהגדרות.
-
תודה רבה
-
איך עושים זאת?
@אליהו-הגדול אפליקציית PocketPal AI מיועדת גם ל-IOS.
מפתח אפליקציות אנדרואיד
em0548438097@gmail.com -
@אליהו-הגדול אפליקציית PocketPal AI מיועדת גם ל-IOS.
-
@א.מ.ד. כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
אפליקציית PocketPal AI מיועדת גם ל-IOS
הוא לא התכוון לשכבת הרצה אלא למודל. כך למיטב הבנתי.
@המלאך
תמיד ידעתי שאני מסתדר טוב עם 'מלאכים'...
רק הם מבינים אותי מדויק ומקצועי!!! -
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
נשמח שתוסיף גם את הembedding.
לא קשור להרצת מודלים, או למודלי LLM בכללי.
@אליהו-הגדול כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
יש מודלים שמתאימים גם לאייפד?
כן.
תבדוק את המפרט שלך ותתאים לפי זה.
באייפד יש עניין נוסף שיש את השבב ANE. צריך להשתמש בפורמט של אפל שנקרא Core ML. -
@המלאך כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
לא קשור להרצת מודלים, או למודלי LLM בכללי.
אלא למה?
-
@עידו300 כתב במדריך | מודלי AI מקומיים - מדריך וסקירה מקיפים למודלים קטנים ויעילים - מתעדכן.:
אלא למה?
NLP בכללי.
. { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}