בירור | יש תוכנת בינה מלאכותית?
-
@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה
-
@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
-
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
@ע-1195 לא מסובך במיוחד תסתכל פה https://www.prog.co.il/articles/הדרכה-מאפס-לסטייבל-דפיוזן-בינה-מלאכותית-ביתית-לציור-בחינם.3315/ אמנם זה תוכנה אחרת אבל עיקרון ההתקנה דומה ולהשלמה תסתכל בקישור למדריך ששלחתי
-
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.
-
תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin -
לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)
-
לאחר מכן הורד את קובץ ההפעלה הבא:
Start vicuna.bat -
חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.
-
כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)
אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי
נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984 -
-
@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.
-
תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin -
לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)
-
לאחר מכן הורד את קובץ ההפעלה הבא:
Start vicuna.bat -
חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.
-
כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)
אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדי
נ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984 -
-
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
אגב, יש לך מושג לגבי GPT4ALL?
תוכנה חמודה למדי, אבל לא עובדת טוב בנטפרי
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה
זה תוכנה כבדה מאוד. יכול להיות שלוקח לזה זמן לטעון
 { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}