בירור | יש תוכנת בינה מלאכותית?
-
@רוצה כתב בבירור | יש תוכנת בינה מלאכותית?:
@לא-מתייאש אני רוצה להוריד תוכנה שיהיה בה כמו באתר של GPT נניח. לא לבנות לבד, אם יש בתוכנה
אתה רוצה כאילו CHAT GPT מקוון ? אין דבר כזה לפי מה שאני יודע. CHAT GPT זה דבר ממש עצום. אוליי יש אנשים שעשו משהו כזה מבוסס על המודל שלו שניתן להוריד אותו אבל נראה לי שזה לא יתקרב ל-CHAT GPT שאתה מכיר.
מצאתי את זה בכל זאת https://github.com/nomic-ai/gpt4all , אין לי מושג מה זה שווה -
@לא-מתייאש תודה רבה עזרת לי מאוד!
@צדיק-תמים תודה. רציתי כאילו בתוכנה אבל הביא לי.
תודה לכולם!!
נפתר -
ר רוצה סימן נושא זה כשאלה ב
-
ר רוצה סימן נושא זה כנפתר ב
-
@לא-מתייאש אם מישהו עדיין מחפש יש את זה https://beebom.com/how-run-chatgpt-like-language-model-pc-offline/ זה "רק" 31 ג'גה
-
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
-
@ע-1195 כתב בבירור | יש תוכנת בינה מלאכותית?:
@משה-משה-1 עם זה עובד לך אשמח עם תוכל לכתוב מדריך מסודר בעברית איך להפעיל.
לי עבד עם מודל שפה בשם ויקונה שמשולב במודל למה, שמבוסס על המודל של מטא.
הוא עובד אופליין לגמרי, ושוקל רק 7 ג'יגה, אבל דורש משאבים עצומים, ובמחשב שלי (I3 דור 10) הוא הספיק בערך 2-3 מילים בדקה...https://huggingface.co/lmsys/vicuna-13b-delta-v1.1
https://github.com/lm-sys/FastChat#vicuna-weights
אם זה מעניין מישהו אפרט יותר על איך מפעילים אותו (זה ממש קל)
-
-
@צללית די פשוט בעקרון. זה מה שאני עשיתי. הקבצים המצורפים כעת מעודכנים יותר.
-
תוריד את הקובץ שבקישור הזה (כ-8 ג'יגה):
https://huggingface.co/vicuna/ggml-vicuna-13b-1.1/blob/main/ggml-vic13b-q4_1.bin -
לאחר מכן הורד את קבצי המודל "llama.cpp", שמפעיל את מודל השפה. זהו קובץ קטן למדי. מהקישור כאן - (מתוך המאגר הזה)
-
לאחר מכן הורד את קובץ ההפעלה הבא:
Start vicuna.bat -
חלץ את קובץ הזיפ לתיקיה והעתק לתוכו את שאר הקבצים שהורדת.
-
כעת, הפעל את קובץ הבאט המצורף - המודל יתחיל לפעול, כל שעליך לעשות זה להקליד תוכן כרצונך ולהקיש אנטר. (הוא עובד בעיקר באנגלית, בעברית הוא גרוע למדי)
אציין שבמחשב חזק שמכיל כמות ראם של 16 ג'יגה ומעלה זה יהיה נחמד. פחות מזה זה יהיה סיוטי למדינ.ב. פרסמתי פוסט מעודכן בנושא בקישור הבא:
https://mitmachim.top/post/671984 -
-
-
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
אגב, יש לך מושג לגבי GPT4ALL?
תוכנה חמודה למדי, אבל לא עובדת טוב בנטפרי
@צללית כתב בבירור | יש תוכנת בינה מלאכותית?:
@NH-LOCAL מוזר, אצלי זה נשאר תקוע על המסך הזה
זה תוכנה כבדה מאוד. יכול להיות שלוקח לזה זמן לטעון
![חיפוש גוגל בפורום](javascript:{bootbox.prompt({title:'<div style="text-align: center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400"></div>',placeholder:'כתוב מילים לחיפוש ב Google',buttons:{confirm:{label:'חיפוש'},cancel:{label:'ביטול'}},backdrop:true,callback:function(result){if(result!=null&&result!=''){var a=document.createElement('a');a.href='https://www.google.co.il/search?q=site:mitmachim.top '+encodeURIComponent(result.trim());a.target='_blank';a.click();}}})();};){kind=link}