בקשת מידע | בינה מלאכותית אופליין החדשה
-
ראיתי כאן שOPENAI הוציאה בינה חדשה לאופליין, האם היא אמורה להיות טובה, היא עדיפה על המתחרות? עובדת בעברית? כתוב שצריך 16 ג'יגה בייט, היא תעבוד על 8 רק יותר לאט או שלא תעבוד? איך למעשה מפעילים אותה על המחשב?
@אהרן
לא יצא לי משהו החלטי בנוגע לעברית
16 gb זיכרון הכוונה למקום שהמודל תופס על הדיסק קשיח שלך -
@אהרן
לא יצא לי משהו החלטי בנוגע לעברית
16 gb זיכרון הכוונה למקום שהמודל תופס על הדיסק קשיח שלך@יעקב-מ.-פינס כתב בבקשת מידע | בינה מלאכותית אופליין החדשה:
@אהרן
לא יצא לי משהו החלטי בנוגע לעבריתמניסיון קצר, הוא לא משהו בעברית. אחרי קוונטיזציה הוא בטח יהיה עוד הרבה יותר גרוע.
16 gb זיכרון הכוונה למקום שהמודל תופס על הדיסק קשיח שלך
@אהרן 16 ג'יגה הכוונה לכמות ה-VRAM שהוא דורש מהמעבד הגרפי. בפועל, אם יש לך זיכרון ראם גדול - זה אמור להספיק
כמובן שאם תשתמש בגרסאות הקוונטיות זה ידרוש הרבה פחות ראם -
ראיתי כאן שOPENAI הוציאה בינה חדשה לאופליין, האם היא אמורה להיות טובה, היא עדיפה על המתחרות? עובדת בעברית? כתוב שצריך 16 ג'יגה בייט, היא תעבוד על 8 רק יותר לאט או שלא תעבוד? איך למעשה מפעילים אותה על המחשב?
@אהרן כתב בבקשת מידע | בינה מלאכותית אופליין החדשה:
ראיתי כאן שOPENAI הוציאה בינה חדשה לאופליין, האם היא אמורה להיות טובה, היא עדיפה על המתחרות? עובדת בעברית? כתוב שצריך 16 ג'יגה בייט, היא תעבוד על 8 רק יותר לאט או שלא תעבוד? איך למעשה מפעילים אותה על המחשב?
הכי קצת שיש כרגע זה באיזור ה10 גיגה בגרסת GGUF
כמובן שהתוצאות יורדות באיכות גם הם.