בירור | בינה מלאכותית לנגן

[IGO]

@פסנתר-שקוף
מה בדיוק אתה מנסה לעשות?
יש מודלי שפה גדולים ששוחרו וניתן להריץ מקומית. למשל Llama של מטא.
(אפשר להריץ מודלים כאלו בסמרטפונים ואפילו על ראספברי פאי.)

[yosef368]

@IGO וואלה איזה חידוש. AI אופליין?
קראתי עליו קצת בגיטהאב ולא הבנתי איך מריצים אותו על אנדרואיד.
אם תוכל להסביר אשמח מאד

[IGO]

@yosef368 כתב בבירור | בינה מלאכותית לנגן:

אם תוכל להסביר אשמח מאד

למה זה טוב בדיוק? אם אתה לא איזה ארגון שחשוב לו אבטחת מידע, מה העניין להריץ את זה מקומית? (לחברות הגדולות יש עניין כדי לספק שירותים שמתבססים על זה ללא הקצאה של עיבוד בענן. אבל מה זה יעזור לך)
בכל אופן אם זה מעניין אותך תחפש ברשת, יש הרבה מידע על זה. אני לא מתעסק בזה.

[yosef368]

@IGO אם המכשיר שלי הוא ללא אינטרנט אז זה טוב לי.
חיפשתי קצת ברשת ולא ראיתי הסבר אחד לאנדרואיד אלא למקבוקים וכו'

[IGO]

@yosef368
זה כשדלף הLlama הראשון.
קצת זמן אחרי זה ראיתי ביוטיוב בחור שהריץ על הראספברי פאי שלו (לא זוכר את השם שלו להביא לך קישור)
Llama2 מתוכננת מראש ביחד אם קוואלקום כדי לרוץ חלק על סמארטפונים (לא יודע אם כבר עובד) פה

[yosef368]

@IGO לי יש מעבד MTK בכל אופן אם תדע משהו אשמח שתשתף

[NH.LOCAL]

@yosef368 אתה מתכוון לאחד מדגמי הנגנים הסיניים? אם כן, כנראה שאין לך יותר מידי על מה לבנות. מדובר בנגנים חלשים מאוד עבור מודלי שפה. וכמה שהקטינו את הדרישות של מודלי השפה בדגמים מסויימים, זה עדיין כבד מידי עבור מעבדים חלשים כל כך

[yosef368]

@NH-LOCAL לא. יש לי ג'לי סטאר שיש לו גם הרבה ראם וגם מעבד טוב

[yosef368]

@NH-LOCAL לך ידוע משהו על הרצת AI אופליין באנדרואיד?

[NH.LOCAL]

@yosef368 לא באנדרואיד. כן בווינדוס:

https://mitmachim.top/post/671984