מדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!

א.מ.ד.

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

בנוסף, מי שמחזיק במכשיר עם 12 GB RAM, יכול בקלות להריץ באפליקציה הזו מודלים כבדים פי עשר מאלו שהעליתי, שיותר קרובים לרמת האמינות.

אפשר כאלה מודלים?

תמצא המון ב-Hugging Face. תוודא שהגודל שלהם לא יותר גדול מה-RAM הפנוי במכשיר שלך.

אני לא מבין בזה... ולא מבין איך מורידים משם

כמה ram יש לך? אני יחפש לך קישור.

20

זה DEEPSEEK 32B (אמור להבין עברית מעולה, ובאופן כללי הרבה יותר אמין), וזה PHI-4 של מייקרוסופט, וזה MISTRAL SMALL 24B.

עם כזה הרבה RAM האיכות אמורה להיות ממש גבוהה.

מה מהם הכי מומלץ? בכל זאת 16 ג'יגה...

ב-deepseek תשתמש למשימות מורכבות, ובאחד משני האחרים לצ'אט רגיל. את שניהם לא ממש ניסיתי אבל מדברים עליהם גדולות ונצורות...

נחמן פלח

@א-מ-ד ניסתי את deepseek אני שלש דקות מחכה לתשובה

א.מ.ד.

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד ניסתי את deepseek אני שלש דקות מחכה לתשובה

עדיין מחכה?
כנראה בגלל שזה מודל גדול אז לוקח לו זמן.
או שמא יש לך מעבד חלש?
בכל אופן, אצלי ב-f21 pro 3 RAM זה יותר מהיר מבמחשב!

נחמן פלח

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

עדיין מחכה?

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

או שמא יש לך מעבד חלש?

קוולאקום סנאפדרגון 8 גן 2...

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

בכל אופן, אצלי ב-f21 pro 3 RAM זה יותר מהיר מבמחשב

מה הדיפסיק שהבאת לי?

א.מ.ד.

@נחמן-פלח כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

מה הדיפסיק שהבאת לי?

כן

אליהו א.ב

עריכה
בסדר הסתדרתי

אליהו א.ב

פוסט זה נמחק!

טשיקאוור ניוז

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

בכל אופן, אצלי ב-f21 pro 3 RAM זה יותר מהיר מבמחשב!

שלושת המודלים שהבאת לו עובדים בטלפון הזה?
אני לא כ''כ מבין אבל מודל של 16 ג'יגה יכול לעבוד עם 3 ג'יגה ראם?

א.מ.ד.

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

בכל אופן, אצלי ב-f21 pro 3 RAM זה יותר מהיר מבמחשב!

שלושת המודלים שהבאת לו עובדים בטלפון הזה?
אני לא כ''כ מבין אבל מודל של 16 ג'יגה יכול לעבוד עם 3 ג'יגה ראם?

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

בכל אופן, אצלי ב-f21 pro 3 RAM זה יותר מהיר מבמחשב!

שלושת המודלים שהבאת לו עובדים בטלפון הזה?
אני לא כ''כ מבין אבל מודל של 16 ג'יגה יכול לעבוד עם 3 ג'יגה ראם?

התכוונתי בכללי, במודלים שבפוסט הראשון.

טשיקאוור ניוז

@א-מ-ד יש לך מודל טוב שעובד בעברית בחצי טאצ'? כל המודלים שלמעלה אין להם עברית. ואלה שהבאת בהמשך הם גדולים( 8,13, ו 16 ג'יגה) האם הם יעבדו בחצי טאצ'?

א.מ.ד.

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד יש לך מודל טוב שעובד בעברית בחצי טאצ'? כל המודלים שלמעלה אין להם עברית. ואלה שהבאת בהמשך הם גדולים( 8,13, ו 16 ג'יגה) האם הם יעבדו בחצי טאצ'?

לצערי עוד לא, ואין כל כך מה לחפש (כי אין הרבה חברות AI שמאמנות מודלים זעירים על עברית).
כשאמצא - בעז"ה אעלה.
מה שאני עושה עכשיו זה שימוש בגוגל טרנסלייט אופליין בשביל לכתוב שאלות ולתרגם תשובות.

טשיקאוור ניוז

@א-מ-ד כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

תמצא המון ב-Hugging Face. תוודא שהגודל שלהם לא יותר גדול מה-RAM הפנוי במכשיר שלך.

בדקתי שם וחיפשתי עברית עלו לי איזה שלושים תוצאות לרוב מהם לא היה קובץ GGUF אבל גם מאלה שכן היה הורדתי שניים ואחד לא עבד בכלל והשני ענה תשובות מוזרות בלופים.. אבל לפחות בעברית.. אבל ייתכן שכן יש שם משהו טוב. צריך לחפור

א.מ.ד.

@טשיקאוור-ניוז כמה RAM יש לך?

טשיקאוור ניוז

@א-מ-ד חצי טאצ' רגיל, לא אצלי.. כמה אמור להיות לו?

א.מ.ד.

@טשיקאוור-ניוז יש 3 ויש 4.
אם זה 4, תנסה את זה.
אגב, איזה מודל ענה לך בלופים? תוכל לתת קישור? (ייתכן שזה עניין של הגדרת תבנית).

טשיקאוור ניוז

@א-מ-ד הנה הקישור. אבל כבר אמרתי שהוא לא ענה לעניין (וחוץ מזה זה היה בלופים)
https://huggingface.co/Norod78/Hebrew-GPT2-345M-Stage/tree/main

א.מ.ד.

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@א-מ-ד הנה הקישור. אבל כבר אמרתי שהוא לא ענה לעניין (וחוץ מזה זה היה בלופים)
https://huggingface.co/Norod78/Hebrew-GPT2-345M-Stage/tree/main

זה לא מודל צ'אט, אלא מודל יצירת טקסט. הוא לא אמור לענות לך על שאלות אלא לכתוב טקסט (כמו להמציא סיפור).

טשיקאוור ניוז

@א-מ-ד עכשיו אני רואה שיש שם המון מודלים בעברית אז אולי תעשה לי סדר איזה דבר עושה מה? לא חשבתי שיצירת טקסט זה לא צ'אט

טשיקאוור ניוז

@טשיקאוור-ניוז מה אתה אומר על זה? המכשיר יתמוך בו?
ומה זה? תיבת דואר יוצא? מה זה?

א.מ.ד.

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

@טשיקאוור-ניוז מה אתה אומר על זה? המכשיר יתמוך בו?
ומה זה? תיבת דואר יוצא? מה זה?

שניהם גדולים מידי.

@טשיקאוור-ניוז כתב במדריך | כך תריצו מודלי AI מתקדמים על מכשיר האנדרואיד שלכם ללא אינטרנט!!!:

תיבת דואר יוצא

תבטל את התרגום... זה השם שהמשתמש בחר לעצמו...

לדעתי אתה מחפש לשוא. חכה, אני מאמין שדי בקרוב יצאו מודלים זעירים בעברית, בפרט אחרי הלקח מדיפסיק (שהראו שאפשר לפתח מודלים בזול יחסית). כרגע (אם יש לך רק 3 RAM, אין לך מה לחפש עוד. אם יש לך 4 RAM תגיד לי, כי יש לי כמה מודלים שייתכן ויתאימו.