להורדה | 🤖 צ׳אט כשר – בינה מלאכותית שעובדת אופליין מלא באנדרואיד
-
בעזרת השם יתברך ושליחו 'הנאמן' GPT יצרתי אפליקציה צ'אט כשר עם סינון מקומי מובנה.
מדובר באפליקציה בשם צ׳אט כשר – צ׳אט AI לאנדרואיד שעובד אופליין לגמרי, כשהמודל עצמו נמצא בתוך האפליקציה ולא צריך אינטרנט כדי לשאול שאלות ולקבל תשובות.
הרעיון היה לנסות ליצור צ׳אט AI שיהיה מצד אחד שימושי ונוח בעברית, ומצד שני יעבוד מקומית על המכשיר, עם סינון מובנה ובלי תלות בשרת או בחיבור לרשת.
זה עדיין פרויקט חדש וניסיוני, אז ברור שיש עוד הרבה מה לשפר, אבל כרגע הוא כבר עובד ואשמח שמי שמנסה את האפליקציה ישתף איך היא עובדת אצלו, במיוחד על מכשירים שונים.
מה יש בזה
- שימוש חוזר בהקשר שכבר חושב – כדי להפחית חישוב חוזר במהלך השיחה.
- תשובות קצרות כברירת מחדל ובחירת 1, 2 או 4 תהליכי חישוב בהגדרות.
- מענה מיידי ל־64 ניסוחים של שאלות נפוצות, בלי להמתין ליצירת תשובה מהמודל.
- חישובים פשוטים גם במילים.
- זיהוי שם שהמשתמש מסר באותה שיחה.
- הנחיות מודל של נטפרי .
משקלי המודל לא השתנו; השיפורים אינם הבטחה למהירות מסוימת או לרמת חשיבה של מודל גדול יותר.
אז מה יש כרגע?
- אופליין מלא – גם ההפעלה הראשונה לא דורשת אינטרנט.
- מודל AI מקומי שמגיע כבר בתוך האפליקציה.
ממשק מלא ונוח בעברית.- מערכת סינון מקומית לקלט ולתשובות.
- שמירת שיחות וייצוא שיחות לטקסט.
- אפשרות לביצוע מספר פעולות מאושרות במכשיר.
- יכולות חישוב מובנות.
- מצב בהיר וכהה.
- אפשרות לעדכון האפליקציה ורכיבי ידע/סינון באמצעות קבצים חתומים.
- אין לאפליקציה אפילו הרשאת INTERNET.
- הכל נמצא בתוך APK אחד – מתקינים ומתחילים להשתמש.
הגרסה המלאה שוקלת בערך 724.5MB, בעיקר בגלל שמודל ה-AI עצמו נמצא בתוך האפליקציה.
להורדה מעוגן פליי
חשוב להדגיש: מדובר בפרויקט חדש וניסיוני. הסינון מקומי ועצמאי, אינו סינון רשמי של נטפרי ואינו הרמטי. ייתכנו עדיין תקלות או תשובות לא מדויקות של המודל.
למי שרוצה לדעת מה בדיוק יש בפנים – הסבר מלא
### 🧠 איך זה בכלל עובד בלי אינטרנט?
בניגוד לצ׳אטים רגילים שמעלים את השאלה לשרת ומקבלים ממנו תשובה, ב״צ׳אט כשר״ מודל הבינה המלאכותית נמצא בתוך ה-APK עצמו.
המודל בגרסה הנוכחית הוא Gemma 3 1B IT, בגרסת IQ4_XS מותאמת להרצה מקומית.
קובץ המודל עצמו שוקל בערך 714MB, ולכן רוב המשקל של האפליקציה מגיע ממנו.
לאחר התקנת הגרסה המלאה אין צורך להוריד מודל, לבחור קובץ או לבצע התקנה נוספת.
אפילו בהפעלה הראשונה – הכל כבר נמצא במכשיר.
האפליקציה מוגדרת ללא הרשאת
INTERNET, כך שהצ׳אט עצמו לא תלוי בשרת חיצוני.
ומה לגבי מכשירים חלשים?אחת המטרות הייתה שהאפליקציה לא תדרוש מכשיר דגל בשביל לעבוד.
ה-APK נבנה עם תמיכה גם ב־ARM64 וגם ב־ARMv7.
עם זאת, חשוב לזכור שמדובר במודל AI אמיתי שרץ מקומית. לכן במכשירים חלשים התשובות יכולות לקחת זמן.
מומלץ מכשיר עם 2GB RAM ומעלה. במכשירים עם כ־1GB RAM אפשר להשתמש בכלים ובמענה מהמאגר המקומי, אך מודל ה-AI המלא אינו נטען.
כלומר: היתרון הגדול הוא שהכל מקומי – המחיר הוא שהמהירות תלויה מאוד במעבד ובזיכרון של המכשיר.
️ איך עובד הסינון?האפליקציה כוללת שכבת סינון מקומית שמיועדת לבדוק הן את מה שנכתב לצ׳אט והן את התשובות שמתקבלות מהמודל.
נעשו בדיקות בין היתר על סינון בעברית ובאנגלית, ניסיונות עקיפה באמצעות שינויים במילים ודפוסי שיחה שונים.
חשוב לי לא לטעון משהו שלא נכון: הסינון כרגע ניסיוני ואינו סינון רשמי או הרמטי.
המטרה היא להמשיך לשפר אותו בגרסאות הבאות.
השיחותאפשר לנהל שיחה רגילה עם המודל בעברית, והשיחות נשמרות באפליקציה.
יש גם אפשרות לייצא שיחה לקובץ טקסט, כדי שאפשר יהיה לשמור תשובה או להעביר אותה למקום אחר.
פעולות במכשירנוסף גם מנגנון שמאפשר לצ׳אט לזהות בקשות מסוימות לפעולות במכשיר ולהעביר אותן למערכת פעולות מוגדרת ומוגבלת.
המטרה היא שבהמשך הצ׳אט לא יהיה רק מקום ששואלים בו שאלות, אלא יוכל גם לעזור בפעולות שימושיות במכשיר – תוך הגבלה לפעולות שהאפליקציה מאפשרת.
נעשו בדיקות גם לזיהוי פקודות, שלילת פעולה ורצפים של פעולות.
🧮 חישובים
מלבד מודל השפה עצמו, קיימות באפליקציה יכולות חישוב מקומיות, כך שבמקרים מתאימים לא חייבים להסתמך רק על היכולת של המודל לבצע חשבון.
בגרסה החדשה נוסף גם זיהוי של חישובים פשוטים הנכתבים במילים.
איך העדכונים עובדים?מכיוון שהאפליקציה אופליין, היא לא צריכה להתחבר בכל פעם לשרת בשביל לעבוד.
כאשר יוצאת גרסת APK חדשה, אפשר להוריד את הגרסה החתומה החדשה ולהתקין אותה מעל הגרסה הקיימת.
בנוסף קיימת אפשרות לעדכונים חתומים של רכיבים מסוימים, כגון ידע וכללי סינון, באמצעות קובצי עדכון ייעודיים.
כלומר, אין צורך שהצ׳אט עצמו יהפוך לשירות אונליין בשביל שנוכל לשפר אותו בעתיד.
כמה האפליקציה שוקלת?ה-APK המלא של גרסה 1.1.2 שוקל בדיוק:
724,481,129 bytes – בערך 724.5MB
מתוכם מודל ה-AI הוא בערך 714.4MB.
הסיבה שבחרתי לשים את המודל בתוך האפליקציה היא כדי שהמשתמש יוריד קובץ אחד, יתקין – וזהו.
חתימה ובדיקותה-APK נבנה כגרסת Release חתומה ונבדקו חתימות APK מסוג v1 / v2 / v3 וכן התאמות הנדרשות לקבצים ולספריות המקומיות.
בוצעו גם עשרות בדיקות לליבת האפליקציה, בין היתר על:
חישובים, סינון בעברית ובאנגלית, ניסיונות הסוואת מילים, דפוסי שיחה, פעולות במכשיר, שלילת פעולות ורצפים של פעולות.
בגרסה 1.1.2 עברו גם 25 בדיקות ממשק וייבוא באמולטור Android. יצירת תשובות ושימוש חוזר בהקשר נבדקו עם המודל בפועל ב־Linux. התקנת עדכון ומהירות AI בטלפון פיזי טרם נבדקו.
דרישות אנדרואידהאפליקציה מוגדרת החל מ־Android 6 – API 23, עם Target של API 35.
כאמור, לגרסה המלאה מומלץ שיהיו לפחות 2GB RAM.
ומה רמת ה-AI?צריך לתאם ציפיות
זהו מודל קטן יחסית שנבחר במכוון כדי שאפשר יהיה להפעיל אותו ישירות בטלפון וללא אינטרנט.
הוא יודע לענות על שאלות, להסביר מושגים, לנהל שיחה ולבצע משימות טקסט פשוטות, אבל הוא כמובן לא ברמה של מודלי הענן הגדולים.
היתרון שלו הוא אחר:
הוא נמצא אצלכם בכיס, עובד מקומית ולא צריך אינטרנט בשביל לחשוב ולענות.
חשוב
זו גרסה חדשה בפרויקט ניסיוני.
למרות הבדיקות שנעשו, עדיין יכולים להיות באגים, מכשירים שבהם הביצועים פחות טובים, תשובות שגויות של המודל ומקרים שהסינון עדיין לא מכסה.
אשמח במיוחד לקבל דיווחים ממשתמשים שניסו את האפליקציה על מכשירים שונים – איזה מכשיר, כמה RAM, מהירות התשובות ותקלות שנתקלתם בהן.
לי אישית עובד בM36 Plus .
אם יהיה עניין, אשתדל להמשיך לפתח ולשפר את צ׳אט כשר, לשפר את מהירות העבודה והסינון ולהוסיף יכולות נוספות בגרסאות הבאות.
שימו לב ! האפליקציה די איטית, וכן הוא לפעמים מחרבש מילים, עצה שלי, לא להשאר איתו בשיחה יותר מכמה שאלות, אלא תפתחו שיחה חדשה .
אשמח לשמוע הערות, רעיונות ודיווחי באגים
-
זה מגניב מאד אבל בגלל שזה מודל מקומי קטן הייתי שמח לדעת באיזה שאלות אפשר לסמוך עליו? נניח אני שואל אותו כמה קלוריות יש באשכולית אדומה,הוא יודע לענות?
חשבתי שיהיה מגניב למודל מקומי שיהיה לו אשרות להפעיל דברים בטלפון ושיהיה אפשר להקצות לו איזה קיצור דרך ואז לבקש ממנו דברים כגון תדליק שעון מעורר ל6 בבוקר ותפעיל שיר מהנגן מוזיקה (או שכבר יש) .
בקיצור אשמח לדעת מה השימושים שלו בפועל? -
זה מגניב מאד אבל בגלל שזה מודל מקומי קטן הייתי שמח לדעת באיזה שאלות אפשר לסמוך עליו? נניח אני שואל אותו כמה קלוריות יש באשכולית אדומה,הוא יודע לענות?
חשבתי שיהיה מגניב למודל מקומי שיהיה לו אשרות להפעיל דברים בטלפון ושיהיה אפשר להקצות לו איזה קיצור דרך ואז לבקש ממנו דברים כגון תדליק שעון מעורר ל6 בבוקר ותפעיל שיר מהנגן מוזיקה (או שכבר יש) .
בקיצור אשמח לדעת מה השימושים שלו בפועל?חשבתי שיהיה מגניב למודל מקומי שיהיה לו אשרות להפעיל דברים בטלפון ושיהיה אפשר להקצות לו איזה קיצור דרך ואז לבקש ממנו דברים כגון תדליק שעון מעורר ל6 בבוקר ותפעיל שיר מהנגן מוזיקה (או שכבר יש) .
יש משהו דומה שלי ושל @בסדבסד https://mitmachim.top/topic/102034/להורדה-עוזר-אישי-מטורף-לאנדרואיד-זיהוי-דיבור-מטורף-חיפוש-בקבצי-zim-ועוד/181
שקלתי למזג, אולי בהמשך . -
זה מגניב מאד אבל בגלל שזה מודל מקומי קטן הייתי שמח לדעת באיזה שאלות אפשר לסמוך עליו? נניח אני שואל אותו כמה קלוריות יש באשכולית אדומה,הוא יודע לענות?
חשבתי שיהיה מגניב למודל מקומי שיהיה לו אשרות להפעיל דברים בטלפון ושיהיה אפשר להקצות לו איזה קיצור דרך ואז לבקש ממנו דברים כגון תדליק שעון מעורר ל6 בבוקר ותפעיל שיר מהנגן מוזיקה (או שכבר יש) .
בקיצור אשמח לדעת מה השימושים שלו בפועל?חשבתי שיהיה מגניב למודל מקומי שיהיה לו אשרות להפעיל דברים בטלפון ושיהיה אפשר להקצות לו איזה קיצור דרך ואז לבקש ממנו דברים כגון תדליק שעון מעורר ל6 בבוקר ותפעיל שיר מהנגן מוזיקה (או שכבר יש) .
בהחלט יש אחלה אפליקציה ש @מוקד-המערכות ו @בסדבסד עשו ממש לאחרונה להורדה מעוגן פליי אם אתה מעוניין
@מוקד-המערכות סורי הקדמת אותי בכמה שניות
-
-
-
בעזרת השם יתברך ושליחו 'הנאמן' GPT יצרתי אפליקציה צ'אט כשר עם סינון מקומי מובנה.
מדובר באפליקציה בשם צ׳אט כשר – צ׳אט AI לאנדרואיד שעובד אופליין לגמרי, כשהמודל עצמו נמצא בתוך האפליקציה ולא צריך אינטרנט כדי לשאול שאלות ולקבל תשובות.
הרעיון היה לנסות ליצור צ׳אט AI שיהיה מצד אחד שימושי ונוח בעברית, ומצד שני יעבוד מקומית על המכשיר, עם סינון מובנה ובלי תלות בשרת או בחיבור לרשת.
זה עדיין פרויקט חדש וניסיוני, אז ברור שיש עוד הרבה מה לשפר, אבל כרגע הוא כבר עובד ואשמח שמי שמנסה את האפליקציה ישתף איך היא עובדת אצלו, במיוחד על מכשירים שונים.
מה יש בזה
- שימוש חוזר בהקשר שכבר חושב – כדי להפחית חישוב חוזר במהלך השיחה.
- תשובות קצרות כברירת מחדל ובחירת 1, 2 או 4 תהליכי חישוב בהגדרות.
- מענה מיידי ל־64 ניסוחים של שאלות נפוצות, בלי להמתין ליצירת תשובה מהמודל.
- חישובים פשוטים גם במילים.
- זיהוי שם שהמשתמש מסר באותה שיחה.
- הנחיות מודל של נטפרי .
משקלי המודל לא השתנו; השיפורים אינם הבטחה למהירות מסוימת או לרמת חשיבה של מודל גדול יותר.
אז מה יש כרגע?
- אופליין מלא – גם ההפעלה הראשונה לא דורשת אינטרנט.
- מודל AI מקומי שמגיע כבר בתוך האפליקציה.
- ממשק מלא ונוח בעברית.
- מערכת סינון מקומית לקלט ולתשובות.
- שמירת שיחות וייצוא שיחות לטקסט.
- אפשרות לביצוע מספר פעולות מאושרות במכשיר.
- יכולות חישוב מובנות.
- מצב בהיר וכהה.
- אפשרות לעדכון האפליקציה ורכיבי ידע/סינון באמצעות קבצים חתומים.
- אין לאפליקציה אפילו הרשאת INTERNET.
- הכל נמצא בתוך APK אחד – מתקינים ומתחילים להשתמש.
הגרסה המלאה שוקלת בערך 724.5MB, בעיקר בגלל שמודל ה-AI עצמו נמצא בתוך האפליקציה.
להורדה מעוגן פליי
חשוב להדגיש: מדובר בפרויקט חדש וניסיוני. הסינון מקומי ועצמאי, אינו סינון רשמי של נטפרי ואינו הרמטי. ייתכנו עדיין תקלות או תשובות לא מדויקות של המודל.
למי שרוצה לדעת מה בדיוק יש בפנים – הסבר מלא
### 🧠 איך זה בכלל עובד בלי אינטרנט?
בניגוד לצ׳אטים רגילים שמעלים את השאלה לשרת ומקבלים ממנו תשובה, ב״צ׳אט כשר״ מודל הבינה המלאכותית נמצא בתוך ה-APK עצמו.
המודל בגרסה הנוכחית הוא Gemma 3 1B IT, בגרסת IQ4_XS מותאמת להרצה מקומית.
קובץ המודל עצמו שוקל בערך 714MB, ולכן רוב המשקל של האפליקציה מגיע ממנו.
לאחר התקנת הגרסה המלאה אין צורך להוריד מודל, לבחור קובץ או לבצע התקנה נוספת.
אפילו בהפעלה הראשונה – הכל כבר נמצא במכשיר.
האפליקציה מוגדרת ללא הרשאת
INTERNET, כך שהצ׳אט עצמו לא תלוי בשרת חיצוני. ומה לגבי מכשירים חלשים?אחת המטרות הייתה שהאפליקציה לא תדרוש מכשיר דגל בשביל לעבוד.
ה-APK נבנה עם תמיכה גם ב־ARM64 וגם ב־ARMv7.
עם זאת, חשוב לזכור שמדובר במודל AI אמיתי שרץ מקומית. לכן במכשירים חלשים התשובות יכולות לקחת זמן.
מומלץ מכשיר עם 2GB RAM ומעלה. במכשירים עם כ־1GB RAM אפשר להשתמש בכלים ובמענה מהמאגר המקומי, אך מודל ה-AI המלא אינו נטען.
כלומר: היתרון הגדול הוא שהכל מקומי – המחיר הוא שהמהירות תלויה מאוד במעבד ובזיכרון של המכשיר.
️ איך עובד הסינון?האפליקציה כוללת שכבת סינון מקומית שמיועדת לבדוק הן את מה שנכתב לצ׳אט והן את התשובות שמתקבלות מהמודל.
נעשו בדיקות בין היתר על סינון בעברית ובאנגלית, ניסיונות עקיפה באמצעות שינויים במילים ודפוסי שיחה שונים.
חשוב לי לא לטעון משהו שלא נכון: הסינון כרגע ניסיוני ואינו סינון רשמי או הרמטי.
המטרה היא להמשיך לשפר אותו בגרסאות הבאות.
השיחותאפשר לנהל שיחה רגילה עם המודל בעברית, והשיחות נשמרות באפליקציה.
יש גם אפשרות לייצא שיחה לקובץ טקסט, כדי שאפשר יהיה לשמור תשובה או להעביר אותה למקום אחר.
פעולות במכשירנוסף גם מנגנון שמאפשר לצ׳אט לזהות בקשות מסוימות לפעולות במכשיר ולהעביר אותן למערכת פעולות מוגדרת ומוגבלת.
המטרה היא שבהמשך הצ׳אט לא יהיה רק מקום ששואלים בו שאלות, אלא יוכל גם לעזור בפעולות שימושיות במכשיר – תוך הגבלה לפעולות שהאפליקציה מאפשרת.
נעשו בדיקות גם לזיהוי פקודות, שלילת פעולה ורצפים של פעולות.
🧮 חישובים
מלבד מודל השפה עצמו, קיימות באפליקציה יכולות חישוב מקומיות, כך שבמקרים מתאימים לא חייבים להסתמך רק על היכולת של המודל לבצע חשבון.
בגרסה החדשה נוסף גם זיהוי של חישובים פשוטים הנכתבים במילים.
איך העדכונים עובדים?מכיוון שהאפליקציה אופליין, היא לא צריכה להתחבר בכל פעם לשרת בשביל לעבוד.
כאשר יוצאת גרסת APK חדשה, אפשר להוריד את הגרסה החתומה החדשה ולהתקין אותה מעל הגרסה הקיימת.
בנוסף קיימת אפשרות לעדכונים חתומים של רכיבים מסוימים, כגון ידע וכללי סינון, באמצעות קובצי עדכון ייעודיים.
כלומר, אין צורך שהצ׳אט עצמו יהפוך לשירות אונליין בשביל שנוכל לשפר אותו בעתיד.
כמה האפליקציה שוקלת?ה-APK המלא של גרסה 1.1.2 שוקל בדיוק:
724,481,129 bytes – בערך 724.5MB
מתוכם מודל ה-AI הוא בערך 714.4MB.
הסיבה שבחרתי לשים את המודל בתוך האפליקציה היא כדי שהמשתמש יוריד קובץ אחד, יתקין – וזהו.
חתימה ובדיקותה-APK נבנה כגרסת Release חתומה ונבדקו חתימות APK מסוג v1 / v2 / v3 וכן התאמות הנדרשות לקבצים ולספריות המקומיות.
בוצעו גם עשרות בדיקות לליבת האפליקציה, בין היתר על:
חישובים, סינון בעברית ובאנגלית, ניסיונות הסוואת מילים, דפוסי שיחה, פעולות במכשיר, שלילת פעולות ורצפים של פעולות.
בגרסה 1.1.2 עברו גם 25 בדיקות ממשק וייבוא באמולטור Android. יצירת תשובות ושימוש חוזר בהקשר נבדקו עם המודל בפועל ב־Linux. התקנת עדכון ומהירות AI בטלפון פיזי טרם נבדקו.
דרישות אנדרואידהאפליקציה מוגדרת החל מ־Android 6 – API 23, עם Target של API 35.
כאמור, לגרסה המלאה מומלץ שיהיו לפחות 2GB RAM.
ומה רמת ה-AI?צריך לתאם ציפיות
זהו מודל קטן יחסית שנבחר במכוון כדי שאפשר יהיה להפעיל אותו ישירות בטלפון וללא אינטרנט.
הוא יודע לענות על שאלות, להסביר מושגים, לנהל שיחה ולבצע משימות טקסט פשוטות, אבל הוא כמובן לא ברמה של מודלי הענן הגדולים.
היתרון שלו הוא אחר:
הוא נמצא אצלכם בכיס, עובד מקומית ולא צריך אינטרנט בשביל לחשוב ולענות.
חשוב
זו גרסה חדשה בפרויקט ניסיוני.
למרות הבדיקות שנעשו, עדיין יכולים להיות באגים, מכשירים שבהם הביצועים פחות טובים, תשובות שגויות של המודל ומקרים שהסינון עדיין לא מכסה.
אשמח במיוחד לקבל דיווחים ממשתמשים שניסו את האפליקציה על מכשירים שונים – איזה מכשיר, כמה RAM, מהירות התשובות ותקלות שנתקלתם בהן.
לי אישית עובד בM36 Plus .
אם יהיה עניין, אשתדל להמשיך לפתח ולשפר את צ׳אט כשר, לשפר את מהירות העבודה והסינון ולהוסיף יכולות נוספות בגרסאות הבאות.
שימו לב ! האפליקציה די איטית, וכן הוא לפעמים מחרבש מילים, עצה שלי, לא להשאר איתו בשיחה יותר מכמה שאלות, אלא תפתחו שיחה חדשה .
אשמח לשמוע הערות, רעיונות ודיווחי באגים
@מוקד-המערכות שמע אחי אתה פשוט אלוףףףףףףףף!!! איזה חוכמה ה' נתן לך
איזיה בעל כישרון אתה
🥰
מה הינו עושים בלעדיך
-
בעזרת השם יתברך ושליחו 'הנאמן' GPT יצרתי אפליקציה צ'אט כשר עם סינון מקומי מובנה.
מדובר באפליקציה בשם צ׳אט כשר – צ׳אט AI לאנדרואיד שעובד אופליין לגמרי, כשהמודל עצמו נמצא בתוך האפליקציה ולא צריך אינטרנט כדי לשאול שאלות ולקבל תשובות.
הרעיון היה לנסות ליצור צ׳אט AI שיהיה מצד אחד שימושי ונוח בעברית, ומצד שני יעבוד מקומית על המכשיר, עם סינון מובנה ובלי תלות בשרת או בחיבור לרשת.
זה עדיין פרויקט חדש וניסיוני, אז ברור שיש עוד הרבה מה לשפר, אבל כרגע הוא כבר עובד ואשמח שמי שמנסה את האפליקציה ישתף איך היא עובדת אצלו, במיוחד על מכשירים שונים.
מה יש בזה
- שימוש חוזר בהקשר שכבר חושב – כדי להפחית חישוב חוזר במהלך השיחה.
- תשובות קצרות כברירת מחדל ובחירת 1, 2 או 4 תהליכי חישוב בהגדרות.
- מענה מיידי ל־64 ניסוחים של שאלות נפוצות, בלי להמתין ליצירת תשובה מהמודל.
- חישובים פשוטים גם במילים.
- זיהוי שם שהמשתמש מסר באותה שיחה.
- הנחיות מודל של נטפרי .
משקלי המודל לא השתנו; השיפורים אינם הבטחה למהירות מסוימת או לרמת חשיבה של מודל גדול יותר.
אז מה יש כרגע?
- אופליין מלא – גם ההפעלה הראשונה לא דורשת אינטרנט.
- מודל AI מקומי שמגיע כבר בתוך האפליקציה.
- ממשק מלא ונוח בעברית.
- מערכת סינון מקומית לקלט ולתשובות.
- שמירת שיחות וייצוא שיחות לטקסט.
- אפשרות לביצוע מספר פעולות מאושרות במכשיר.
- יכולות חישוב מובנות.
- מצב בהיר וכהה.
- אפשרות לעדכון האפליקציה ורכיבי ידע/סינון באמצעות קבצים חתומים.
- אין לאפליקציה אפילו הרשאת INTERNET.
- הכל נמצא בתוך APK אחד – מתקינים ומתחילים להשתמש.
הגרסה המלאה שוקלת בערך 724.5MB, בעיקר בגלל שמודל ה-AI עצמו נמצא בתוך האפליקציה.
להורדה מעוגן פליי
חשוב להדגיש: מדובר בפרויקט חדש וניסיוני. הסינון מקומי ועצמאי, אינו סינון רשמי של נטפרי ואינו הרמטי. ייתכנו עדיין תקלות או תשובות לא מדויקות של המודל.
למי שרוצה לדעת מה בדיוק יש בפנים – הסבר מלא
### 🧠 איך זה בכלל עובד בלי אינטרנט?
בניגוד לצ׳אטים רגילים שמעלים את השאלה לשרת ומקבלים ממנו תשובה, ב״צ׳אט כשר״ מודל הבינה המלאכותית נמצא בתוך ה-APK עצמו.
המודל בגרסה הנוכחית הוא Gemma 3 1B IT, בגרסת IQ4_XS מותאמת להרצה מקומית.
קובץ המודל עצמו שוקל בערך 714MB, ולכן רוב המשקל של האפליקציה מגיע ממנו.
לאחר התקנת הגרסה המלאה אין צורך להוריד מודל, לבחור קובץ או לבצע התקנה נוספת.
אפילו בהפעלה הראשונה – הכל כבר נמצא במכשיר.
האפליקציה מוגדרת ללא הרשאת
INTERNET, כך שהצ׳אט עצמו לא תלוי בשרת חיצוני. ומה לגבי מכשירים חלשים?אחת המטרות הייתה שהאפליקציה לא תדרוש מכשיר דגל בשביל לעבוד.
ה-APK נבנה עם תמיכה גם ב־ARM64 וגם ב־ARMv7.
עם זאת, חשוב לזכור שמדובר במודל AI אמיתי שרץ מקומית. לכן במכשירים חלשים התשובות יכולות לקחת זמן.
מומלץ מכשיר עם 2GB RAM ומעלה. במכשירים עם כ־1GB RAM אפשר להשתמש בכלים ובמענה מהמאגר המקומי, אך מודל ה-AI המלא אינו נטען.
כלומר: היתרון הגדול הוא שהכל מקומי – המחיר הוא שהמהירות תלויה מאוד במעבד ובזיכרון של המכשיר.
️ איך עובד הסינון?האפליקציה כוללת שכבת סינון מקומית שמיועדת לבדוק הן את מה שנכתב לצ׳אט והן את התשובות שמתקבלות מהמודל.
נעשו בדיקות בין היתר על סינון בעברית ובאנגלית, ניסיונות עקיפה באמצעות שינויים במילים ודפוסי שיחה שונים.
חשוב לי לא לטעון משהו שלא נכון: הסינון כרגע ניסיוני ואינו סינון רשמי או הרמטי.
המטרה היא להמשיך לשפר אותו בגרסאות הבאות.
השיחותאפשר לנהל שיחה רגילה עם המודל בעברית, והשיחות נשמרות באפליקציה.
יש גם אפשרות לייצא שיחה לקובץ טקסט, כדי שאפשר יהיה לשמור תשובה או להעביר אותה למקום אחר.
פעולות במכשירנוסף גם מנגנון שמאפשר לצ׳אט לזהות בקשות מסוימות לפעולות במכשיר ולהעביר אותן למערכת פעולות מוגדרת ומוגבלת.
המטרה היא שבהמשך הצ׳אט לא יהיה רק מקום ששואלים בו שאלות, אלא יוכל גם לעזור בפעולות שימושיות במכשיר – תוך הגבלה לפעולות שהאפליקציה מאפשרת.
נעשו בדיקות גם לזיהוי פקודות, שלילת פעולה ורצפים של פעולות.
🧮 חישובים
מלבד מודל השפה עצמו, קיימות באפליקציה יכולות חישוב מקומיות, כך שבמקרים מתאימים לא חייבים להסתמך רק על היכולת של המודל לבצע חשבון.
בגרסה החדשה נוסף גם זיהוי של חישובים פשוטים הנכתבים במילים.
איך העדכונים עובדים?מכיוון שהאפליקציה אופליין, היא לא צריכה להתחבר בכל פעם לשרת בשביל לעבוד.
כאשר יוצאת גרסת APK חדשה, אפשר להוריד את הגרסה החתומה החדשה ולהתקין אותה מעל הגרסה הקיימת.
בנוסף קיימת אפשרות לעדכונים חתומים של רכיבים מסוימים, כגון ידע וכללי סינון, באמצעות קובצי עדכון ייעודיים.
כלומר, אין צורך שהצ׳אט עצמו יהפוך לשירות אונליין בשביל שנוכל לשפר אותו בעתיד.
כמה האפליקציה שוקלת?ה-APK המלא של גרסה 1.1.2 שוקל בדיוק:
724,481,129 bytes – בערך 724.5MB
מתוכם מודל ה-AI הוא בערך 714.4MB.
הסיבה שבחרתי לשים את המודל בתוך האפליקציה היא כדי שהמשתמש יוריד קובץ אחד, יתקין – וזהו.
חתימה ובדיקותה-APK נבנה כגרסת Release חתומה ונבדקו חתימות APK מסוג v1 / v2 / v3 וכן התאמות הנדרשות לקבצים ולספריות המקומיות.
בוצעו גם עשרות בדיקות לליבת האפליקציה, בין היתר על:
חישובים, סינון בעברית ובאנגלית, ניסיונות הסוואת מילים, דפוסי שיחה, פעולות במכשיר, שלילת פעולות ורצפים של פעולות.
בגרסה 1.1.2 עברו גם 25 בדיקות ממשק וייבוא באמולטור Android. יצירת תשובות ושימוש חוזר בהקשר נבדקו עם המודל בפועל ב־Linux. התקנת עדכון ומהירות AI בטלפון פיזי טרם נבדקו.
דרישות אנדרואידהאפליקציה מוגדרת החל מ־Android 6 – API 23, עם Target של API 35.
כאמור, לגרסה המלאה מומלץ שיהיו לפחות 2GB RAM.
ומה רמת ה-AI?צריך לתאם ציפיות
זהו מודל קטן יחסית שנבחר במכוון כדי שאפשר יהיה להפעיל אותו ישירות בטלפון וללא אינטרנט.
הוא יודע לענות על שאלות, להסביר מושגים, לנהל שיחה ולבצע משימות טקסט פשוטות, אבל הוא כמובן לא ברמה של מודלי הענן הגדולים.
היתרון שלו הוא אחר:
הוא נמצא אצלכם בכיס, עובד מקומית ולא צריך אינטרנט בשביל לחשוב ולענות.
חשוב
זו גרסה חדשה בפרויקט ניסיוני.
למרות הבדיקות שנעשו, עדיין יכולים להיות באגים, מכשירים שבהם הביצועים פחות טובים, תשובות שגויות של המודל ומקרים שהסינון עדיין לא מכסה.
אשמח במיוחד לקבל דיווחים ממשתמשים שניסו את האפליקציה על מכשירים שונים – איזה מכשיר, כמה RAM, מהירות התשובות ותקלות שנתקלתם בהן.
לי אישית עובד בM36 Plus .
אם יהיה עניין, אשתדל להמשיך לפתח ולשפר את צ׳אט כשר, לשפר את מהירות העבודה והסינון ולהוסיף יכולות נוספות בגרסאות הבאות.
שימו לב ! האפליקציה די איטית, וכן הוא לפעמים מחרבש מילים, עצה שלי, לא להשאר איתו בשיחה יותר מכמה שאלות, אלא תפתחו שיחה חדשה .
אשמח לשמוע הערות, רעיונות ודיווחי באגים
@מוקד-המערכות איך בדיוק עובד הסינון? כווננת את המודל או שזה סינון טקסטואלי? אם זה הנחיית מערכת למודל, לא הייתי בונה על זה. מודל 1B ישן יחסית לא אמור להישמע במדויק להנחיית מערכת ארוכה אם בכלל, ודאי כשהוא לא מבין את משמעותה בכלל.
-
אפליקצייה מטורפת של החיים
שאפו ענק -
@מוקד-המערכות איך בדיוק עובד הסינון? כווננת את המודל או שזה סינון טקסטואלי? אם זה הנחיית מערכת למודל, לא הייתי בונה על זה. מודל 1B ישן יחסית לא אמור להישמע במדויק להנחיית מערכת ארוכה אם בכלל, ודאי כשהוא לא מבין את משמעותה בכלל.
@א.מ.ד. אשמח להתייעץ איתך בנוגע לזה, שלחתי לך בפרטי .
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}