מה כדאי לעשות לפני חסימת מודלי ה-AI המקומיים?
-
@שלץ
אני חושב שכל עוד לא תפרסם קישור זה לא יחסם ורק אם תפיץ הם יעלו על זה (אולי כדאי שתשנה גם את השם)ותפרסם רק אחרי שזה אכן נמחק...
ורק אם תפיץ הם יעלו על זה
לא ממש הגיוני. לפחות בעיני. גיטהאב שייך למייקרוסופט אם אני לא טועה, הם יודעים מה הולך שם.
היתה תקופה שחיפשתי תוכנות RAT בשביל הכיף, והבנתי מהר שכל מה שבגיטהאב מפוקח טוב-טוב...
ותפרסם רק אחרי שזה אכן נמחק
למעשה לא התכוונתי לעצמי, שהרי אם זה אפשרי גיטהאב כנראה יופצץ בריפואים כאלה.
-
ורק אם תפיץ הם יעלו על זה
לא ממש הגיוני. לפחות בעיני. גיטהאב שייך למייקרוסופט אם אני לא טועה, הם יודעים מה הולך שם.
היתה תקופה שחיפשתי תוכנות RAT בשביל הכיף, והבנתי מהר שכל מה שבגיטהאב מפוקח טוב-טוב...
ותפרסם רק אחרי שזה אכן נמחק
למעשה לא התכוונתי לעצמי, שהרי אם זה אפשרי גיטהאב כנראה יופצץ בריפואים כאלה.
-
לפני כחודש כתבתי בפוסט שפרסמתי פה בפורום שבקהילת ה-AI המקומי מתחילים לחשוש מפני חסימה של Hugging Face, והמלצתי להוריד מודלים חשובים לגיבוי.
בזמנו זה היה נראה קונספירציה הזויה, אבל כתבתי שם שאצל טראמפ אי אפשר לדעת כלום, וגם חסימת פייבל 5 היתה נראית הזויה לפני שהתרחשה.
אז כמו שזה נראה, ומיום ליום זה רק מתחזק, הממשל האמריקאי עומד ככל הנראה לחסום גישה למודלים סיניים פתוחים - להורדה ולשימוש באמצעות ספקים (כמו Open Router). מאחר ו-Hugging Face היא חברה אמריקאית, היא תהיה מוכרחת לציית להוראות הממשל, ולחסום את הגישה למודלים הסיניים.
ככל הנראה, הגורם העיקרי לחסימה המסתמנת, הוא לחץ מסיבי שמפעילות ענקיות ה-AI האמריקאיות על הממשל (כולל כמעט-שוחד של סם אלטמן שהציע להעביר 5% ממניות OpenAI לרשות הממשל) ולובי חזק בתוך הממשל ובתי המחוקקים. הרווח ברור - אם מודלים סיניים יהיו חסומים עבור תושב המערב להורדה והרצה עצמית או ע"י ספקי צד ג', הוא יהיה חייב להשתמש אך ורק בשירותיהם, ולא זו בלבד - אלא הם גם יוכלו לשמור על המחירים הגבוהים במקום להתחרות במחירים הנמוכים משמעותית של חברות ה-AI הסיניות (50 מיליון טוקני פלט בפייבל 5 עולים 50$, לעומת 15$ בלבד ב-Kimi K3).
ככל שמתחזקת ההבנה שהמודלים הסיניים הפתוחים סגרו את הפער מול המערביים, כדוגמת GLM 5.2 שמשתווה לאופוס 4.8, ואחריו Kimi K3 שמשתווה לפייבל 5 במדדים רבים ואף עוקף אותו בחלקם, ובקרוב ממש גם Qwen 3.8 שבדרך, הלחץ רק הולך וגובר.
בקיצור, אם אי אפשר לנצח אותם, נחסום אותם.
מצד שני, די ברור שסין אכן משתמשת בזיקוקי מודלים מערביים ברמה מסוימת, וגם אם זה לא הכל (אחרי הכל אי אפשר לעקוף מודל ואפילו לא להתקרב אליו רק עם זיקוקים. הם עושים SFT ו-RL משלהם), ברור שזה ממלא תפקיד נרחב בעליית המודלים הסיניים.
בנוסף, מאוד שקוף שיש פה תכנית לאומית סינית לפוצץ את בועת ה-AI המערבית, שבה תלויה כרגע כל הכלכלה המערבית, באמצעות השקעת מיליארדים על גבי מיליארדים בפיתוח ואימון מודלים חזקים, ושחרורם במשקלים פתוחים ובמחירי הסקה מוזלים להחריד. אין לזה הסבר אחר, מה גם שהסינים ומנהיגיהם מצהירים על כך במפורש.
כשחושבים על זה ככה, זה מאוד הוגן: חברות אמריקאיות רוצות להרוויח כסף, ותפקידה של ממשלת ארה"ב הוא להגן על האינטרסים של אמריקה. אם השקת קמפיין יח"צ שלילי נגד מעבדות סיניות שטוען לזיקוק של מודלים אמריקאיים, הוא אמצעי להשגת יתרון, זה בדיוק מה שיקרה. סין הייתה עושה את אותו הדבר במצבה של ארה"ב, בדיוק כפי שהיא מסיטה את מבטה או אפילו נותנת חסות ממשלתית למגוון גניבות קניין רוחני שרבות מהתעשיות שלה חיות עליה, וכידוע לכל.
אסור לשכוח שבעצם סין נלחמת פה נגד המערב ונגדנו - אם בועת ה-AI תתפוצץ כמו שסין רוצה, הכלכלה המערבית עלולה להזדעזע, מחירים יעלו, ההשקעות שלנו בשוק האמריקאי יצנחו מטה וכו'.
הזעקות המרות נגד חסימת המודלים הפתוחים מגיעות בעיקר מהמטורללים הפרוגרסיביים ותרבות הווק, אויבי אמריקה מתוכה, ששונאים את ארצם ואת כל מה שקשור למערב, ועוצמים עיניים לעובדה שסין מנצלת אותם.
אז מצד אחד בטווח הקצר אנחנו משלמים קצת (הרבה) יותר על המנוי לאנתרופיק ו-OpenAI, אבל ככה הכלכלה המערבית שומרת יחסית על יציבותה וצמיחתה, וזה טוב לכולנו.אי לכך ובהתאם לזאת, נניח למצב להתגלגל בדרך הטבע, וכידוע לב מלכים ושרים ביד ה'.
אבל עכ"פ מבחינתנו, כדאי להתכונן ליום החסימה, שייתכן ותתרחש וייתכן שלא, וייתכן שתכלול רק מודלי ענק, כדי שלא נתחרט אחר כך.
לכן, מומלץ להוריד ולגבות את המודלים הסיניים המתקדמים ביותר, אלה שמתאימים לחומרה שיש לנו כרגע, וגם כאלה שמתאימים לחומרה קצת יותר חזקה שייתכן ותהיה זמינה לנו בעתיד (למרות שעד אז ייתכן והם כבר ייחשבו מודלים חלשים, אבל עדיף מכלום...) או באמצעות הקמת שרתים פרטיים מרוחקים. המודלים העצומים והמעניינים באמת, אלו שחסימתם תהיה באמת דרמטית, פחות רלוונטיים בשבילנו כמובן.אז יצרתי פה רשימה, כדי שמי שמעוניין יוכל להוריד את המודלים הרלוונטיים עבורו, ואז יוכל לנוח על זרי הדפנה ולצפות באדישות מופגנת בקרב בין המעצמות...
אז ככה:
ההמלצה שלי היא קודם כל להוריד את כל מודלי Qwen 3.5 הקטנים, שזה אומר 0.8B, 2B, 4B ו-9B. אלו המודלים השימושיים ביותר עבור חומרה קלאסית, כמו שמן הסתם יש לכם - 0.8B ו-2B מתאימים אפילו לטלפונים חלשים מאוד כמו F21 Pro ודומיו, ואף לחלק מנגני האנדרואיד, 4B מתאים לשימוש יומיומי למחשב סטנדרטי (16 RAM), בלי ללחוץ על תוכנות אחרות, בעברית, ובשילוב עם MCP של חיפוש הוא יכול לתפקד כתחליף ממשי עבור משימות פשוטות כמו ידע, היגיון, תרגום, חילוץ נתונים ועוד, ואפילו כסייען קידוד קטן הוא לא רע, ו-9B מתאים גם למחשב סטנדרטי אם סוגרים את כל התוכנות האחרות, ואז כבר מקבלים קפיצה משמעותית בביצועים, ודאי בשילוב עם כלי MCP מתאימים.
בנוסף, ישנם מודלים סיניים נוספים שכדאי לשמור, כמו MiniCPM5 1B, שמתאים אפילו לטלפונים חלשים אבל מחזיק ביכולות היגיון חזקות מאוד, VibeThinker 3B שמחזיק ביכולת מתקדמת של איתור דרך הפיתרון הטובה ביותר מבין מסלולי פיתרון רבים, Nanbeige 4.2 3B שעוקף מודלים הגדולים ממנו פי 4 באמצעות שיטה מיוחדת לדחיסת ידע בפרמטרים מעטים.
עד כאן מודלים רגילים וקטנים, עבור חומרה חלשה.
אבל אם נרצה בעתיד יכולות AI חזקות יותר בחינם, על חומרה קצת חזקה יותר (32 RAM), מומלץ להוריד גם את המודלים הבאים: Qwen 3.6 27B, שהוא מודל חזק מאוד לקידוד ולשימושים כלליים, ומסוגל להחליף אפילו את רוב השימוש שלכם במודלי ה-AI המערביים, ו-Qwen 3.6 35B A3B שגם הוא מודל מהיר חזק מאוד ומסוגל להחזיק רתמות סוכן לאורך זמן רב, וניתן אפילו להרצה על חומרה חלשה של 16 RAM באמצעות הפרוייקט שלי - SparkMoE.@א.מ.ד. ראיתי שהמלצת על מודל 0.8b / 2b ל f21 pro 3ram
אשמח לדעת כמה זה שוקל והאם אני יכול לכתוב בעברית ולקבל תשובות בעברית
ואם כן אשמח אם תצרף את הקישור הישיר שלהם כי אני לא מצליח למצוא את זה באתר שהבאת
אה ועוד שאלה איזה אפליקציה אני צריך בשביל זה,
מקווה שתוכל לעזור לי... -
@א.מ.ד. ראיתי שהמלצת על מודל 0.8b / 2b ל f21 pro 3ram
אשמח לדעת כמה זה שוקל והאם אני יכול לכתוב בעברית ולקבל תשובות בעברית
ואם כן אשמח אם תצרף את הקישור הישיר שלהם כי אני לא מצליח למצוא את זה באתר שהבאת
אה ועוד שאלה איזה אפליקציה אני צריך בשביל זה,
מקווה שתוכל לעזור לי...אשמח לדעת כמה זה שוקל
2B שוקל כ-1.3GB, וה-0.8B שוקל בערך 0.6GB.
והאם אני יכול לכתוב בעברית ולקבל תשובות בעברית
במודלים האלו - לא. יש לך את דיקטה 3.0 1.7B ששוקל בערך 1.3GB ומיועד לעברית, אבל הוא חלש בהרבה. אני אישית עובד עם טרנסלייט אופליין עם מודלים שלא תומכים בעברית.
ואם כן אשמח אם תצרף את הקישור הישיר שלהם כי אני לא מצליח למצוא את זה באתר שהבאת
שמתי קישורים בפוסט הראשון, מה הבעיה בהם?
אה ועוד שאלה איזה אפליקציה אני צריך בשביל זה
Pocket Pal AI. היא הכי טובה ויציבה לטעמי, אבל יש עוד מאות אפליקציות.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
אשמח לדעת כמה זה שוקל
2B שוקל כ-1.3GB, וה-0.8B שוקל בערך 0.6GB.
והאם אני יכול לכתוב בעברית ולקבל תשובות בעברית
במודלים האלו - לא. יש לך את דיקטה 3.0 1.7B ששוקל בערך 1.3GB ומיועד לעברית, אבל הוא חלש בהרבה. אני אישית עובד עם טרנסלייט אופליין עם מודלים שלא תומכים בעברית.
ואם כן אשמח אם תצרף את הקישור הישיר שלהם כי אני לא מצליח למצוא את זה באתר שהבאת
שמתי קישורים בפוסט הראשון, מה הבעיה בהם?
אה ועוד שאלה איזה אפליקציה אני צריך בשביל זה
Pocket Pal AI. היא הכי טובה ויציבה לטעמי, אבל יש עוד מאות אפליקציות.
-
אני חולם או שאני בהקיץ? חושבים שבאמת לא יהיה אפשרית להוריד אותם גם כשיהיה חסימה רשמית?! הם יחסמו גם כל הVPNים שבעולם? יהיה פה כמו באיראן?
חחח... לא בדיוק וגאכ מספיק שזה עולה לטורנט ואי אפשר לחסום את זה זה יהיה בכל פינה
-
חחח... לא בדיוק וגאכ מספיק שזה עולה לטורנט ואי אפשר לחסום את זה זה יהיה בכל פינה
-
@Nils-Sjoberg אני מדבר אפילו בלי טורנט. להוריד מן האתרים הרשמיים.
@Nils-Sjoberg אני מדבר אפילו בלי טורנט. להוריד מן האתרים הרשמיים
אין אף אתר רשמי עם מודל. כולם שולחים אותך ל-HF, שם הם מאחסנים הכל, ומכיוון ש-HF היא חברה אמריקנית היא היתה מחוייבת לצוותים הממשלתיים.
וכן, זה היה הכיוון, ואילולא ההתגייסות המטורפת של עשרות חברות הענק להגנה על המודלים הפתוחים ביוזמת אנבידיה, בדמות העצומה שחתמו עליה, בסבירות גבוהה מאוד היינו הולכים לשם, ולא אני אומר את זה אלא בכירי הממשל האמריקני, ומבחינתם (ומבחינתנו) כמו שציינתי בפוסט הראשון זה מאוד מובן.
וטורנטים לא יעזרו, כי אף חברה סינית לא תשקיע מיליארדים בפיתוח מודלים שיפורסמו אך ורק כטורנטים. המטרה שלהם היא להציף את המערב במודלים סיניים. -
@Nils-Sjoberg אני מדבר אפילו בלי טורנט. להוריד מן האתרים הרשמיים
אין אף אתר רשמי עם מודל. כולם שולחים אותך ל-HF, שם הם מאחסנים הכל, ומכיוון ש-HF היא חברה אמריקנית היא היתה מחוייבת לצוותים הממשלתיים.
וכן, זה היה הכיוון, ואילולא ההתגייסות המטורפת של עשרות חברות הענק להגנה על המודלים הפתוחים ביוזמת אנבידיה, בדמות העצומה שחתמו עליה, בסבירות גבוהה מאוד היינו הולכים לשם, ולא אני אומר את זה אלא בכירי הממשל האמריקני, ומבחינתם (ומבחינתנו) כמו שציינתי בפוסט הראשון זה מאוד מובן.
וטורנטים לא יעזרו, כי אף חברה סינית לא תשקיע מיליארדים בפיתוח מודלים שיפורסמו אך ורק כטורנטים. המטרה שלהם היא להציף את המערב במודלים סיניים. -
-
@Nils-Sjoberg לפוצץ את בועת ה-ai ומיד איתה את הכלכלה המערבית. פרטתי בפוסט הראשון. הם אומרים את זה במפורש.
-
@Nils-Sjoberg אני מדבר אפילו בלי טורנט. להוריד מן האתרים הרשמיים
אין אף אתר רשמי עם מודל. כולם שולחים אותך ל-HF, שם הם מאחסנים הכל, ומכיוון ש-HF היא חברה אמריקנית היא היתה מחוייבת לצוותים הממשלתיים.
וכן, זה היה הכיוון, ואילולא ההתגייסות המטורפת של עשרות חברות הענק להגנה על המודלים הפתוחים ביוזמת אנבידיה, בדמות העצומה שחתמו עליה, בסבירות גבוהה מאוד היינו הולכים לשם, ולא אני אומר את זה אלא בכירי הממשל האמריקני, ומבחינתם (ומבחינתנו) כמו שציינתי בפוסט הראשון זה מאוד מובן.
וטורנטים לא יעזרו, כי אף חברה סינית לא תשקיע מיליארדים בפיתוח מודלים שיפורסמו אך ורק כטורנטים. המטרה שלהם היא להציף את המערב במודלים סיניים. -
@מד @מומחה123
לא הבנתם את הפואנטה. גם אם תצליחו להשיג גישה למודלים הקיימים, וזה יהיה קשה, בפרט למשתמשים עם סינון, לא יישתלם לחברות הסיניות להמשיך לאמן מודלים בהשקעה של מאות מיליארדים אם זה לא יהיה בשימוש המוני ולגיטימי במערב. לא משקיעים כאלו סכומים בשביל שכמה משוגעים לדבר יצליחו בקושי רב להשתמש במודל. ועוד לא דיברנו על הקושי הטכני בטורנט במשקל של 1.7 TB... -
@מד @מומחה123
לא הבנתם את הפואנטה. גם אם תצליחו להשיג גישה למודלים הקיימים, וזה יהיה קשה, בפרט למשתמשים עם סינון, לא יישתלם לחברות הסיניות להמשיך לאמן מודלים בהשקעה של מאות מיליארדים אם זה לא יהיה בשימוש המוני ולגיטימי במערב. לא משקיעים כאלו סכומים בשביל שכמה משוגעים לדבר יצליחו בקושי רב להשתמש במודל. ועוד לא דיברנו על הקושי הטכני בטורנט במשקל של 1.7 TB... -
@מד @מומחה123
לא הבנתם את הפואנטה. גם אם תצליחו להשיג גישה למודלים הקיימים, וזה יהיה קשה, בפרט למשתמשים עם סינון, לא יישתלם לחברות הסיניות להמשיך לאמן מודלים בהשקעה של מאות מיליארדים אם זה לא יהיה בשימוש המוני ולגיטימי במערב. לא משקיעים כאלו סכומים בשביל שכמה משוגעים לדבר יצליחו בקושי רב להשתמש במודל. ועוד לא דיברנו על הקושי הטכני בטורנט במשקל של 1.7 TB... -
@א.מ.ד. אבל אין עניין להוריד את זה עכשיו, גם אם נוריד עכשיו לא נוריד מודלים עתידיים, ומה שכבר קיים נוכל להוריד בהמשך
@א.מ.ד. אבל אין עניין להוריד את זה עכשיו, גם אם נוריד עכשיו לא נוריד מודלים עתידיים, ומה שכבר קיים נוכל להוריד בהמשך
מה כזה איכפת לך להוריד עכשיו?
כזה קשה?
בעיקר המסר היה לגבי המודלים העתידיים.חבל על הזמן.
צודק. כנראה אתה איש עסוק מאוד. אם אין לך זמן בשביל זה, אז גם אין לך זמן בשביל לחכות לתשובה האיטית המתקבלת במודלים מקומיים, אז זה לא רלוונטי לך גם ככה.
וחות מזה אני חושב שאתה מגזים שרק כמה משוגעים לדבר יצליחו בקושי רב להשתמש במודל, זה בהחלט לא יהיה בקושי רב, וזה יהיה הרבה יותר נפוץ מאפיס פרוץ...
בסדר. תגיד את זה לסינים.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
אשמח לדעת כמה זה שוקל
2B שוקל כ-1.3GB, וה-0.8B שוקל בערך 0.6GB.
והאם אני יכול לכתוב בעברית ולקבל תשובות בעברית
במודלים האלו - לא. יש לך את דיקטה 3.0 1.7B ששוקל בערך 1.3GB ומיועד לעברית, אבל הוא חלש בהרבה. אני אישית עובד עם טרנסלייט אופליין עם מודלים שלא תומכים בעברית.
ואם כן אשמח אם תצרף את הקישור הישיר שלהם כי אני לא מצליח למצוא את זה באתר שהבאת
שמתי קישורים בפוסט הראשון, מה הבעיה בהם?
אה ועוד שאלה איזה אפליקציה אני צריך בשביל זה
Pocket Pal AI. היא הכי טובה ויציבה לטעמי, אבל יש עוד מאות אפליקציות.
שמתי קישורים בפוסט הראשון, מה הבעיה בהם?
אני לא מוצא איפה קישור ישיר להורדה, תוכל לתת קישור ישיר להורדה
וכן תוכל לציין ליד כל מודול במה הוא מתמחה?
למשל אני צריך גם מודול לעברית ומודול לקודהקמת מערכות טלפוניות בימות המשיח! 19smuel@gmail.com
כל לקוחותי מרוצים ויהיו מרוצים בעז"ה! -
אני לא מוצא איפה קישור ישיר להורדה, תוכל לתת קישור ישיר להורדה
לא מורכב. תיכנס לקישורים שהבאתי, ותלחץ על כפתור ההורדה ליד המודל שכתוב בשמו "Q4". אם הסינון שלך חוסם את זה אין לי איך לעזור לצערי.
וכן תוכל לציין ליד כל מודול במה הוא מתמחה?
למשל אני צריך גם מודול לעברית ומודול לקודעיין במדריך שלי למודלים מקומיים, שאגב יעודכן בקרוב בעז"ה.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
אני לא מוצא איפה קישור ישיר להורדה, תוכל לתת קישור ישיר להורדה
לא מורכב. תיכנס לקישורים שהבאתי, ותלחץ על כפתור ההורדה ליד המודל שכתוב בשמו "Q4". אם הסינון שלך חוסם את זה אין לי איך לעזור לצערי.
וכן תוכל לציין ליד כל מודול במה הוא מתמחה?
למשל אני צריך גם מודול לעברית ומודול לקודעיין במדריך שלי למודלים מקומיים, שאגב יעודכן בקרוב בעז"ה.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}