@ztcebuck כתב:

@המלאך תבדוק אם הגיע אלייך
אליי עדיין לא הגיע

לא הגיע אלי עדיין, אני עם מנוי שמישהו משתף לי.

@לעכשיו כתב:

כנראה עד עכשיו הוא היה כי לא היה מודל פרו יותר טוב ממנו,

וגם כשלא היה פרו טוב ממנו זה לא היה חכם, זה גרם לאנשים לחשוב (וגמיני עזר להם לחשוב ככה) שהוא יותר טוב מפלאש 3.8 מה שלא נכון בעליל..

לא הבנתי עדיין למה יש גישה בגמיני לgemini 3.1 פרו, למה הוא יעיל? פלאש עוקף אותו במדדים, ויש גם גישה כבר לגמיני 4.
אשמח אם מישהו יאיר את עיניי למה צריך את המודל הזה ברשימה..

לא יודע אם דיברו על זה פה, ואני לא יודע מתי זה שונה (אני שמתי לב לזה רק עכשיו), אבל נטפרי שינו את ההנחיות לגמיני ממש, והוא מסכים לעסוק בדברי תורה, רק עם הגבלות מסויימות (אפשר לראות בסופיילר). מקווה שישפר אותו לטובה.

הבאתי את רוב ההנחיה, אפשר לשים לב שלא מוזכרת מילה על 'אופס, נטפרי לא מסכימים לי לדבר על זה', אלא הוא עונה תשובות כמו "אני פועל על פי הנחיות ועקרונות המותאמים לאורח חיים של שומרי תורה ומצוות, ולכן אינני עוסק במושגים ובתכנים מעין אלו. אשמח לסייע בכל נושא לימודי, מקצועי או מעשי אחר. במה אוכל לעזור?"

Spoiler

גוגל נותנת גישה באנטי גרביטי למודלים החדשים והעדכניים של קלוד! (אמנם המכסה נמוכה מאוד, אבל לא יזיק..)

@יואב-כהן כתב:

ממשתתפי הניסוי בגמיני שם !!

וואו, איזה בר מזל אתה!!

איך הוא מהתרשמות ראשונה?

@The_Yonatan כתב:

וביררתי את זה עם חבר שמבין קצת

אוקי, אז תרשה לנו לחלוק על החבר הזה..

אפילו gemma E2b עוקף אותו במדד.

@The_Yonatan כתב:

וקצת ביררתי,

אני משתמש בגמיני כמעט לכל מטרה, אבל לא לשאלות כמו 'מה המודל המוביל ל..'.

שאלת את גמיני?

@המלאך כתב:

@YOLEVI א"א לדעת, תלוי באופי הפרוייקט, אם היו נותנים לי לבחור בין ג'מיני 3.1 פרו לבין קוואן (שניתן להרצה ביתית) הכי חדש הייתי לוקח את ג'מיני..

מה זה הרצה ביתית?

לפי התמונה הזו - מודל שהוא של 27B לוקח אותו.. (והוא רץ על חומרה נגיד של 32 RAM, אם כי איטי מאוד)

@Wild כתב:

לקהילת הקוד פתוח אין תקציב

בעניין open AI קם כמחקר נטו (ואפשר לקרוא לזה קהילת קוד פתוח, לא?) איך שהוא זה הגיע למה שזה היום.. מאמין שיש כמה מכוני מחקר שלאו למטרות רווח שעושים מחקר בנושא מודלי שפה קטנים..

@א.מ.ד. כתב:

אבל הוא לא סוגר את הפער מול המודלים הגדולים באותו קצב.

אני לא מצפה שהוא יסגור באותו קצב את הפער, אבל בהפרש של שנתיים שלוש בהחלט כן.

@א.מ.ד. כתב:

בסוף יש תקרת זכוכית כמה מודל של מיליארדי פרמטרים בודדים יכול להחזיק. בעבר מערכי הנתונים היו מאוד מלוכלכים, ושיטות האימון היו ראשוניות מאוד ואפילו מחקריות. כיום כל שורת טקסט שנכנסת לאימון מנופה ומסוננת, ושיטות האימון מתקדמות מאוד, וקשה מאוד להשיג התקדמות משמעותית. זו הסיבה לכך שהחברות הגדולות מעלות עוד ועוד את מספר הפרמטרים של המודלים החדשים, מפני שזו הדרך היחידה נכון לעכשיו לקפוץ קדימה.

אותה תקרה קיימת גם במודלי שפה גדולים מעצם העניין של מודלי שפה - שכמה כבר עוד דאטה אתה יכול להכניס. ובסוף ימצאו פטנט חדש שיקפיץ את המודלים (ע"ע 'מהפכת הרזינינג' וטכנולוגית ה'פרמטרים הפעילים') , וממילא מודל קטן בעתיד יכניס בכיס הקטן מודל גדול מסוג אימון של היום.

@א.מ.ד. כתב בעזרה | כל הAI לכתיבת קוד חינם/מגבלה חינמית כאן:

בעבר גם זה מה שהתאפשר להן במסגרת התקציב, כיום הן משקיעות במודלים של טריליוני פרמטרים.

אין עיסוק בקהילת הקוד הפתוח בנושא?

Spoiler

@א.מ.ד. זה גדר של טעם וריח, הממשק של JAN לדעתי יפה ונוח יותר.

@א.מ.ד. כתב:

אני די פסימי בנושא, מכמה סיבות.

נו, זו מחלוקת עתיקה.. כרגע היא בגדר של 'נחיה ונראה..'
אהה, וסיבה למה לחשוב שזה כן יקרה - כי כל פעם שיוצא מודל אופליין טוב חדש אנחנו מתפעלים מהיכולות שלו, ואם זה ימשיך בקצב הזה - אז מודלים מובילים של היום ירוצו על חומרה פשוטה בעוד שנתיים. (וכן, אני מכיר את הטענה שלך שלך שאומרת שזה לא יתקדם בגלל שזה לא רווחי למי שמאמן את המודלים, אבל בינתיים הטענה שלך לא מוכחת, ומה שקורה זה הפוך - המודלים הקטנים ממשיכים להשיג את המודלים שנחשבו לגדולים לפני שנתיים)

@א.מ.ד. כתב:

לא הבנתי מה אהבת כל כך ב-JAN.

את הממשק, הוא פשוט נוח ויפה לשימוש. (בתור סתם צ'אט, אולי ביכולות סוכניות LM יעיל יותר..)
מצורף צילום מסך בספויילר:

Spoiler

@המלאך כתב:

בסוף אם לא תכתוב בצורה ברורה הוא פשוט לא יבין.

ועדיין, הרבה יותר קל להגיע ל'פרודקשן' עם claud 5.5 מאשר עם qwen גירסת אופליין - יהיה גדול אשר יהיה (כמובן שאני מדבר בגדלים שאפשר להריץ על מחשב ביתי, בגודל של טריליון פרמטרים הוא מתחרה עם מודלים מובילים - אבל זה לא רלוונטי בעבור רוב המשתמשים)..

ומודל אונליין יבין גם אם לא כתבת בצורה ההכי ברורה שבעולם.

אם כי אולי יש צדק בדבריך בזה שאפשר פשוט בשיחה מקבילה לדון איתו על פרומפטים לתוכנה שאתה רוצה לבנות.

Spoiler

@א.מ.ד. כתב:

ויש גם מדריך ברור ונוח להרצה של @חובבן-מקצועי

אני אישית ממליץ להשתמש בJAN, הוא הרבה יותר נוח לדעתי, הבעייה היא שעדיין לא הבנתי איך הרצתי אותו על המחשב שלי (הרצתי אותו על המחשב בשיטת ניסוי וטעייה), ומשום כך אני לא יכול לכתוב עליו מדריך.. (הסתבכתי לחלוטין בהגדרה של הlamma.cpp שלו)

@המלאך כתב:

@ישראל123 זה לא התסכלות נכונה, ההסתכלות הנכונה היא שמודלים של טריליוני פרמטרים יכולים להגיע לרמה גבוהה מדי שאנחנו לא מנצלים, והרמה שאנחנו מנצלים במודלים הכי חזקים - אפילו מודלים קטנים יכולים לעשות.

לא התעמקתי בשרשור, אבל גם ההסתכלות שלך היא לא מדוייקת, נכון שהיום במודלים אופליין אפשר להגיע לתוצאות מדהימות, אבל צריך הרבה יותר להכווין אותם, ובשביל לנצל אותם כדבעי צריך להיות אחד שיודע להפיק את המירב גם ממודלים חזקים יותר.. (כי מטבע הדברים יש באגים וכו', וצריך להיות עם ניסיון בעבודה עם כלי AI יותר מאשר אם הכתיבת קוד שלך הייתה על ידי מודל AI מוביל שהוא אונליין).

@אחד-מקצועי של מי הבדיחה הזו? (יעני יש מישהו שבאמת טוען ככה?)
(זה בעצם נראה יותר כמו העתק הדבק מהטבלה של גוגל, אפילו השאירו את האפור במקומות שבהם גוגל מפגרת..)

@פרוזי

וככה הוא נראה במדד של Artificial Analysis, מתחרה ישיר בGPT 6 Astra (max).

Spoiler