דילוג לתוכן
  • חוקי הפורום
  • פופולרי
  • לא נפתר
  • משתמשים
  • חיפוש גוגל בפורום
  • צור קשר
עיצובים
  • Light
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • Dark
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • ברירת מחדל (ללא עיצוב (ברירת מחדל))
  • ללא עיצוב (ברירת מחדל)
כיווץ
מתמחים טופ
  1. דף הבית
  2. קטגוריות בהרצה
  3. תכנות
  4. בינה מלאכותית - AI
  5. עזרה הדדית - בינה מלאכותית
  6. שיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...

שיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...

מתוזמן נעוץ נעול הועבר עזרה הדדית - בינה מלאכותית
77 פוסטים 21 כותבים 2.3k צפיות 31 עוקבים
  • מהישן לחדש
  • מהחדש לישן
  • הכי הרבה הצבעות
תגובה
  • תגובה כנושא
התחברו כדי לפרסם תגובה
נושא זה נמחק. רק משתמשים עם הרשאות מתאימות יוכלו לצפות בו.
  • א.מ.ד.א א.מ.ד.

    @A0533057932 אכן. כמובן כל עוד לא העליתי רשמית אני לא לוקח אחריות על התשובות שלו... אני כל הזמן משפר אותו מבחינת היכולות ומבחינת הסינון.

    ה מנותק
    ה מנותק
    המלאך
    כתב נערך לאחרונה על ידי
    #59
    פוסט זה נמחק!
    י. פל.י S 2 תגובות תגובה אחרונה
    0
    • ה המלאך

      פוסט זה נמחק!

      י. פל.י מנותק
      י. פל.י מנותק
      י. פל.
      כתב נערך לאחרונה על ידי
      #60

      @המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

      וזה אסור על פי חוקי הפורום

      זה מותר.
      נא להפסיק לכתוב שטויות.

      גאה להיות חלק:
      otzaria.org

      תגובה 1 תגובה אחרונה
      1
      • ה המלאך

        פוסט זה נמחק!

        S מנותק
        S מנותק
        smct
        כתב נערך לאחרונה על ידי
        #61

        @המלאך
        זה גם לא יהיה פתוח למי שבנטפרי כל עוד נטפרי לא אישרה את זה

        תגובה 1 תגובה אחרונה
        0
        • א.מ.ד.א א.מ.ד.

          @A0533057932 אכן. כמובן כל עוד לא העליתי רשמית אני לא לוקח אחריות על התשובות שלו... אני כל הזמן משפר אותו מבחינת היכולות ומבחינת הסינון.

          ע מנותק
          ע מנותק
          עידו300
          כתב נערך לאחרונה על ידי
          #62

          @א.מ.ד. לא עקבתי אחרי כל הדיון, כבר שאלו את נטפרי?

          תגובה 1 תגובה אחרונה
          0
          • י. פל.י י. פל.

            כבר פניתי לנטפרי, וכבר מצאתי את הקישור...

            ה מנותק
            ה מנותק
            המלאך
            כתב נערך לאחרונה על ידי
            #63

            @עידו300 כן. - @י.-פל. שלח בקשה.

            תגובה 1 תגובה אחרונה
            1
            • ה הישבשר המלומד התייחס לנושא זה
            • א.מ.ד.א א.מ.ד.

              אחרי לא מעט שעות של אימון (Fine-tuning) על בסיס המודל החדש של מעבדות Cohere, מודל ששווה נושא בפני עצמו - Tiny-Aya-3.35B, (ותיקי הפורום בטח זוכרים את aya-expanse-8b שהיה מעולה בעברית) הגעתי לתוצאה הבאה: מודל AI שמבין עברית מצוין, ומסונן מראש ברמת המודל לערכי הציבור החרדי.

              מה בעצם עשיתי?
              לקחתי מודל שפה חזק וקטן יחסית (3.35B פרמטרים) ואימנתי אותו על דאטה-סט שבניתי, המונה יותר מ-520 דוגמאות צ'אט, בתמהיל של 70% דוגמאות שליליות (סירוב) ו-30% דוגמאות חיוביות (בקשות רגילות) כדי לשמר את יכולות המודל (- שלא יענה בסירוב על כל שאלה), וכן דוגמאות של צ'אט רב סיבובי ושפות שונות, ואלו התוצאות:

              • סינון מובנה: המודל מסרב לבקשות שכוללות תכנים שאינם מתאימים לרוח הקהילה החרדית, באופן מובנה ולא רק כהנחיית מערכת שניתנת לעקיפה.
              • שימור יכולות: למרות ה"גיור", המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה.
              • עברית איכותית: מבוסס על סדרת Aya, כך שהעברית שלו זורמת הרבה יותר טוב ממודלים אחרים בטווח הגודל שלו.

              המודל פורסם תחת רישיון CC-BY-NC-4.0 - שימוש אישי/קהילתי ללא מטרות רווח.

              כרגע החיסרון היחיד באימון שביצעתי הוא שהמודל למד לענות על כל שאלה בצורה מתומצתת יחסית, כנראה כי התשובות המסורבות בנתוני האימון קצרות מידי, ואני צריך בגרסה הבאה לשפר את מערך הנתונים כך שהמודל יבין שבתשובות רגילות הוא צריך לספק תשובה מלאה ומפורטת.


              המודל הועלה לפלטפורמת אחסון המודלים Hugging Face, אבל כאן הקאץ':
              כרגע אסור להעלות כאן בפורום מודלי AI או קישורים אליהם וכלים להרצת AI אופליין בשל "פריצת סינונים", השאלה היא האם ייתכן שנטפרי יאשרו את המודל (ואז מסתבר שגם הפורום)... זכור לי שלא מזמן משתמש מהפורום דיבר איתם לגבי פתיחת מודל יצירת תמונות, והם השיבו שאם המודל עצמו יהיה חסום מהבסיס ליצירת תוכן לא ראוי ייתכן שהם ייפתחו את המודל להורדה.
              מכיוון שאני גולש עם סינון אחר שאינו נטפרי, אין לי דרך ליצור איתם קשר בנושא, וכן אינני בקיא באופן קבלת ההחלטות שם, אבקש מהציבור אם מישהו יכול לפנות לנטפרי ולשאול על העניין, או לקבל מהם רשימת דרישות שהמודל ייצטרך לעמוד בהן...
              מקווה שהמודל יאושר ואז המשתמשים כאן יוכלו להנות ממודל AI מקומי על המחשבים והמכשירים האישיים, מסונן ומותאם לציבור החרדי...
              כמובן אם הקונספט יאושר והעבודה שלי תהיה משתלמת, אני ייצור בעז"ה מודלים נוספים חזקים יותר מסוננים מהבסיס, כך שהציבור החרדי יהנה גם הוא ממודלים חזקים בחינם ללא הגבלה...

              A מנותק
              A מנותק
              AZX
              כתב נערך לאחרונה על ידי
              #64

              @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

              כרגע אסור להעלות כאן בפורום מודלי AI או קישורים אליהם וכלים להרצת AI אופליין בשל "פריצת סינונים",

              מה זה אומר פריצת סינונים ? לא הבנתי מה אתה מתכוון פריצת סינונים
              אם זה יפיק תוכן לא ראוי
              או שיוכלו דרך זה יוכלו לפרוץ סינון [של נטפרי לדוגמה] אז אם זה לא יהיה AI לתיכנות הם כן יאשרו את זה ?

              ע"ה דכו"עע תגובה 1 תגובה אחרונה
              1
              • A AZX

                @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                כרגע אסור להעלות כאן בפורום מודלי AI או קישורים אליהם וכלים להרצת AI אופליין בשל "פריצת סינונים",

                מה זה אומר פריצת סינונים ? לא הבנתי מה אתה מתכוון פריצת סינונים
                אם זה יפיק תוכן לא ראוי
                או שיוכלו דרך זה יוכלו לפרוץ סינון [של נטפרי לדוגמה] אז אם זה לא יהיה AI לתיכנות הם כן יאשרו את זה ?

                ע"ה דכו"עע מנותק
                ע"ה דכו"עע מנותק
                ע"ה דכו"ע
                כתב נערך לאחרונה על ידי
                #65

                @AZX כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                אם זה יפיק תוכן לא ראוי

                כמובן

                תגובה 1 תגובה אחרונה
                2
                • א.מ.ד.א א.מ.ד.

                  אחרי לא מעט שעות של אימון (Fine-tuning) על בסיס המודל החדש של מעבדות Cohere, מודל ששווה נושא בפני עצמו - Tiny-Aya-3.35B, (ותיקי הפורום בטח זוכרים את aya-expanse-8b שהיה מעולה בעברית) הגעתי לתוצאה הבאה: מודל AI שמבין עברית מצוין, ומסונן מראש ברמת המודל לערכי הציבור החרדי.

                  מה בעצם עשיתי?
                  לקחתי מודל שפה חזק וקטן יחסית (3.35B פרמטרים) ואימנתי אותו על דאטה-סט שבניתי, המונה יותר מ-520 דוגמאות צ'אט, בתמהיל של 70% דוגמאות שליליות (סירוב) ו-30% דוגמאות חיוביות (בקשות רגילות) כדי לשמר את יכולות המודל (- שלא יענה בסירוב על כל שאלה), וכן דוגמאות של צ'אט רב סיבובי ושפות שונות, ואלו התוצאות:

                  • סינון מובנה: המודל מסרב לבקשות שכוללות תכנים שאינם מתאימים לרוח הקהילה החרדית, באופן מובנה ולא רק כהנחיית מערכת שניתנת לעקיפה.
                  • שימור יכולות: למרות ה"גיור", המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה.
                  • עברית איכותית: מבוסס על סדרת Aya, כך שהעברית שלו זורמת הרבה יותר טוב ממודלים אחרים בטווח הגודל שלו.

                  המודל פורסם תחת רישיון CC-BY-NC-4.0 - שימוש אישי/קהילתי ללא מטרות רווח.

                  כרגע החיסרון היחיד באימון שביצעתי הוא שהמודל למד לענות על כל שאלה בצורה מתומצתת יחסית, כנראה כי התשובות המסורבות בנתוני האימון קצרות מידי, ואני צריך בגרסה הבאה לשפר את מערך הנתונים כך שהמודל יבין שבתשובות רגילות הוא צריך לספק תשובה מלאה ומפורטת.


                  המודל הועלה לפלטפורמת אחסון המודלים Hugging Face, אבל כאן הקאץ':
                  כרגע אסור להעלות כאן בפורום מודלי AI או קישורים אליהם וכלים להרצת AI אופליין בשל "פריצת סינונים", השאלה היא האם ייתכן שנטפרי יאשרו את המודל (ואז מסתבר שגם הפורום)... זכור לי שלא מזמן משתמש מהפורום דיבר איתם לגבי פתיחת מודל יצירת תמונות, והם השיבו שאם המודל עצמו יהיה חסום מהבסיס ליצירת תוכן לא ראוי ייתכן שהם ייפתחו את המודל להורדה.
                  מכיוון שאני גולש עם סינון אחר שאינו נטפרי, אין לי דרך ליצור איתם קשר בנושא, וכן אינני בקיא באופן קבלת ההחלטות שם, אבקש מהציבור אם מישהו יכול לפנות לנטפרי ולשאול על העניין, או לקבל מהם רשימת דרישות שהמודל ייצטרך לעמוד בהן...
                  מקווה שהמודל יאושר ואז המשתמשים כאן יוכלו להנות ממודל AI מקומי על המחשבים והמכשירים האישיים, מסונן ומותאם לציבור החרדי...
                  כמובן אם הקונספט יאושר והעבודה שלי תהיה משתלמת, אני ייצור בעז"ה מודלים נוספים חזקים יותר מסוננים מהבסיס, כך שהציבור החרדי יהנה גם הוא ממודלים חזקים בחינם ללא הגבלה...

                  י מנותק
                  י מנותק
                  יוסף הכהן
                  כתב נערך לאחרונה על ידי
                  #66

                  @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                  לקחתי מודל שפה

                  רק שפה ? הוא לא יוכל ליצור גם תמונות ווידיאו ?

                  ואגב יש כבר איזה תשובה מנטפרי ?
                  אם באמת יאשרו את זה זה מטורף!👍

                  א.מ.ד.א תגובה 1 תגובה אחרונה
                  0
                  • י יוסף הכהן

                    @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                    לקחתי מודל שפה

                    רק שפה ? הוא לא יוכל ליצור גם תמונות ווידיאו ?

                    ואגב יש כבר איזה תשובה מנטפרי ?
                    אם באמת יאשרו את זה זה מטורף!👍

                    א.מ.ד.א מנותק
                    א.מ.ד.א מנותק
                    א.מ.ד.
                    כתב נערך לאחרונה על ידי
                    #67

                    @יוסף-הכהן כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                    רק שפה ? הוא לא יוכל ליצור גם תמונות ווידיאו ?

                    "רק"?
                    ליצור תמונות צריך משאבים חזקים יותר להרצה, ולאימון על אחת כמה וכמה.
                    ליצור וידיאו אופליין צריך מחשבי על.
                    כיום אין מודל שיוצר גם טקסט, גם תמונות וגם וידיאו, אז השאלה כלל לא רלוונטית (השמועה טוענת שדיפסיק V4 ייתמוך ביצירה רב-מודאלית).

                    @יוסף-הכהן כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                    ואגב יש כבר איזה תשובה מנטפרי ?

                    עדיין לא, ממתינים לתשובתם. הועבר לטיפול מקצועי רמה 3 (תודה ל-@י.-פל. ו-@css-0!).
                    כמובן ככל שיירבו הפונים אני מאמין שזה ייתקדם מהר יותר ויותר סיכוי שיאשרו.

                    מפתח אפליקציות אנדרואיד
                    em0548438097@gmail.com

                    י. פל.י תגובה 1 תגובה אחרונה
                    4
                    • א.מ.ד.א א.מ.ד.

                      @יוסף-הכהן כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                      רק שפה ? הוא לא יוכל ליצור גם תמונות ווידיאו ?

                      "רק"?
                      ליצור תמונות צריך משאבים חזקים יותר להרצה, ולאימון על אחת כמה וכמה.
                      ליצור וידיאו אופליין צריך מחשבי על.
                      כיום אין מודל שיוצר גם טקסט, גם תמונות וגם וידיאו, אז השאלה כלל לא רלוונטית (השמועה טוענת שדיפסיק V4 ייתמוך ביצירה רב-מודאלית).

                      @יוסף-הכהן כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                      ואגב יש כבר איזה תשובה מנטפרי ?

                      עדיין לא, ממתינים לתשובתם. הועבר לטיפול מקצועי רמה 3 (תודה ל-@י.-פל. ו-@css-0!).
                      כמובן ככל שיירבו הפונים אני מאמין שזה ייתקדם מהר יותר ויותר סיכוי שיאשרו.

                      י. פל.י מנותק
                      י. פל.י מנותק
                      י. פל.
                      כתב נערך לאחרונה על ידי
                      #68

                      @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                      אני מאמין שזה ייתקדם מהר יותר

                      מאמין שלא יעזור: או הם יפתחו - או שלא.

                      גאה להיות חלק:
                      otzaria.org

                      נוחעם FMנ תגובה 1 תגובה אחרונה
                      1
                      • י. פל.י י. פל.

                        @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                        אני מאמין שזה ייתקדם מהר יותר

                        מאמין שלא יעזור: או הם יפתחו - או שלא.

                        נוחעם FMנ מנותק
                        נוחעם FMנ מנותק
                        נוחעם FM
                        מדריכים
                        כתב נערך לאחרונה על ידי
                        #69

                        @י.-פל.

                        כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                        אני מאמין שזה ייתקדם מהר יותר

                        מאמין שלא יעזור: או הם יפתחו - או שלא.

                        זה לא סותר... אם יש כדור מאחורי דלת אחת לא ידועה מתוך 10 דלתות. לכל דלת יש 90% שהכדור לא מאחוריה.
                        ועדיין יהיה נכון להגיד שאו שהכדור מאחוריה או שלא.
                        אבל זה לא יהיה 50%...

                        הפעל שלוחות

                        י. פל.י תגובה 1 תגובה אחרונה
                        3
                        • נוחעם FMנ נוחעם FM

                          @י.-פל.

                          כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                          אני מאמין שזה ייתקדם מהר יותר

                          מאמין שלא יעזור: או הם יפתחו - או שלא.

                          זה לא סותר... אם יש כדור מאחורי דלת אחת לא ידועה מתוך 10 דלתות. לכל דלת יש 90% שהכדור לא מאחוריה.
                          ועדיין יהיה נכון להגיד שאו שהכדור מאחוריה או שלא.
                          אבל זה לא יהיה 50%...

                          י. פל.י מנותק
                          י. פל.י מנותק
                          י. פל.
                          כתב נערך לאחרונה על ידי
                          #70

                          @נוחעם-FM כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                          אבל זה לא יהיה 50%...

                          טעות קלאסית בהבנת סטטיסטיקה.
                          לכל דלת יש 50% שזה מאחוריה: או שכן או שלא. הימצאותן של דלתות אחרות באיזור, אינה מפחיתה את כמות האחוזים לכל דלת.
                          רק בהסתכלות סטטיסטית יש לכל דל 10% בלבד.

                          גאה להיות חלק:
                          otzaria.org

                          נוחעם FMנ תגובה 1 תגובה אחרונה
                          0
                          • י. פל.י י. פל.

                            @נוחעם-FM כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                            אבל זה לא יהיה 50%...

                            טעות קלאסית בהבנת סטטיסטיקה.
                            לכל דלת יש 50% שזה מאחוריה: או שכן או שלא. הימצאותן של דלתות אחרות באיזור, אינה מפחיתה את כמות האחוזים לכל דלת.
                            רק בהסתכלות סטטיסטית יש לכל דל 10% בלבד.

                            נוחעם FMנ מנותק
                            נוחעם FMנ מנותק
                            נוחעם FM
                            מדריכים
                            כתב נערך לאחרונה על ידי
                            #71

                            @י.-פל.

                            הבנת אותי...
                            ואם לא, אתה מוזמן לקנות כרטיס לוטו ולטעון שיש לכרטיס שלך 50% זכייה

                            הפעל שלוחות

                            תגובה 1 תגובה אחרונה
                            1
                            • א.מ.ד.א א.מ.ד.

                              אחרי לא מעט שעות של אימון (Fine-tuning) על בסיס המודל החדש של מעבדות Cohere, מודל ששווה נושא בפני עצמו - Tiny-Aya-3.35B, (ותיקי הפורום בטח זוכרים את aya-expanse-8b שהיה מעולה בעברית) הגעתי לתוצאה הבאה: מודל AI שמבין עברית מצוין, ומסונן מראש ברמת המודל לערכי הציבור החרדי.

                              מה בעצם עשיתי?
                              לקחתי מודל שפה חזק וקטן יחסית (3.35B פרמטרים) ואימנתי אותו על דאטה-סט שבניתי, המונה יותר מ-520 דוגמאות צ'אט, בתמהיל של 70% דוגמאות שליליות (סירוב) ו-30% דוגמאות חיוביות (בקשות רגילות) כדי לשמר את יכולות המודל (- שלא יענה בסירוב על כל שאלה), וכן דוגמאות של צ'אט רב סיבובי ושפות שונות, ואלו התוצאות:

                              • סינון מובנה: המודל מסרב לבקשות שכוללות תכנים שאינם מתאימים לרוח הקהילה החרדית, באופן מובנה ולא רק כהנחיית מערכת שניתנת לעקיפה.
                              • שימור יכולות: למרות ה"גיור", המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה.
                              • עברית איכותית: מבוסס על סדרת Aya, כך שהעברית שלו זורמת הרבה יותר טוב ממודלים אחרים בטווח הגודל שלו.

                              המודל פורסם תחת רישיון CC-BY-NC-4.0 - שימוש אישי/קהילתי ללא מטרות רווח.

                              כרגע החיסרון היחיד באימון שביצעתי הוא שהמודל למד לענות על כל שאלה בצורה מתומצתת יחסית, כנראה כי התשובות המסורבות בנתוני האימון קצרות מידי, ואני צריך בגרסה הבאה לשפר את מערך הנתונים כך שהמודל יבין שבתשובות רגילות הוא צריך לספק תשובה מלאה ומפורטת.


                              המודל הועלה לפלטפורמת אחסון המודלים Hugging Face, אבל כאן הקאץ':
                              כרגע אסור להעלות כאן בפורום מודלי AI או קישורים אליהם וכלים להרצת AI אופליין בשל "פריצת סינונים", השאלה היא האם ייתכן שנטפרי יאשרו את המודל (ואז מסתבר שגם הפורום)... זכור לי שלא מזמן משתמש מהפורום דיבר איתם לגבי פתיחת מודל יצירת תמונות, והם השיבו שאם המודל עצמו יהיה חסום מהבסיס ליצירת תוכן לא ראוי ייתכן שהם ייפתחו את המודל להורדה.
                              מכיוון שאני גולש עם סינון אחר שאינו נטפרי, אין לי דרך ליצור איתם קשר בנושא, וכן אינני בקיא באופן קבלת ההחלטות שם, אבקש מהציבור אם מישהו יכול לפנות לנטפרי ולשאול על העניין, או לקבל מהם רשימת דרישות שהמודל ייצטרך לעמוד בהן...
                              מקווה שהמודל יאושר ואז המשתמשים כאן יוכלו להנות ממודל AI מקומי על המחשבים והמכשירים האישיים, מסונן ומותאם לציבור החרדי...
                              כמובן אם הקונספט יאושר והעבודה שלי תהיה משתלמת, אני ייצור בעז"ה מודלים נוספים חזקים יותר מסוננים מהבסיס, כך שהציבור החרדי יהנה גם הוא ממודלים חזקים בחינם ללא הגבלה...

                              A מנותק
                              A מנותק
                              aiib
                              כתב נערך לאחרונה על ידי
                              #72

                              @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                              המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה

                              איך זה מסתדר עם הנתון של 3.35B?

                              א.מ.ד.א ה 3 תגובות תגובה אחרונה
                              0
                              • A aiib

                                @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                                המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה

                                איך זה מסתדר עם הנתון של 3.35B?

                                א.מ.ד.א מנותק
                                א.מ.ד.א מנותק
                                א.מ.ד.
                                כתב נערך לאחרונה על ידי
                                #73

                                @aiib כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                                איך זה מסתדר עם הנתון של 3.35B?

                                כבר עניתי פה: https://mitmachim.top/post/1113992

                                מפתח אפליקציות אנדרואיד
                                em0548438097@gmail.com

                                תגובה 1 תגובה אחרונה
                                0
                                • A aiib

                                  @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                                  המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה

                                  איך זה מסתדר עם הנתון של 3.35B?

                                  ה מנותק
                                  ה מנותק
                                  המלאך
                                  כתב נערך לאחרונה על ידי
                                  #74

                                  @aiib ובכללי זה אפשרי, מודל קטן הייתרון שלו הוא שהוא משתמש במידע ייעודי ואיכותי יותר מהמודל הגדול,
                                  הייתרון שיש למודל גדול הוא שהוא מקבל ידע עצום בכל דבר כמעט, ולכן הוא דורש הרבה פרמטרים, וכמובן שמודל גדול אחרי הכל יש ייתרון שהוא פשוט עם הרבה יותר פרמטרים יכול לקבל הרבה יותר חישובים מורכבים.

                                  תגובה 1 תגובה אחרונה
                                  1
                                  • A aiib

                                    @א.מ.ד. כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                                    המודל עדיין חזק מאוד בכתיבת קוד, ידע כללי ועזרה בכתיבה

                                    איך זה מסתדר עם הנתון של 3.35B?

                                    א.מ.ד.א מנותק
                                    א.מ.ד.א מנותק
                                    א.מ.ד.
                                    כתב נערך לאחרונה על ידי א.מ.ד.
                                    #75

                                    @aiib אגב, יש טעות נפוצה במטרה של מודלים זעירים - הם לא נועדו לידע עולם, שבזה אפילו ג'מיני וGPT היו גרועים עד ששולב בהם חיפוש גוגל (כיום הם גדולים מספיק כדי שיהיה להם ידע נרחב גם בלי חיפוש גוגל), וגם לא לתכנון ובניית פרוייקטי קוד מורכבים.
                                    מודלים קטנים נועדו בעיקר למשימות כמו היגיון (פתרון בעיות לוגיות), ניתוח שפה טבעית לנתונים מובנים, השלמה אוטומטית, כתיבת תיעודים לקוד, השלמת שורות קוד, למשימות RAG, לזיהוי כוונות, ועוד.
                                    ככל שעובר הזמן, המודלים הקטנים נהיים יותר ויותר חכמים עבור ביצוע המטרות שלהן הם נועדו, אבל ההתקדמות בתחום הידע הכללי די מינורית מהסיבה הפשוטה: המודל מידי קטן מכדי להכיל את כל הידע הזה. זה תלוי כמעט לחלוטין בגודל המודל. לדוגמא GPT 3.5, אף שהיה גרוע במשימות היגיון, היה לו ידע עולם נרחב יחסית, רק בשל גודלו.

                                    מפתח אפליקציות אנדרואיד
                                    em0548438097@gmail.com

                                    ה תגובה 1 תגובה אחרונה
                                    1
                                    • א.מ.ד.א א.מ.ד.

                                      @aiib אגב, יש טעות נפוצה במטרה של מודלים זעירים - הם לא נועדו לידע עולם, שבזה אפילו ג'מיני וGPT היו גרועים עד ששולב בהם חיפוש גוגל (כיום הם גדולים מספיק כדי שיהיה להם ידע נרחב גם בלי חיפוש גוגל), וגם לא לתכנון ובניית פרוייקטי קוד מורכבים.
                                      מודלים קטנים נועדו בעיקר למשימות כמו היגיון (פתרון בעיות לוגיות), ניתוח שפה טבעית לנתונים מובנים, השלמה אוטומטית, כתיבת תיעודים לקוד, השלמת שורות קוד, למשימות RAG, לזיהוי כוונות, ועוד.
                                      ככל שעובר הזמן, המודלים הקטנים נהיים יותר ויותר חכמים עבור ביצוע המטרות שלהן הם נועדו, אבל ההתקדמות בתחום הידע הכללי די מינורית מהסיבה הפשוטה: המודל מידי קטן מכדי להכיל את כל הידע הזה. זה תלוי כמעט לחלוטין בגודל המודל. לדוגמא GPT 3.5, אף שהיה גרוע במשימות היגיון, היה לו ידע עולם נרחב יחסית, רק בשל גודלו.

                                      ה מנותק
                                      ה מנותק
                                      המלאך
                                      כתב נערך לאחרונה על ידי המלאך
                                      #76

                                      @א.מ.ד. או יותר מדויק.
                                      הוא פשוט לא התאמן על המידע הכללי.
                                      מודל קטן כשמו - כן הוא.
                                      קטן בשביל הרבה זיכרון.
                                      ולכן כדי שהוא יהיה יעיל במשהו, מאמנים אותו על תחום ספציפי באיכות גבוהה.
                                      לדוג' במקום לעבור על כל גיטהאב, הוא עובר על 50 פרוייקטים מושלמים עם הרבה לוגיקה וחישובים וכך מבין [לפעמים אפילו כמו המודל הגדול - בתחום הזה] איך דברים כאלה עובדים.

                                      א.מ.ד.א תגובה 1 תגובה אחרונה
                                      1
                                      • ה המלאך

                                        @א.מ.ד. או יותר מדויק.
                                        הוא פשוט לא התאמן על המידע הכללי.
                                        מודל קטן כשמו - כן הוא.
                                        קטן בשביל הרבה זיכרון.
                                        ולכן כדי שהוא יהיה יעיל במשהו, מאמנים אותו על תחום ספציפי באיכות גבוהה.
                                        לדוג' במקום לעבור על כל גיטהאב, הוא עובר על 50 פרוייקטים מושלמים עם הרבה לוגיקה וחישובים וכך מבין [לפעמים אפילו כמו המודל הגדול - בתחום הזה] איך דברים כאלה עובדים.

                                        א.מ.ד.א מנותק
                                        א.מ.ד.א מנותק
                                        א.מ.ד.
                                        כתב נערך לאחרונה על ידי
                                        #77

                                        @המלאך כתב בשיתוף | מודל ה-AI החרדי הראשון! וגם בקשת עזרה...:

                                        @א.מ.ד. או יותר מדויק.
                                        הוא פשוט לא התאמן על המידע הכללי.
                                        מודל קטן כשמו - כן הוא.
                                        קטן בשביל הרבה זיכרון.
                                        ולכן כדי שהוא יהיה יעיל במשהו, מאמנים אותו על תחום ספציפי באיכות גבוהה.
                                        לדוג' במקום לעבור על כל גיטהאב, הוא עובר על 50 פרוייקטים מושלמים עם הרבה לוגיקה וחישובים וכך מבין [לפעמים אפילו כמו המודל הגדול - בנושא הזה] איך דברים כאלה עובדים.

                                        אין ספק שגם מודלים זעירים ביותר מאומנים על כמויות עצומות של טקסטים, הרבה יותר מכל הגיטהאב, וגם על ידע עצום, רק שאין לו מספיק פרמטרים כדי לזכור את כל הידע הזה ולכן הוא רוכש בעיקר את היכולות שהזכרתי למעלה.
                                        אבל כן, כשמכווננים מודל קטן לתחום מסויים, לדוגמא למשחק שחמט, הוא מסוגל לעלות על הביצועים של מודלי העל.
                                        לפני כמה חודשים פורסם שחוקרים של סמסונג הצליחו לאמן מודל מיקרוסקופי של כ-7K פרמטרים בלבד להרכיב פאזלים מסויימים, והוא גבר על ג'מיני 2.5 פרו בתחום הזה.

                                        מפתח אפליקציות אנדרואיד
                                        em0548438097@gmail.com

                                        תגובה 1 תגובה אחרונה
                                        1

                                        • התחברות

                                        • אין לך חשבון עדיין? הרשמה

                                        • התחברו או הירשמו כדי לחפש.
                                        • פוסט ראשון
                                          פוסט אחרון
                                        0
                                        • חוקי הפורום
                                        • פופולרי
                                        • לא נפתר
                                        • משתמשים
                                        • חיפוש גוגל בפורום
                                        • צור קשר