שאלה | פגשתם פעם טעות 'הקלדה' של AI?
-
@עומר כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
יש פה 'מייבין' שיכול להסביר איך זה יכול לקרות?המודל חוזה את הטוקן (=כמו הברה בתרגום חופשי מאוד) הבא לפי הנתונים שאומן עליהם בהתבסס על הסבירות וההקשר - הטוקן שיופיע הוא הטוקן שהכי סביר שיגיע אחרי הטוקן הקודם וההקשר הקיים, כך שככל שהטעות נפוצה יותר בנתוני האימון סביר להניח שהיא תקרה פעמים רבות יותר ע"י ה-AI.
-
@עומר כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
יש פה 'מייבין' שיכול להסביר איך זה יכול לקרות?המודל חוזה את הטוקן (=כמו הברה בתרגום חופשי מאוד) הבא לפי הנתונים שאומן עליהם בהתבסס על הסבירות וההקשר - הטוקן שיופיע הוא הטוקן שהכי סביר שיגיע אחרי הטוקן הקודם וההקשר הקיים, כך שככל שהטעות נפוצה יותר בנתוני האימון סביר להניח שהיא תקרה פעמים רבות יותר ע"י ה-AI.
@א.מ.ד. כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@עומר כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
יש פה 'מייבין' שיכול להסביר איך זה יכול לקרות?המודל חוזה את הטוקן (=כמו הברה בתרגום חופשי מאוד) הבא לפי הנתונים שאומן עליהם בהתבסס על הסבירות וההקשר, כך שככל שהטעות נפוצה יותר בנתוני האימון סביר להניח שהיא תקרה פעמים רבות יותר ע"י ה-AI.
לא צריך להגיע לזה. כיון שזה רק חיזוי מצוי מאוד אפילו שפתאום נכנסות אותיות בשפה אחרת לגמרי באמצע מילה וכדו'.
-
@א.מ.ד. כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@עומר כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
יש פה 'מייבין' שיכול להסביר איך זה יכול לקרות?המודל חוזה את הטוקן (=כמו הברה בתרגום חופשי מאוד) הבא לפי הנתונים שאומן עליהם בהתבסס על הסבירות וההקשר, כך שככל שהטעות נפוצה יותר בנתוני האימון סביר להניח שהיא תקרה פעמים רבות יותר ע"י ה-AI.
לא צריך להגיע לזה. כיון שזה רק חיזוי מצוי מאוד אפילו שפתאום נכנסות אותיות בשפה אחרת לגמרי באמצע מילה וכדו'.
@ע-ה-דכו-ע כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@א.מ.ד. כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@עומר כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
יש פה 'מייבין' שיכול להסביר איך זה יכול לקרות?המודל חוזה את הטוקן (=כמו הברה בתרגום חופשי מאוד) הבא לפי הנתונים שאומן עליהם בהתבסס על הסבירות וההקשר, כך שככל שהטעות נפוצה יותר בנתוני האימון סביר להניח שהיא תקרה פעמים רבות יותר ע"י ה-AI.
לא צריך להגיע לזה. כיון שזה רק חיזוי מצוי מאוד אפילו שפתאום נכנסות אותיות בשפה אחרת לגמרי באמצע מילה וכדו'.
זה נובע מאותה נקודה - מכך שהשפה שהמודל עצמו מבין היא לא עברית או ערבית וכו' אלא שפה פנימית של מרחב ווקטורי המבוסס על משמעות המילים, ומכיון שהמילה "שלום" מאוד קרובה למילה הערבית "سلام" ("סלאם") במרחב הווקטורי מכיון שמשמעותן זהה, פעמים רבות המודל יתבלבל ביניהן. כך גם המודל ייתבלבל בין המילה "נסעת" לבין השגיאה "נעסת" מכיון שהוא מבין את משמעותן כדומה מאוד מאחר והשגיאה הזו נפוצה.
-
@עומר אתה יכול לשאול אותו בעצמו!
-
@עומר אתה יכול לשאול אותו בעצמו!
@מים-אחרונים כתב בשאלה | פגשתם פעם טעות 'הקלדה' של AI?:
@עומר אתה יכול לשאול אותו בעצמו!
אין בזה שום טעם. אין למודל שום דרך לדעת למה הוא עשה את זה