בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)ההבדל הוא בהתחלה.
המח הראשון היה ללא כל ידע אנושי ובכל זאת הצליח לבנות את המגדל הגבוה ביותר בעולם - מגדל בבל.
לפני אלפיים שנה עשו את הפרמידות.. זה מבנה ארכיטקטוני מרהיב! ועשו את זה בלי הטכנולוגיה של היום.
כך שלקבוע הנחה שהמח האנושי מתבסס רק על הידע האנושי - לא יכולה להיות נכונה.אני לא מתיימר להבין בפילוסופיה וגם לא להבין לעומק כיצד מודלי שפה עובדים בפועל מבפנים (ואף אחד גם לא באמת יודע) - העובדות הן פשוטות, וזה מה שחשוב: מודלי שפה כבר פותרים בעיות מתמטיות שבני אדם לא הצליחו לפתור, והם טובים בנושאים מסויימים כמו רפואה, הרבה יותר מכל בן אדם על פני כדור הארץ
> @123-דג-מלוח כתב:
(לא שאכפת לי, תהנו)
ב ד י ו ק.

גם ככה הדיון לא הולך מחר לשנות את העולם (בדיוק כמו הדיון הקודם), והוא נטו בשביל ההנאה הצרופה. (ווואלה - זה געמשאק לדון על הנושא הזה)
-
באותה מידה אפשר לומר שבן אנוש הוא בסך הכל אוסף פחמן, או אוסף של חתיכות בשר עצמות ודם
אף אחד לא חלילה מזלזל ביכולות הAI אנא אל תרגיש מותקף להיפך בגלל הערכה הגדולה אליו השרשור הזה ניפתח...
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)
אי לכך ובהתאם לזאת:
אני חושב שהAI הוא בהחלט "לא באמת יוצר דברים חדשים" הוא בהחלט "רק אוסף תרגילים" - מורכבים ככל שיהיו! והוא בהחלט "תוכי סוכסטי"אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
זה פשוט לא נכון. לפחות מאז 2023.
AI פתר בעיות מתמטיות שלא היו בנתוני האימון שלו ועשרות שנים אף אדם לא הצליח לפתור אותן.
הדבר נכון למעשה גם ביחס לתוכן שנכתב או נוצר על ידי AI, כמו שירה, סיפורת, קוד, וכמובן תמונות.
הוא בהחלט יוצר תוכן חדש שמעולם לא היהזה לא רק ידע, זה יצירת ידע חדש על בסיס מידע קיים, בדיוק כמו האדם, אבל בהיקף ויעילות גבוהים בהרבה
@לעכשיו כתב בבירור | האם הAI הולך לאכול אותנו?:
נכון.
אבל מה המודלים ניסו להשיג?במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)שאפו על הציטוטים, בהחלט רלוונטיים
אבל כמו שאומר המסילת ישרים להבדיל, ככל שהדבר יותר מוכר וידוע, ככה צריך יותר לעורר ולחזור עליו

-
אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם
זה פשוט לא נכון. לפחות מאז 2023.
AI פתר בעיות מתמטיות שלא היו בנתוני האימון שלו ועשרות שנים אף אדם לא הצליח לפתור אותן.
הדבר נכון למעשה גם ביחס לתוכן שנכתב או נוצר על ידי AI, כמו שירה, סיפורת, קוד, וכמובן תמונות.
הוא בהחלט יוצר תוכן חדש שמעולם לא היהזה לא רק ידע, זה יצירת ידע חדש על בסיס מידע קיים, בדיוק כמו האדם, אבל בהיקף ויעילות גבוהים בהרבה
@לעכשיו כתב בבירור | האם הAI הולך לאכול אותנו?:
נכון.
אבל מה המודלים ניסו להשיג?במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)שאפו על הציטוטים, בהחלט רלוונטיים
אבל כמו שאומר המסילת ישרים להבדיל, ככל שהדבר יותר מוכר וידוע, ככה צריך יותר לעורר ולחזור עליו

במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צ -
במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צהדיווחים על האירוע לא הגיעו מ-OpenAI במקרה הזה והם דווקא נראים כמו פדיחה רצינית עבורם, לא פרסום שיווקי.
מה שכן, נראה שהנתונים איתך - המטרה שלהם בפריצה לוויקי היתה כדי להשלים את המשימה שלהם ולרמות בה, ולא רק כדי לשרוד או לברוח מהבעלים שלהם
זה עדיין לא אומר שאין סכנה, ע"ע מקסום מהדקי הנייר
-
במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם
ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צ -
-
מחילה, לא שאלתי האם זה אפשרי, שאלתי טכנית איך סט תרגילים גורם לזה
ולדעתי, בטח שזה אפשרי, כבר היום יש דברים שהוא עושה הרבה יותר טוב מבנ"א למרות שהוא למד את החומר מבנ"א. (למשל? ציורים, קידוד ספציפי במהירות מטורפת, מציאת פרצות אבטחה [אם מה שקלוד פרסמו נכון], כתיבה, ועוד ועוד..) אז נכון שאתה יכול לטעון - 'טוב, הוא לא באמת יותר טוב, הוא פשוט עושה את זה מהר כי הוא מכונה, וממצא את היכולות'.. ואני חושב - שיכולת אנושית משודרגת - זו יכולת על אנושית.
נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)
מה גם שיש מדדים שמודדים מודלים על דברים שהם לא אומנו עליהם, והמודלים עם הזמן יותר ויותר מצליחים שם, מה שאומר שה'חשיבה' שלהם אכן עובדת.יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)
העניין הוא שמודלי AI, עוד הרבה לפני המודלים העדכניים, יצירתיים יותר, חכמים יותר במתמטיקה, ציירים טובים הרבה יותר, מתכנתים טובים הרבה יותר מהאדם הממוצע, ובעלי ידע כללי טוב יותר מכל אדם שהוא על פני כדור הארץ.
להפוך את היכולות הללו ל"סתם תוכי" או "סתם מחשבון", זה לא זלזול ביכולות ה-AI, אלא זלזול במוח האנושי, שמבצע את הדברים הללו בצורה הרבה פחות טובה ומקצועית, ובטח ובטח שלא משלב את כלל היכולות הללו בתוך בן אנוש אחר.
אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".
אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.
שמחתי לעזור
אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.
אני מסכים איתך שלא זה צריך להיות היחס ל-AI, ושהוא למד לבצע דברים שכלל לא אומן עליהם (אבל כן רכש אותם בזכות יכולת ההכללה וה-RL, שתמיד מבוסס על האימון הקלאסי שלפניו, אבל זה כבר נושא אחר), אבל כל זה נוגע לאיך הוא אומן, איך הושגה החוכמה. אבל אופן הפעולה הטכני של חיזוי הטוקן הבא הוא אכן אוסף תרגילים משוכלל - המודל מקבל טקסט, ממיר אותו לטוקן מספרי ומיד אחר כך לווקטור סטטי, ומאז כל פרמטר מכפיל אותו לפי ערכו עד שמתגבשת משמעות הווקטור ואחר כך פרופיל התכונות הסמנטי של הטוקן הבא, שנבחר סופית לפי פרמטרי הדגימה כמו טמפרטורה.
אין פה איזה משתנה סודי או קסם. ההשפעה על תוצאות שונות מפעם לפעם היא בשל שינוי אפילו מזערי בקלט כמו רווח נוסף, בשל תוצאת כלי מסוימת בתוך לולאת סוכן (כמו שגיאה), בשל שינוי של ה-Seed, שכברירת מחדל הוא רנדומלי ומגריל בכל פעם טוקן אחר מתוך התפלגות ההסתברויות, או בשל אי דטרמיניזם בחומרה עצמה שגורמת לשגיאות עיגול מזעריות בביטים הנמוכים של הפרמטר, שעשויים להשפיע על קידום של טוקן אחד לעומת אחר, ומספיק טוקן אחד שישתנה כדי לשנות את כל הטוקנים אחריו משמעותית.
אם נקפיא את ה-Seed ואת שאר הגורמים לעיוות, התוצאה תהיה זהה בכל פעם.
וכן, אפשר בהחלט לרשום הכל על נייר, רק שזה יצריך חצי מיליארד דפי משבצות צפופים בתרגילים רק בשביל טוקן אחד. -
לטעמי לקחתם את זה מדי קשה
אני יסביר למה אני לא מכיר שום תוכנה ושם אפלקציה בלי באגים- הסיבה הפשוטה והנכונה היא משום שהבינה אין לה בינה היא לא מבינה דבר מתוך דבר היא יכולה לפתח היא יכולה לנסות כל דבר אפשרי אבל להבין היא לא!
חוצמזה כמו שכבר הזכירו פה כרגע AI הוא בשליטה מלאה!
לפני כמה זמן דווח שבתחילה הסינים הוציאו את הבינה שתלמד מאנשים עד שראו שזה לא עסק כי כולם עובדים עליה (כולנו זוכרים את ימי השקרים שלה).
עוד משהו בזמן הקרוב אמורים להנפיק לבורסה את הGPT ואת קלוד ועוד, ומי שזוכר או מכיר את שנת 2002 את בועת הדוט קום יודע שבזמן הקרוב תיהיה מפלה גדולה מאוד בעניין אחרי כמה זמן זה יחזור, אבל אנשים יחזרו רגע אחורה...
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם! -
לטעמי לקחתם את זה מדי קשה
אני יסביר למה אני לא מכיר שום תוכנה ושם אפלקציה בלי באגים- הסיבה הפשוטה והנכונה היא משום שהבינה אין לה בינה היא לא מבינה דבר מתוך דבר היא יכולה לפתח היא יכולה לנסות כל דבר אפשרי אבל להבין היא לא!
חוצמזה כמו שכבר הזכירו פה כרגע AI הוא בשליטה מלאה!
לפני כמה זמן דווח שבתחילה הסינים הוציאו את הבינה שתלמד מאנשים עד שראו שזה לא עסק כי כולם עובדים עליה (כולנו זוכרים את ימי השקרים שלה).
עוד משהו בזמן הקרוב אמורים להנפיק לבורסה את הGPT ואת קלוד ועוד, ומי שזוכר או מכיר את שנת 2002 את בועת הדוט קום יודע שבזמן הקרוב תיהיה מפלה גדולה מאוד בעניין אחרי כמה זמן זה יחזור, אבל אנשים יחזרו רגע אחורה...
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!השכל האונשי אינו ניתן להחלפה אף פעם!
הבעיה היא שכל הבינה מבוססת על המון המון שכלים אנושיים ברחבי הרשת
וגם אם יש באגים זה נטו כי עכשיו אתה יכול להגיד שהיא יותר טכנית מאשר מבינה
את הצרכים והנוחות שלך יותר לעומק
דבר שלדעתי הולך להשתנות ומהר מאוד -
השכל האונשי אינו ניתן להחלפה אף פעם!
הבעיה היא שכל הבינה מבוססת על המון המון שכלים אנושיים ברחבי הרשת
וגם אם יש באגים זה נטו כי עכשיו אתה יכול להגיד שהיא יותר טכנית מאשר מבינה
את הצרכים והנוחות שלך יותר לעומק
דבר שלדעתי הולך להשתנות ומהר מאוד -
שאלה מעניינת: מה זה כל הספאם הזה?
-
לטעמי לקחתם את זה מדי קשה
אני יסביר למה אני לא מכיר שום תוכנה ושם אפלקציה בלי באגים- הסיבה הפשוטה והנכונה היא משום שהבינה אין לה בינה היא לא מבינה דבר מתוך דבר היא יכולה לפתח היא יכולה לנסות כל דבר אפשרי אבל להבין היא לא!
חוצמזה כמו שכבר הזכירו פה כרגע AI הוא בשליטה מלאה!
לפני כמה זמן דווח שבתחילה הסינים הוציאו את הבינה שתלמד מאנשים עד שראו שזה לא עסק כי כולם עובדים עליה (כולנו זוכרים את ימי השקרים שלה).
עוד משהו בזמן הקרוב אמורים להנפיק לבורסה את הGPT ואת קלוד ועוד, ומי שזוכר או מכיר את שנת 2002 את בועת הדוט קום יודע שבזמן הקרוב תיהיה מפלה גדולה מאוד בעניין אחרי כמה זמן זה יחזור, אבל אנשים יחזרו רגע אחורה...
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!
כן, גם סוסים לא יוחלפו אף פעם, וגם אין שום תחליף לעששיות נפט.
במחילה, זה פשוט משעשע, כי לא מדובר פה על תחזיות דמיוניות או עתידיות, המציאות בשטח היא שמודלי AI מחליפים את השכל האנושי כמעט בכל תחום אינטליגנציה אפשרי, ובמקרים מסויימים הם אף טובים ממנו בפער
אתה בעצם אומר אמירה שפשוט מכחישה את המציאות הקיימת, לא הרבה מעבר
-
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!
כן, גם סוסים לא יוחלפו אף פעם, וגם אין שום תחליף לעששיות נפט.
במחילה, זה פשוט משעשע, כי לא מדובר פה על תחזיות דמיוניות או עתידיות, המציאות בשטח היא שמודלי AI מחליפים את השכל האנושי כמעט בכל תחום אינטליגנציה אפשרי, ובמקרים מסויימים הם אף טובים ממנו בפער
אתה בעצם אומר אמירה שפשוט מכחישה את המציאות הקיימת, לא הרבה מעבר
-
אני רק חושב שההתקדמות שלו לא תתפוס תאוצה באותה מידה כמו שהייתה עד היום.
לא רק שאתה טועה, אתה פשוט קורא את המפה, אבל לגמרי הפוך
-
נכון, אבל: במידה מסוימת הוא צודק, הAI עולה בהמון מובנים על בני האדם
אבל לא כל דבר AI יודע ויכול לבצע, בהייטק לדוגמא: יש כרגע המון פיטורים.
שים לב, שרוב אלה שמפוטרים אלה ג'וניורים מתחילים שעושים את
עבודות הזבל, אלה שבאמת ותיקים לא הAI מחליף אותם אלא הם משתמשים בו
בשביל לבצע משימות זבל לדבאג ומה שצריך באמת הם עושים.פעם אמרו שכשיהיה אקסל לא יהיה צריך רואי חשבון.
כשנולד המחשבון אמרו שלא יהיה צריך מתמטיקאים.
וכו' וכו', אפשר לומר המון על "תחליף כל דבר אנושי"בסופו של דבר זה כמו המהפכה התעשייתית
המון משרות יעלמו במקומם יוצרו המון חדשות -
@NH.LOCAL זו מציאות!!
ההתקדמות שלו כיום הרבה יותר איטית!!!!!מה?
קשקוש מוחלט, וזה עוד הופך ל"מציאות"?
-
@NH.LOCAL
א. מחקרים חקרו שהשימוש בAI ילך ויפחות.
ב. כמו שהזכרתי כבר אני לא יודע אם אתה מכיר את בועת הדוט קום שהולכת להכות בתחום ברמה לא נתפסת. לא אני אומר את זה כל אנשי הכלכלה אומרים את זהלטעמי לקחתם את זה מדי קשה
אני יסביר למה אני לא מכיר שום תוכנה ושם אפלקציה בלי באגים- הסיבה הפשוטה והנכונה היא משום שהבינה אין לה בינה היא לא מבינה דבר מתוך דבר היא יכולה לפתח היא יכולה לנסות כל דבר אפשרי אבל להבין היא לא!
חוצמזה כמו שכבר הזכירו פה כרגע AI הוא בשליטה מלאה!
לפני כמה זמן דווח שבתחילה הסינים הוציאו את הבינה שתלמד מאנשים עד שראו שזה לא עסק כי כולם עובדים עליה (כולנו זוכרים את ימי השקרים שלה).
עוד משהו בזמן הקרוב אמורים להנפיק לבורסה את הGPT ואת קלוד ועוד, ומי שזוכר או מכיר את שנת 2002 את בועת הדוט קום יודע שבזמן הקרוב תיהיה מפלה גדולה מאוד בעניין אחרי כמה זמן זה יחזור, אבל אנשים יחזרו רגע אחורה...
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!@NH.LOCAL
א. מחקרים חקרו שהשימוש בAI ילך ויפחות.
ב. כמו שהזכרתי כבר אני לא יודע אם אתה מכיר את בועת הדוט קום שהולכת להכות בתחום ברמה לא נתפסת. לא אני אומר את זה כל אנשי הכלכלה אומרים את זהמקורות בבקשה. לא "מחקרים חקרו" ולא "כל אנשי הכלכלה". נטו מקורות.
האמת היא שכבר הרבה זמן לא ראיתי כזו ערימת שטויות ברצף, אז באמת כל הכבוד
-
נכון, אבל: במידה מסוימת הוא צודק, הAI עולה בהמון מובנים על בני האדם
אבל לא כל דבר AI יודע ויכול לבצע, בהייטק לדוגמא: יש כרגע המון פיטורים.
שים לב, שרוב אלה שמפוטרים אלה ג'וניורים מתחילים שעושים את
עבודות הזבל, אלה שבאמת ותיקים לא הAI מחליף אותם אלא הם משתמשים בו
בשביל לבצע משימות זבל לדבאג ומה שצריך באמת הם עושים.פעם אמרו שכשיהיה אקסל לא יהיה צריך רואי חשבון.
כשנולד המחשבון אמרו שלא יהיה צריך מתמטיקאים.
וכו' וכו', אפשר לומר המון על "תחליף כל דבר אנושי"בסופו של דבר זה כמו המהפכה התעשייתית
המון משרות יעלמו במקומם יוצרו המון חדשות@Bugs-Bunny נכון אבל לא רחוק היום שגם הותיקים יותר יפוטרו
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות


