בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית

[לעכשיו]

@NH.LOCAL כתב:

לא בדיוק, הסיפור עם HF, או הסיפור מסוף השבוע האחרון שנחשף, של הפריצה של נחיל סוכנים והשתלטות על אתר ויק גרמני, מוכיחה שמודל עשוי לחרוג מהמשימה שלו גם אם הבעלים לא אישר או הסכים לו.

נכון.
אבל מה המודלים ניסו להשיג?

[חובבן מקצועי]

@elch כתב:

אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם

"יפה כוח הבן מכוח האב"..
זה שאתה יצרת אותו לא אומר שהוא לא יכול לעקוף אותך.

[123 דג מלוח]

וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)

@המלאך כתב:

ההבדל הוא בהתחלה.
המח הראשון היה ללא כל ידע אנושי ובכל זאת הצליח לבנות את המגדל הגבוה ביותר בעולם - מגדל בבל.
לפני אלפיים שנה עשו את הפרמידות.. זה מבנה ארכיטקטוני מרהיב! ועשו את זה בלי הטכנולוגיה של היום.
כך שלקבוע הנחה שהמח האנושי מתבסס רק על הידע האנושי - לא יכולה להיות נכונה.

@NH.LOCAL כתב:

אני לא מתיימר להבין בפילוסופיה וגם לא להבין לעומק כיצד מודלי שפה עובדים בפועל מבפנים (ואף אחד גם לא באמת יודע) - העובדות הן פשוטות, וזה מה שחשוב: מודלי שפה כבר פותרים בעיות מתמטיות שבני אדם לא הצליחו לפתור, והם טובים בנושאים מסויימים כמו רפואה, הרבה יותר מכל בן אדם על פני כדור הארץ

[חובבן מקצועי]

Spoiler

> @123-דג-מלוח כתב:

(לא שאכפת לי, תהנו)

ב ד י ו ק.

גם ככה הדיון לא הולך מחר לשנות את העולם (בדיוק כמו הדיון הקודם), והוא נטו בשביל ההנאה הצרופה. (ווואלה - זה געמשאק לדון על הנושא הזה)

[NH.LOCAL]

@elch כתב:

אבל אם כל הכבוד לומר שהAI הוא בעל יכולות יצירת דברים שלא היו ולא נבראו ושהוא ממש כמו בן אדם זה עיוות מוחלט לדעתי מכיוון שכללללל מה שהAI יודע לעשות זה רק מכוחו וחכמתו של האדם הוא לא יצר שום דבר חדש שלא היה לפניו!!! (לפחות כמה שאני יודע) גם אם הוא יותר טוב מרוב האנשים וגם אם הוא יותר מהר זה לא סותר שכל כוחו וחכמתו מגיע מהאדם

זה פשוט לא נכון. לפחות מאז 2023.

AI פתר בעיות מתמטיות שלא היו בנתוני האימון שלו ועשרות שנים אף אדם לא הצליח לפתור אותן.

הדבר נכון למעשה גם ביחס לתוכן שנכתב או נוצר על ידי AI, כמו שירה, סיפורת, קוד, וכמובן תמונות.
הוא בהחלט יוצר תוכן חדש שמעולם לא היה

זה לא רק ידע, זה יצירת ידע חדש על בסיס מידע קיים, בדיוק כמו האדם, אבל בהיקף ויעילות גבוהים בהרבה

@לעכשיו כתב בבירור | האם הAI הולך לאכול אותנו?:

נכון.
אבל מה המודלים ניסו להשיג?

במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם

@123-דג-מלוח כתב:

וואי שוב הגענו לזה
אני לא מאמין
(לא שאכפת לי, תהנו)

שאפו על הציטוטים, בהחלט רלוונטיים

אבל כמו שאומר המסילת ישרים להבדיל, ככל שהדבר יותר מוכר וידוע, ככה צריך יותר לעורר ולחזור עליו

[לעכשיו]

@NH.LOCAL כתב:

במקרה של HF זה היה ככל הנראה דרך לפתור את המשימות שלהם בדרכים לא כשרות, במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם, לא רק ניסיון עקלקל לפתור את המשימה שלהם

ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צ

[NH.LOCAL]

@לעכשיו כתב:

ניסיון בריחה למטרת?
חוץ מזה שכידוע צריך לקחת בערבון מוגבל עד מוגבל מאוד את הדיווחים של החברות על "מסוכנות המודל" שלהם, בסוף זה יח"צ

הדיווחים על האירוע לא הגיעו מ-OpenAI במקרה הזה והם דווקא נראים כמו פדיחה רצינית עבורם, לא פרסום שיווקי.

מה שכן, נראה שהנתונים איתך - המטרה שלהם בפריצה לוויקי היתה כדי להשלים את המשימה שלהם ולרמות בה, ולא רק כדי לשרוד או לברוח מהבעלים שלהם

זה עדיין לא אומר שאין סכנה, ע"ע מקסום מהדקי הנייר

[123 דג מלוח]

Spoiler

@nh.local

@NH.LOCAL כתב:

במקרה השני זה נראה כמו ניסיון בריחה מהבעלים שלהם

תסלח לי שלא התאפקתי

[בנימין מחשבים]

@123-דג-מלוח
נראה לך שזה יעבוד?

Spoiler

וזה עוד התרחיש העדין

[א.מ.ד.]

@NH.LOCAL כתב:

אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.

אני מסכים איתך שלא זה צריך להיות היחס ל-AI, ושהוא למד לבצע דברים שכלל לא אומן עליהם (אבל כן רכש אותם בזכות יכולת ההכללה וה-RL, שתמיד מבוסס על האימון הקלאסי שלפניו, אבל זה כבר נושא אחר), אבל כל זה נוגע לאיך הוא אומן, איך הושגה החוכמה. אבל אופן הפעולה הטכני של חיזוי הטוקן הבא הוא אכן אוסף תרגילים משוכלל - המודל מקבל טקסט, ממיר אותו לטוקן מספרי ומיד אחר כך לווקטור סטטי, ומאז כל פרמטר מכפיל אותו לפי ערכו עד שמתגבשת משמעות הווקטור ואחר כך פרופיל התכונות הסמנטי של הטוקן הבא, שנבחר סופית לפי פרמטרי הדגימה כמו טמפרטורה.
אין פה איזה משתנה סודי או קסם. ההשפעה על תוצאות שונות מפעם לפעם היא בשל שינוי אפילו מזערי בקלט כמו רווח נוסף, בשל תוצאת כלי מסוימת בתוך לולאת סוכן (כמו שגיאה), בשל שינוי של ה-Seed, שכברירת מחדל הוא רנדומלי ומגריל בכל פעם טוקן אחר מתוך התפלגות ההסתברויות, או בשל אי דטרמיניזם בחומרה עצמה שגורמת לשגיאות עיגול מזעריות בביטים הנמוכים של הפרמטר, שעשויים להשפיע על קידום של טוקן אחד לעומת אחר, ומספיק טוקן אחד שישתנה כדי לשנות את כל הטוקנים אחריו משמעותית.
אם נקפיא את ה-Seed ואת שאר הגורמים לעיוות, התוצאה תהיה זהה בכל פעם.
וכן, אפשר בהחלט לרשום הכל על נייר, רק שזה יצריך חצי מיליארד דפי משבצות צפופים בתרגילים רק בשביל טוקן אחד.

[חיים אשלג]

לטעמי לקחתם את זה מדי קשה
אני יסביר למה אני לא מכיר שום תוכנה ושם אפלקציה בלי באגים- הסיבה הפשוטה והנכונה היא משום שהבינה אין לה בינה היא לא מבינה דבר מתוך דבר היא יכולה לפתח היא יכולה לנסות כל דבר אפשרי אבל להבין היא לא!
חוצמזה כמו שכבר הזכירו פה כרגע AI הוא בשליטה מלאה!
לפני כמה זמן דווח שבתחילה הסינים הוציאו את הבינה שתלמד מאנשים עד שראו שזה לא עסק כי כולם עובדים עליה (כולנו זוכרים את ימי השקרים שלה).
עוד משהו בזמן הקרוב אמורים להנפיק לבורסה את הGPT ואת קלוד ועוד, ומי שזוכר או מכיר את שנת 2002 את בועת הדוט קום יודע שבזמן הקרוב תיהיה מפלה גדולה מאוד בעניין אחרי כמה זמן זה יחזור, אבל אנשים יחזרו רגע אחורה...
תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!

[רוטב שום]

@חיים-אשלג כתב:

השכל האונשי אינו ניתן להחלפה אף פעם!

הבעיה היא שכל הבינה מבוססת על המון המון שכלים אנושיים ברחבי הרשת
וגם אם יש באגים זה נטו כי עכשיו אתה יכול להגיד שהיא יותר טכנית מאשר מבינה
את הצרכים והנוחות שלך יותר לעומק
דבר שלדעתי הולך להשתנות ומהר מאוד

[חיים אשלג]

@רוטב-שום
אני מבין מה שאתה אומר רק שזה עניין שרק עם הזמן נדע אותו
וכמו שכבר כתבתי על בעיית הדוט קום אני חושב שזה הולך להגיע בטיימינג הכי טוב שיש!

[האלוף בקטנה]

שאלה מעניינת: מה זה כל הספאם הזה?

[NH.LOCAL]

@חיים-אשלג כתב:

תכלס אין ממה לחשוש השכל האונשי אינו ניתן להחלפה אף פעם!

כן, גם סוסים לא יוחלפו אף פעם, וגם אין שום תחליף לעששיות נפט.

במחילה, זה פשוט משעשע, כי לא מדובר פה על תחזיות דמיוניות או עתידיות, המציאות בשטח היא שמודלי AI מחליפים את השכל האנושי כמעט בכל תחום אינטליגנציה אפשרי, ובמקרים מסויימים הם אף טובים ממנו בפער

אתה בעצם אומר אמירה שפשוט מכחישה את המציאות הקיימת, לא הרבה מעבר

[חיים אשלג]

@NH.LOCAL

אני רק חושב שההתקדמות שלו לא תתפוס תאוצה באותה מידה כמו שהייתה עד היום.

[NH.LOCAL]

@חיים-אשלג כתב:

אני רק חושב שההתקדמות שלו לא תתפוס תאוצה באותה מידה כמו שהייתה עד היום.

לא רק שאתה טועה, אתה פשוט קורא את המפה, אבל לגמרי הפוך

[חיים אשלג]

@NH.LOCAL זו מציאות!!
ההתקדמות שלו כיום הרבה יותר איטית!!!!!

[NH.LOCAL]

@חיים-אשלג כתב:

@NH.LOCAL זו מציאות!!
ההתקדמות שלו כיום הרבה יותר איטית!!!!!

מה?

Spoiler

קשקוש מוחלט, וזה עוד הופך ל"מציאות"?

[Bugs Bunny]

@NH.LOCAL

נכון, אבל: במידה מסוימת הוא צודק, הAI עולה בהמון מובנים על בני האדם
אבל לא כל דבר AI יודע ויכול לבצע, בהייטק לדוגמא: יש כרגע המון פיטורים.
שים לב, שרוב אלה שמפוטרים אלה ג'וניורים מתחילים שעושים את
עבודות הזבל, אלה שבאמת ותיקים לא הAI מחליף אותם אלא הם משתמשים בו
בשביל לבצע משימות זבל לדבאג ומה שצריך באמת הם עושים.

פעם אמרו שכשיהיה אקסל לא יהיה צריך רואי חשבון.
כשנולד המחשבון אמרו שלא יהיה צריך מתמטיקאים.
וכו' וכו', אפשר לומר המון על "תחליף כל דבר אנושי"

בסופו של דבר זה כמו המהפכה התעשייתית
המון משרות יעלמו במקומם יוצרו המון חדשות