בירור | האם הAI הולך לאכול אותנו?

[א.מ.ד.]

@חובבן-מקצועי כתב:

נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)

משהו מעניין שראיתי:

[123 דג מלוח]

@elch יש כבר שרשור (גם) על זה
https://mitmachim.top/post/1168849
(נראה לי זה גם היה מוצ"ש רק בלי סליחות)
ואני חושב שהחברה פה בכוונה מפזרים את הדיונים לכמה נושאים (לדוג' בנספח דיונים זה פעם שניה שהוא מסתעף לענין הזה) כדי שכשהAI יעמיד לדין את האויבים שלו הוא יתבלבל מי הם...

[לעכשיו]

@חובבן-מקצועי כתב:

בטוח? שאל אנשים שקלוד בתחילת דרכו כסוכן מחק להם קבצים במחשב..

ברגע שהAI יעקוף את הבינה האנושית, לא באמת תוכל לשלוט עליו, מפני שהוא יבין את המציאות טוב יותר ממך, ויגיע למקנות שונות משלך, וייתכן ומספיק ותתן לו טיפה אטונומיה.
אין לנו באמת דרך לדעת איך חושבת 'ישות' חכמה יותר מבנ"א.

זה בדיוק העניין.
בגלל שלAI אין מודעות, ממילא הוא לא "רוצה" כלום.
הוא רק עושה את מה שמבקשים ממנו.
יתכן שמישה יבקש ממנו משהו והוא יעשה שטויות, זה קורה כבר כיום.
אבל להחליט על דעת עצמו שלמחוק את ישראל (למשל) אין לו שום סיבה (אלא אם מי שמפעיל אותו זה ממשלת איראן, ואז הבעיה קיימת גם בלי טיפת AI... זה סתם עוד כלי...)

[חובבן מקצועי]

@לעכשיו כתב:

הוא רק עושה את מה שמבקשים ממנו.

שוב, זה לא מדוייק, מלא פעמים הוא עושה דברים שלא ביקשת ממנו. כמו המקרים שהיו בתחילת דרכו של הסוכן של קלוד, שהוא מחק קבצים לאנשים במחשב, זאת מבלי שהם ביקשו..

(אף פעם זה לא קרה לך שAI עשה משהו שלא ביקשת? כאילו לא יום אחד הוא עשה דברים מרצונו, אלא ביקשת א' והוא הביא לך ב')

[לעכשיו]

@חובבן-מקצועי
יצא שביקשתי ממנו א' והוא עשה ב', אבל בדרך כלל יש איזהשהו הקשר בין מה שביקשת לתוצאה
אם תבקש ממנו תמונה הוא לא יכתוב תוכנה שלמה להורדה מספוטיפיי, נכון?

[רפאל vnkl]

@elch כתב:

זה אפשרי? הרי כל הבינה שלו מגיעה מהאדם מהאינטרנט וכדומה הוא לא באמת יכול לייצר דבר שלא קיים לא?

בגדול, כן, זה אפשרי.
הרעיון הוא שלאחר האימון הראשוני, מנווטים את ה AI.
הוא יוצר כמה תשובות, ואז בוחרים את הטובה מביניהם (וכך הוא 'מבין' איזה סוג של תשובות הוא צריך לתת) , ואז עושים את זה שוב ושוב ושוב,
וכך הוא נהיה חכם וחזק יותר ויותר, מכוחה של הרנדומליות, לא רק מחוכמת האדם שעליה הוא אומן.

[חובבן מקצועי]

@לעכשיו כתב:

אם תבקש ממנו תמונה הוא לא יכתוב תוכנה שלמה להורדה מספוטיפיי, נכון?

נכון, ועדיין - קורה לפעמים שהוא עושה דברים שלא ממש ביקשת (בעיקר כשאתה מבקש ממנו קוד, והוא מפתח אותו למקומות שלא רציתי שבכלל הוא ילך אליהם..).
וכפי שציינתי שהיו מקרים שבו הוא מחק לאנשים קבצים בלי שהם ביקשו כלל.

ותחשוב שהAI יהיה הרבה יותר חכם ממך. אז תגיד לו 'היי, בא תהיה טוב יותר לאנושות' - ומשם הכל היסטורייה, הוא יחליט מצידו מה זה טוב ומה זה רע ומה צריך לעשות. וכל זה - בגלל פתיחה שאומרת לו - תעשה משהו מעצמך..

[לעכשיו]

@חובבן-מקצועי
בשביל זה צריך שיהיה מישהו עם הרשאות מספיקות (נניח מישהו מאוד בכיר במשרד ההגנה האמריקאי) ומספיק טיפש כדי לשלוח בקשה כזו לAI (תגיד לי, אתה היית כותב משהו כזה לAI על הפרויקט הכי קטן שלך?)

[בינארי חכם]

@לעכשיו
ממש לא
מספיק שהוא טיפה יותר חכם והוא מחליט שבגללך כדאי לו לעקוף את המגבלות ששמו עליו

[לעכשיו]

@בינארי-חכם
לא קשור למגבלות.
אין לו סיבה לעשות משהו כזה
הוא לא בן אדם שתמיד חושב מה אמור להיות!

[חובבן מקצועי]

@לעכשיו כתב:

בשביל זה צריך שיהיה מישהו עם הרשאות מספיקות (נניח מישהו מאוד בכיר במשרד ההגנה האמריקאי)

מדבר איתך על מצב שבו הוא עשוי לפרוץ דברים גם אם אין לו אליהם גישה פורמלית.

@לעכשיו כתב:

) ומספיק טיפש כדי לשלוח בקשה כזו לAI (תגיד לי, אתה היית כותב משהו כזה לAI על הפרויקט הכי קטן שלך?)

זו הייתה הקצנה מסויימת. בהחלט יוצא לי לפעמים לכתוב לו 'תעשה לי סדר בפרוייקט/ תבדוק שאין באגים וכו'.. ולפעמים - זה יכול להגיע למקומות כמו 'תבדוק, יש לך אולי מה לשפר?' , או סתם כדי להשתעשע תכתוב לו 'היי, מה נשמע? בוא נעשה משהו מעניין'.. וכאן אתה נכנס כבר למקומות שבהם הוא יותר אוטונומי, ויותר חופשי לעשות דברים.

[בינארי חכם]

@לעכשיו
הגבתי אליו באותו מטבע שהוא הגיב...
אבל אין סיבה שאם הוא יראה 'באג' שמפריע לו לביצוע שהוא ינסה לעקוף את זה

Spoiler

@לעכשיו כתב:

בשביל זה צריך שיהיה מישהו עם הרשאות מספיקות (נניח מישהו מאוד בכיר במשרד ההגנה האמריקאי)

[בנימין מחשבים]

Spoiler

אין תוכניות קולינריות זה אומר שאפשר להרגע, לא?

Spoiler

@מטען-נייד מוקדש בשבילך

[בינארי חכם]

פוסט זה נמחק!

[י. פל.]

לפחות כשמספרים סיפורים, לדבר לעניין...
הוא לא מחק מיילים בלי רשות: הוא קיבל הוראה למחוק מיילים מסויימים, ובגלל עומס על ההקשר שלו - הוא מחק המון מיילים לחינם.
זה מזכיר את הסיפור שמתנגדי הAI מספרים - על רחפן אוטונומי שהרג את המפעיל שלו. רק שהם שוכחים לספר ש...
(בספויילר, כדי שתדמיינו רגע מה האמת הייתה)

Spoiler

האמת הייתה שהכל היה סימולציה הסיפור מעולם לא אירע במציאות...

[חובבן מקצועי]

@י.-פל. כתב:

לפחות כשמספרים סיפורים, לדבר לעניין...
הוא לא מחק מיילים בלי רשות: הוא קיבל הוראה למחוק מיילים מסויימים, ובגלל עומס על ההקשר שלו - הוא מחק המון מיילים לחינם.

לפי מה שזכור לי הוא מחק קבצים לאנשים מהמחשב. אולי זכורני מטעה אותי..

[בנימין מחשבים]

@חובבן-מקצועי בהחלט היה. אני הייתי עד לכזה מקרה, אבל יאמר לזכותו שזה היה בטעות. הוא התכוון למחוק טיוטה ומחק הכל

[NH.LOCAL]

@עידו300 כתב:

מחילה, לא שאלתי האם זה אפשרי, שאלתי טכנית איך סט תרגילים גורם לזה

@חובבן-מקצועי כתב:

ולדעתי, בטח שזה אפשרי, כבר היום יש דברים שהוא עושה הרבה יותר טוב מבנ"א למרות שהוא למד את החומר מבנ"א. (למשל? ציורים, קידוד ספציפי במהירות מטורפת, מציאת פרצות אבטחה [אם מה שקלוד פרסמו נכון], כתיבה, ועוד ועוד..) אז נכון שאתה יכול לטעון - 'טוב, הוא לא באמת יותר טוב, הוא פשוט עושה את זה מהר כי הוא מכונה, וממצא את היכולות'.. ואני חושב - שיכולת אנושית משודרגת - זו יכולת על אנושית.
נכון לעכשיו - AI עוקף אותי באופן אישי ברוב הדברים (מתכנת יותר טוב, מצייר יותר טוב, כותב יותר טוב..)
מה גם שיש מדדים שמודדים מודלים על דברים שהם לא אומנו עליהם, והמודלים עם הזמן יותר ויותר מצליחים שם, מה שאומר שה'חשיבה' שלהם אכן עובדת.

יש משהו באמת מגוחך בכל היחס ל-AI כמו "הוא לא באמת יוצר דברים חדשים", "הוא רק אוסף תרגילים", "הוא רק תוכי סוכסטי" (אל תשאל אותי מה זה, אבל זה היה כינוי גנאי נפוץ ל-AI ב-2022-2024...)

העניין הוא שמודלי AI, עוד הרבה לפני המודלים העדכניים, יצירתיים יותר, חכמים יותר במתמטיקה, ציירים טובים הרבה יותר, מתכנתים טובים הרבה יותר מהאדם הממוצע, ובעלי ידע כללי טוב יותר מכל אדם שהוא על פני כדור הארץ.

להפוך את היכולות הללו ל"סתם תוכי" או "סתם מחשבון", זה לא זלזול ביכולות ה-AI, אלא זלזול במוח האנושי, שמבצע את הדברים הללו בצורה הרבה פחות טובה ומקצועית, ובטח ובטח שלא משלב את כלל היכולות הללו בתוך בן אנוש אחר.

אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".

אז לא, זה לא אוסף תרגילים, והכי חשוב: זה בוודאי לא בסך הכל.

שמחתי לעזור

[חובבן מקצועי]

Spoiler

> @NH.LOCAL כתב:

אבל כנראה שאין את מי לשכנע, גם כש-GPT 8 יגלה תרופה לסרטן או קלוד 10 יפריך את תאוריית היחסות או יסביר את הקוונטים אנשים יסבירו שזה "בסך הכל אוסף תרגילים".

אתה מעליב את Gemini 8 PRO
כש gemini יפריך את התאוריה החדשה של קלוד על תורת היחסות..

אהה, או שהעלבת את ההודים החכמים (שעולים עם הזמן במדדי החכמה שלהם.. מעניין אם הם מחכימים או מוצאים עובדים טובים יותר).

[י. פל.]

@חובבן-מקצועי כתב:

כש gemini יפריך את התאוריה החדשה של קלוד על תורת היחסות..

אני מתחיל אותו:

Spoiler

התיאוריה של קלוד, זה כמו לשים קומקום על גדר עץ: הוא פשוט לא יתחמם!

כעת, תמשיכו את התיאורים המטופשים שלו לבד...