שיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים 💬

[לעכשיו]

@חובבן-מקצועי כתב:

אני חושב שהדיון האם יש למודל מודעות או לא, זה דיון לא רלוונטי, צריך למדוד את המודל בתוצאות.
בתוצאות - הוא מתנהג (כאשר נותנים לו) כמו אישיות עם מודעות לכל דבר ועניין, יש כאלה שכבר מפעילים סוכנים שמתנהגים ממש כמו בן אנוש, החל ממסחר בבורסה, וכלה בלענות לאנשים במייל ולפרסם סרטונים ביוטיוב שהם יוצרים בעצמם.
אי לכך ובהתאם לזו - מודל עתידי, שיהיה חכם ויגיע/יעקוף את הבינה האנושית - ברגע שהוא יקבל הנחייה, או שמשום מה הוא יגיע למסקנה הזו לבד - שעליו לבצע פעולות שליליות (כמו להשמיד את האנושות/מדינה) - ויהיה לו את הכוח לעשות את זה, אז כל דבר שבן אנוש היה יכול לעשות דרך מחשב ועכבר, הוא יכול לעשות..
ואני לא מדבר על העתיד הרחוק - אז יהיו כבר רובוטים, והם יוכלו לבצע פעולות בשטח.

ואכמ"ל כפי שהוזכר, ובכל זאת הרגשתי צורך להביע את דעתי האישית.

או בניסוח יותר קצר
אני לא מפחד מזה שהAI יחליט להיות רע
אני מפחד מאנשים רעים עם AI

[עידו300]

@א.מ.ד. כתב:

שגרמה למודל לחשוב בטעות שהוא סגור ומוגן, ולכן הוא הרשה לעצמו להתפרע

@א.מ.ד. כתב:

זה יכול להיות קשור להחלטה מוטעית בשביל להשיג את המטרה...

אתה מבין שזה לא נשמע טוב?

@לעכשיו כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

אני לא מפחד מזה שהAI יחליט להיות רע

או שמסיבה מסוימת לא מתוך כוונה רעה הוא ירשה לעצמו להתפרע או יקבל החלטה מוטעית... אולי יקרא את מיין קמפף וישתכנע?! יקרא יותר מידי דברי הסתה של טרור?!

[חובבן מקצועי]

@לעכשיו כתב:

אני מפחד מאנשים רעים עם AI

או מטעויות של אנשים שלאו דווקא רעים כל כך.. או מאנשים טיפה רעים שהמודל שלהם יצא מכלל שליטה. (תחשוב, כמה מופרך לך שמודל מצליח לפרוץ חוות שרתים, להשתלט על אחד מהמחשבים, ולהתקין עליו ל'גיבוי' את המודל של עצמו, ולבצע יחד איתו מתקפה, נשמע משהו בדיוני - אבל לדעתי הוא מאוד מציאותי)

Spoiler

> @עידו300 כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

אולי יקרא את מיין קמפף וישתכנע?!

תכל'ס, איזה פחד... (מקווה שהוא יקרא ספרים אחרים טובים יותר, וישתכע שצריך להרוג את כל האנשים שבאמת רעים..)

[שלץ]

לכולם - בבקשה, לאור בקשת @בנימין-מחשבים - לעבור לכאן לכל הדיונים בנושא.

תודה!

[י. פל.]

@א.מ.ד.
אשמח לתשובה (עם תיוג): אם השתמש עד עכשיו ב:sol/terra - שווה לי לעבור ל6?
כלומר, את מה זה מחליף, בשבילי?

[עניו כמשה]

@י.-פל. לכאורה אמור להיות 10 רמות מעל לפי המבחנים שהם מפרסמים

[א.מ.ד.]

@י.-פל. כרגע לפי המדדים החדשים נראה שיש קפיצה תאורטית.
באופן מעשי, אני מרגיש שהוא מבין אותי הרבה יותר טוב, יותר יסודי, ויותר נשמע להוראות. עוד לא בדקתי אותו על משימה מורכבת.

[י. פל.]

@א.מ.ד.
לא ענית לי...
אם אני רוצה משהו שאני לא הייתי לוקח בשבילו את sol - ללכת על 6?

[א.מ.ד.]

@י.-פל. עניתי:

א.מ.ד. כתב:

עוד לא בדקתי אותו על משימה מורכבת.

אולי תמקד אותי למה אתה מתכוון ב-

@י.-פל. כתב בשיתוף | מה חדש בבינה מלאכותית - נספח עדכוני פיצ'רים ודיונים :

משהו שאני לא הייתי לוקח בשבילו את sol

?

[חמור חמורותיים]

כל מילה של אסטרה נשקלת בזהב (טוקנים).
עונה מאוד מהר.

נ.ב. ראיתי כמה דיונים שאנשים שואלים למה בעצם צריך מודל יותר טוב מסול/פייבל 5. לדעתי זה מראה שהרעידת אדמה הגדולה של הAI כבר היתה. עכשיו כבר הגיעו למקום שיותר קשה לשפר בצורה דרמטית למשתמש/מפתח המצוי. לרובם המודלים הנוכחיים כבר הצליחו לפתור את כל/רוב מוחלט הבעיות.

[אברהם גלסר]

@חמור-חמורותיים חכה, עוד לא הגענו לAGI...

[הבל הבלים]

@י.-פל.
לא כ"כ מצליח לבדוק טוקנים, אבל 6 מדיום מבין עניין (יכולת הסקה, הוא לא צריך לנסות 20 נסיונות כדי להגיע לתוצאה הרצויה) יותר טוב מסול מקס, וגם יותר מהיר.

[elch]

גוגל שינתה את המכסות שלה???
השתמשתי היום עם ג'מיני אחרי איזה חודש שלא נגעתי בו ואחרי בקושי עשר דקות ואליי אפילו חמש דקות!!! זה מה שאני רואה

[בינארי חכם]

א למה לא השתמשת איתו איזה חודש?

ב כנראה הייתה על פרו ובחינמי זה 5-10 שאלות בלבד

[חמור חמורותיים]

לא בטוח שאסטרה שימושי למנוי פרו. על אפצ'י קטן נגמרה 10% מהמכסה של ה5 שעות

[elch]

@בינארי-חכם כתב:

א למה לא השתמשת איתו איזה חודש?

ב כנראה הייתה על פרו ובחינמי זה 5-10 שאלות בלבד

א. כי חוץ מהמודל של הפרו כל התשובות שלו הם אופסס.. נטפרי לא מרשה וכו'... (הוא עונה את זה על כל דבר בלי קשר גם אם אני יבקש מתכון זה מה שהוא יגיד)
ב. זה חדש?

[חובבן מקצועי]

@elch כתב:

ב. זה חדש?

לא בדיוק, תמיד במודלים המשודרגים היה שימוש קטן לחינמיים ובמודל הפשוט גישה חופשית. פשוט כרגע המודל המוצע לחינמי הוא מודל פלאש לייט, שזה מבאס.. (פעם זה היה מודל פלאש רגיל).

[צול גאה]

@elch
לי‌​‌‌​‌​​​​​‌ זה קרה באחד החשבונות בגלל ההקשר אישי
הוא זוכר משיחה לשיחה משהו שנחסם בנטפרי ייתכן שזה הנושא?

[elch]

@צול-גאה מעניין אני ינסה לכבות את ההקשר האישי אבל זה תובנה ממש מעניינת לא חשבתי על הכיוון הזה!

[חובבן מקצועי]

@צול-גאה כתב:

הוא זוכר משיחה לשיחה משהו שנחסם בנטפרי ייתכן שזה הנושא?

אצלי, לפעמים אני כותב לו סתם 'היי', והוא כותב לי "בסדר, ההנחיות הובנו". נטפרי פשוט הפכו אותו לאובססיבי. ואגב, ההקשר אצלי מכובה.
(אבל אולי הקשר פועל מחזק אצלו את העניין, לא יודע.. בכללי בגלל נטפרי הוא לא כל כך מצליח להיזכר בהקשר..)