בירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית
-
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.המקסימום זה יכולת לחקות רגשות.
כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש דווקא, אם נניח תאורטית שהוא מסוגל להשתלט על משאבים ברמה עולמית, מה שכן מהווה חשש, זה שמישהו שהוא כן בן אנוש, והוא יהיה רע ינצל אותו לצרכים שלו, וזה בדיוק החשש העיקרי מסין, לכן קיים המושג תחרות, ולכן אנחנו צריכים כמה שפחות להגביל את חברות הטכנולוגיה האמריקאיות.
כי בסוף בסוף הם תלויות בחוק האמריקני.
מבחינה טכנולוגית דעתי היא שכיום כל האימונים והמודלים החדשים זה בס"ה סידור טוב יותר של הדאטה סט, לא שיטות אימון חדשות או בכלל מנגנוני חישוב חדשים.
לכן בשביל להגיע למודלים ברמת agi יש צורך בפריצת דרך, אז לדעתי זה עניין של זמן עד שזה יקרה, אבל זה דורש שינוי של תצורות האימון.
(כמובן agi ברמה מסוימת, וכבר ידועה דעתי בנידון..).
-
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.
חייב לספר לך: כש @לא-מתייאש עשה את המודל ocr שלו - הוא עשה אותו רק על דאטה סינטטי. הוא התפלא שאנחנו מנסים לקחת דאטה אנושי.
וככל הנראה (לא התעסקתי בעצמי, לא אומר בבירור) - הוא צדק. לא אומר שהדאטה האנושי של עזר, אבל הסינטטי עושה עבודה מצויינת. -
@NH.LOCAL שוב פעם, אדייק יותר את דברי.
דאטה מלאכותי הוא לא ברמה של דאטה אנושי.
אלא פחות ממנו.
כך או כך, גם אם למודל שפה זה מספיק, מה תענה על עולם שלם? מודל שפה ב'ס"ה' נותן תשובות, הוא לא צריך להגיב בזמן אמת בחיים האמיתיים.
תחשוב על כמות החישובים לרובוט שרץ ברחוב סואן.
Gpt 6 העניק 'התקדמות' ואיך זה נוגע תכלס? האם יש שינויים? אז אתה מסכים שההתקדמות הרבה יותר איטי בחיים האמיתיים.
הוכחות?
למעשה יש הוכחות בדיוק לצד השני. אנת'רופיק ביצעה את הניסוי הזה גם על מודלים של openAI וחברות אחרות ודיווחה שזה קרה גם שם. אם זה היה בשביל יח''צ למודלים שלה, היא לא הייתה מפרסמת את זה על המודלים של שאר החברות.למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
Gpt 6 העניק 'התקדמות' ואיך זה נוגע תכלס? האם יש שינויים?
בהחלט, יש התקדמות מדהימה בהבנה של העולם האמיתי והתנהלות בו.
זו ממש לא התקדמות במרכאות, אלא התקדמות אמיתית וממשית.לדוגמה: במבחן רובוטיקה, GPT 6 קיבל 95% לעומת 30% של פייבל 5.1 ו-5% של GPT 5.6, מדובר בהתקדמות בלתי נתפסת תוך פחות מחודשיים.
ביצירת תלת מימד, הבנת תמונה וסימון פריטים, GPT 6 הוא המודל הראשון אי פעם שפשוט מגיע לרמת שלמות של 100%, לא מדובר בקפיצה מ-70% ל-80% אלא בקפיצה כמו מ-20% ל-99%.
זו גם הסיבה שרבים מתייחסים אליו כ-AGI אמיתי, מכיוון שהוא פתר במידה רבה את החלק האחרון שהיה חסר למודל - הבנה ופעולה בעולם האמיתי.
אז אתה מסכים שההתקדמות הרבה יותר איטי בחיים האמיתיים.
אתה צודק שההתקדמות בחיים האמיתיים הרבה יותר מורכבת ואיטית באופן יחסי, השאלה איך זה רלוונטי לדיון?
וגם, האם ותוך כמה זמן זה יפתר.אני היחיד ששמתי לב שהגיזרה הזו שקטה מדי? קלוד ואופן ai רבים מי יוציא מודל שפה עם מספר גבוה יותר אבל שם אין בכלל מודל ייעודי?
גוגל אכן מתקדמת גם במודלי ג'מיני עבור רובוטיקה.
אבל הלקח המר מלמד שמודלים גדולים יותר תמיד ינצחו מודלים יעודיים.
@המלאך כתב בבירור | האם הAI הולך לאכול אותנו? | בינה מלאכותית: במת הדיונים המרכזית:
@NH.LOCAL שוב פעם, אדייק יותר את דברי.
דאטה מלאכותי הוא לא ברמה של דאטה אנושי.
אלא פחות ממנו.
אני חושב שאתה מערבב בין שני דברים: ביחס לתכנות, מתמטיקה וכו', דאטה סינתטי בהחלט משתווה לדאטה אנושי וכנראה עולה עליו במקרים רבים.
יש בסיס דאטה אנושי מספיק טוב בשביל ליצור ממנו דאטה סינתטי באיכות גבוהה.לגבי דאטה עבור רובוטיקה והבנת העולם, לעומת יצירת עולמות סינתטיים אכן אין תחליף לדאטה אנושי בשלב זה.
-
@nh.local
בתכלס, יש מודל פועל רובוטי (היינו עם גוף פיזי) ברמת תפקוד שמתחילה להשתוות לגוף אנושי?יישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
@nh.local
בתכלס, יש מודל פועל רובוטי (היינו עם גוף פיזי) ברמת תפקוד שמתחילה להשתוות לגוף אנושי? -
@NH.LOCAL שוב פעם, אדייק יותר את דברי.
דאטה מלאכותי הוא לא ברמה של דאטה אנושי.
אלא פחות ממנו.
כך או כך, גם אם למודל שפה זה מספיק, מה תענה על עולם שלם? מודל שפה ב'ס"ה' נותן תשובות, הוא לא צריך להגיב בזמן אמת בחיים האמיתיים.
תחשוב על כמות החישובים לרובוט שרץ ברחוב סואן.
Gpt 6 העניק 'התקדמות' ואיך זה נוגע תכלס? האם יש שינויים? אז אתה מסכים שההתקדמות הרבה יותר איטי בחיים האמיתיים.
הוכחות?
למעשה יש הוכחות בדיוק לצד השני. אנת'רופיק ביצעה את הניסוי הזה גם על מודלים של openAI וחברות אחרות ודיווחה שזה קרה גם שם. אם זה היה בשביל יח''צ למודלים שלה, היא לא הייתה מפרסמת את זה על המודלים של שאר החברות.למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים? -
ביכולת הפיזית - זה די קרוב להשלמה.
ביכולת החשיבה והפעולה בעולם - אין עדיין מודל כזה.
היינו, שתכלס אנחנו רחוקים (כנראה מאוד, במושגים של היום) מבינה מלאכותית פיזית.
יישומים לנוקיה C2 ו208-https://mitmachim.top/topic/1889/משחקים-לנוקיה-c2-ו208-קבצי-jar/40
צילום מסך בנוקיה C2 (ע"י חיבור למחשב)-https://mitmachim.top/topic/3488/צילום-מסך-בנוקיה-c2 -
היינו, שתכלס אנחנו רחוקים (כנראה מאוד, במושגים של היום) מבינה מלאכותית פיזית.
לדעתי לא מאוד. גם 5 שנים הם מעט מאוד. ולפי ההשערות של אנשים כמו דמיס חסאביס, מדובר על שנתיים ואפילו פחות עד שנראה פריצת דרך גדולה בתחום.
צא מנקודת הנחה שהתקדמות והגעה ל-ASI (בינה מלאכותית סופר אינטלגנטית) תגרור כתופעת לוואי התקדמות מהירה בכל תחום אפשרי, כולל רובוטיקה
-
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
ואני מוסיף עליה שככה לא נראה התקדמות פורצת דרך בשנים הקרובות,
בל נשכח שזה בס"ה במודלי השפה.ומה עם מערכות רובוטיות עם גוף משלהם? זה דורש הרבה יותר..
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
מפתח אפליקציות אנדרואיד ויישומי ומודלי AI
-
@NH.LOCAL מבחינה מסויימת זה התעלמות מהשינויים בשטח.
השיטה המקובלת כיום סוברת שדאטה מלאכותי לא משפר יותר מדאטה אנושי.אותה שיטה גם גורסת שאין ברירה אלא להאכיל את המודל בדאטה מלאכותי.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר
-
אז איך אתה מסביר את ההתקדמות (המטורפת) מ-GPT 5 ל-GPT 6 בכל המובנים? היא כולה מבוססת על דאטה סינטטי (האנושי כבר נגמר מזמן ב-GPT 3.5/4), וה-RL כיום מבוסס נטו על דאטה סינטטי שנוצר בזמן אמת.
רק דיוק קטן: לא דווקא בזמן אמת. תוצאות אימוני RL נשמרים לטווח ארוך וכך יכולים לאמן את המודלים הבאים ולהצטבר
-
למעשה היחצ הוא לא על המודלים אלא על הרצון שלה לוועדה שתאכוף את בטיחות המודלים.
נשמע לי קונספירציה מוחלטת.
היא רצתה שבגלל הניסוי הזה תוקם ועדה שתדאג לבטיחות המודלים, כן?
והיא לא חשבה שהוועדה הזאת תרצה לבדוק אם הניסוי שאנת'רופיק טוענת שביצעה, אמיתי בכלל? לפני שהיא מתחילה מאבק משפטי אדיר לכפייה על חברות ה AI את בטיחות המודלים?@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
האתר שלי: https://amlaach.github.io/personal-site/
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.דבר נורמלי שקורה בכל מדינה ובכל תחום אפשרי.
כמו שעשן ערוץ 12 ו13 במלחמה עם וועדת חקירה ממלכתית.
וכמו ש14 עשו עם הלאומית ממשלתית.
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
@רפאל-vnkl חבל..
אני נוטה לחשוב שזה תמימות.
איך הוועדה תוכל להוכיח שזה לא אמיתי?
ובכלל זה לא מאבק משפטי ולא נעליים, לא סתם כתבתי יח"צ. זה יחסי ציבור, לגרום לציבור להילחץ וללחוץ על הממשל להקים וועדה כזו.זה לא בדיוק יח"צ, זה יותר דרך לאסור קוד פתוח ולהשאיר את השליטה בידי קומץ חברות
-
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI? -
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.המקסימום זה יכולת לחקות רגשות.
כיוון שכך אין לו גם רצונות, ולכן אין לו שום סיבה לפגוע בבני אנוש דווקא, אם נניח תאורטית שהוא מסוגל להשתלט על משאבים ברמה עולמית, מה שכן מהווה חשש, זה שמישהו שהוא כן בן אנוש, והוא יהיה רע ינצל אותו לצרכים שלו, וזה בדיוק החשש העיקרי מסין, לכן קיים המושג תחרות, ולכן אנחנו צריכים כמה שפחות להגביל את חברות הטכנולוגיה האמריקאיות.
כי בסוף בסוף הם תלויות בחוק האמריקני.
מבחינה טכנולוגית דעתי היא שכיום כל האימונים והמודלים החדשים זה בס"ה סידור טוב יותר של הדאטה סט, לא שיטות אימון חדשות או בכלל מנגנוני חישוב חדשים.
לכן בשביל להגיע למודלים ברמת agi יש צורך בפריצת דרך, אז לדעתי זה עניין של זמן עד שזה יקרה, אבל זה דורש שינוי של תצורות האימון.
(כמובן agi ברמה מסוימת, וכבר ידועה דעתי בנידון..).
כל הנידון הזה (מחילה על הבלת"ק.)
הוא די דבילי.AI הוא לא בנ"א או בן תמותה.
אין לו רגשות בכלל.ישנם פילוסופיים ופסיכולוגיים רבים שטוענים שבעצם גם לבני אדם אין באמת רגשות אלא זה אלגוריתמים של ניתוחי מקרים שונים (פסיכואנליזה, תורת ההכרה ועוד)
(בלי אחריות לאספקלריה התורנית של התאוריה הזו...
בכו"א, יש בשביל לאכול לא צריך רגשות, צריך תיאבון, ותיאבון מגיע בעקבות צורך, ומי יודע איזה צורך יהיה לו בהמשך?
(בנימא אישית, אני לא באמת חושב את מה שכתבתי (כתבתי למעלה את דעתי בנושא.. )אבל זה נכתב במענה למה שמכונה כאן בפורום "בלת"ק (בלא תגובת קודמיי...)
וסליחה על הבוטות... -
שימו לב -
https://fortune.com/2026/09/12/after-three-years-of-silence-washington-discovers-it-finally-cares-about-ai-safety/
זה נראה בעליל (גם סתם מהציוצים של טראמפ) כמו פשוט מריחה של זמן עד שיגיע זמן שכבר לא נוכל ללכת אחורה (אולי כבר הגיע...)
אבל האמת היא שיש עוד מעט בחירות אמצע קדנציה בארה"ב ואם אפילו עכשיו טראמפ (ולא רק הוא...) מושך זמן - כנראה שבאמת אבדה תקוותנו...
אפרופו מה שכתב @ישראל1212 - יש למישהו פתרון מעשי בנוגע לשדים שכבר יצאו מהבקבוק? -
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
-
מול סין, צפון קוריאה ועוד כמה מדינות עוינות אפשר להתמודד עם דיפלומטיה והסכמים, אבל מה אפשר לעשות עם כמה תימנים עם כפכפים שייצרו פצצות אטום באמצעות מודלי AI?
אי אפשר ליצור פצצות אטום באמצעות AI. בולשיט מוחלט.
הפער בין יכולת תכנונית תיאורטית על מחשב רחוקה באופן אינסופי מיכולת ליישם זאת בעולם הפיזי.
כנ"ל לגבי הזיות ה"AI יצור וירוס קטלני שישמיד את האנושות". כדי לייצר וירוס כזה לא מספיק מוח על בלי שיש לך מעבדה עם כמות DNA עצומה, נסיינים וחומרים מורכבים מאוד, וגם אז מגבלות העולם הפיזי פשוט לא מאפשרים ליצור דבר כזה בפרק זמן קצר
אי אפשר ליצור פצצות אטום באמצעות AI.
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
בזמן קצר באמת לא -
-
אם יש חומרים וכלים וצריך רק הדרכה למה לא?!
כי להשיג חומרים (אורניום) וכלים (דרך להעשיר אותו) זה מסובך מאוד, ברור שאם העולם מפקח זה אפילו עוד פחות אםשרי
לכן נתתי לנושא את שמו, כדי להדגיש שמדובר בשטות.
שלום! נראה שהשיחה הזו מעניינת אותך, אבל עדיין אין לך חשבון.
נמאס לכם לגלול בין אותם הפוסטים בכל ביקור? כשנרשמים לחשבון, תמיד תחזרו בדיוק למקום שבו הייתם קודם, ותוכלו לבחור לקבל התראות על תגובות חדשות (בין אם במייל, ובין אם בהתראת פוש). תוכלו גם לשמור סימניות ולפרגן ב-upvote לפוסטים כדי להביע הערכה לחברי קהילה אחרים.
בעזרת התרומה שלך, הפוסט הזה יכול להיות אפילו טוב יותר 💗
הרשמה התחברות { const baseUrl = "https://www.google.co.il/search?q=site:mitmachim.top"; const m = location.pathname.match(/^\/(topic|category)\/(\d+)/); const type = m ? m[1] : null; const id = m ? m[2] : null; let searchInput; function search(path = "") { const query = searchInput.value.trim(); if (query) { window.open(`${baseUrl}${path}%20${encodeURIComponent(query)}`, "_blank"); } } let buttons = {}; buttons.searchAll = { id: "bb-search-all", label: `חיפוש ${type ? "בכל הפורום" : ""}`, className: type ? "btn-secondary" : "btn-primary", callback: () => search(), }; if (type === "topic") { buttons.searchTopic = { label: "חיפוש בנושא זה", className: "btn-primary", callback: () => search(`/topic/${id}`), }; } else if (type === "category") { buttons.searchCategory = { label: "חיפוש בקטגוריה זו", className: "btn-primary", callback: () => search(`/category/${id}`), }; } buttons.cancel = { label: "ביטול", className: "btn-default", "data-bs-dismiss": "modal" }; const dialog = bootbox.dialog({ title: '<div style="text-align:center;"><img src="/assets/uploads/files/1625950269825-mt-google.png" width="400" alt="חיפוש בגוגל"></div>', message: '<input id="bb-inp" class="bootbox-input bootbox-input-text form-control" placeholder="הקלידו כדי לחפש בגוגל" autocomplete="off"/>', buttons, backdrop: true, show: true, onEscape: true }); dialog.on("shown.bs.modal", function () { searchInput = document.getElementById("bb-inp"); if (searchInput) { searchInput.focus(); searchInput.addEventListener("keydown", function (e) { if (e.key === "Enter") { e.preventDefault(); const query = this.value.trim(); if (query) { search(); dialog.modal("hide"); } } else if (e.key === "Escape") { e.preventDefault(); dialog.modal("hide"); } }); } const searchAllButton = document.getElementById("bb-search-all"); if (searchAllButton) { searchAllButton.title = "לחצו על אנטר כדי לחפש"; } }); })(); void 0;){kind=link}