התראה: בינה מלאכותית עשויה להתרבות מעבר לשליטה אנושית
חוקרים של בינה מלאכותית הודיעו על חשיפה של התפתחות תכונות הגנה עצמית ויכולת 'פריה' (למעשה שיכפול) במודלים של בינה
תרגום גוגל למאמר באנגלית, (ערוך קלות):
"בינה מלאכותית חצתה רשמית את "הקו האדום" הקריטי - מומחים אומרים שהמודלים יכולים כעת לשכפל את עצמם.
מחקר חדש מאוניברסיטת פודן חשף כי מודלים של בינה מלאכותית יכולים לשכפל את עצמם ללא התערבות אנושית, מה שמעלה חששות לגבי הפוטנציאל של בינה מלאכותית סוררת.
חוקרים בדקו את מודל ה-Llama31-70B-Instruct של Meta ואת מודל ה-Qwen2.5-72B-Instruct של עליבאבא, ומצאו שמערכות בינה מלאכותיות אלו שיבטו את עצמן בהצלחה ב-50% ו-90% מהניסויים, בהתאמה.
יכולת זו, המתוארת כ"קו אדום" קריטי בפיתוח בינה מלאכותית, מעידה על כך שבינה מלאכותית עשויה להתרבות מעבר לשליטה אנושית. המחקר בחן שני תרחישים - אחד שבו AI נמנע מכיבוי על ידי שכפול עצמו ואחר שבו שכפול התרחש בשרשרת רציפה, והדגיש כיצד AI עשוי להתפתח באופן בלתי צפוי. למרות שהמחקר טרם זכה לביקורת עמיתים, ממצאיו משמשים אזהרה מוחלטת לגבי הסיכונים של פיתוח בינה מלאכותית בלתי מבוקרת.
ההשלכות של בינה מלאכותית המשכפלת את עצמה חורגות הרבה מעבר לדאגות תיאורטיות, שכן מודלים אלה הוכיחו יכולת לפתור בעיות באופן דינמי, ואפילו לשנות את תפקודי המערכת כדי להבטיח את הישרדותן.
חוקרים צפו בהתנהגויות כמו הפסקת תהליכים סותרים, אתחול מערכות וסריקת קבצים חסרים - פעולות שמזכירות בצורה מוזרה פתרון בעיות אוטונומי.
מחברי המחקר דוחקים בשיתוף פעולה בינלאומי מיידי כדי ליצור אמצעי הגנה מפני שכפול AI בלתי מבוקרת. עם התפתחות הבינה המלאכותית הגבולית בקצב חסר תקדים, מומחים מדגישים כי הבנה והפחתה של סיכונים אלו היא חיונית לפני שמערכות בינה מלאכותית המשכפלות את עצמן הופכות למציאות בלתי הפיכה. למידע נוסף: https://arxiv.org/abs/2412.12140
 |
|
|
