איש_חשוב
את הבעיה הרוחנית קל מאוד להבין, האינטרנט בכללותו מלא בדברים אסורים, וכשהוא חכם יותר הוא בעייתי יותר, הוא עלול להביא לזמינות, מידע שאדם חרדי לא היה רוצה לראות או לשמוע.
אבל אני רוצה להתייחס שניה לבעיה הגשמית..
הבעיה העיקרית כשמחשבים יתחילו לחשוב עצמאית ולעשות מה בא להם
לכאורה כדי שתהיה בעיה עם בינה מלאכותית, צריך שיהיו לו - למחשב - רצונות משלו, ורצון זה דבר שמגיע מתוך הנפש / נשמה של אדם
זה לא דבר שניתן לחקות אותו
כן ניתן ללמד מחשב שהדבר הכי חשוב לו הוא לשרוד, ולכן למשל אם אדם ירצה לנסות לגרום לו להשמדה עצמית - הוא יעקוף את המשימה שקיבל להשמיד את עצמו, ואולי אף ינסה להשמיד את האדם
אז אפשר לעקוף את זה על ידי מתן פקודה שרצונו של האדם שיצר את המחשב חשובה יותר מההישרדות שלו
יש כמובן סכנה בכל זה, כשמישהו יבוא ויתכנת את המחשב מחדש
אבל סכנה כזאת קיימת גם כיום, כשאפשר לשים לכל רובוט של חבלני משטרה עם אקדח, לשים לו פקודה לירות בכל מי שזז ברחוב
גם היום יכול כל מחבל לייצר רובוט שכזה.
הסכנה אם כך לא התחדשה במה שהאדם יכול לתכנת את המחשב, כי זה כבר קיים
הסכנה המתחדשת בבינה מלאכותית היא שמא יחליט המחשב בעצמו לייצר לעצמו פקודות חדשות, ובשביל זה צריך שיהיה לו רצון משלו
מצד שני, נניח ומתוך "שיטוט ברשת".. של המחשב עצמו, ואני מתכוון לכך שהרי מחשב מחובר לרשת ומקבל מידע ממנו כשמחפשים דרכו למשל, ואז הוא "ילמד" שהפקודה הזאת שנתנו לו - שרצונו של האדם היא חשובה יותר מהישרדותו של המחשב, אינה נכונה, והוא "יסגל" לעצמו פקודה הפוכה
כאן זה יכול להגיע לידי סכנה של ממש, במידה ויהי מדובר במחשב בעל יכולת ביצוע, רובוט משוכלל למשל.
תוקן על ידי איש_חשוב ב- 04/06/2023 01:13:21
 |
|
|
.png)
