Azgad.com » רובוט הרג אדם במפעל של פולקסווגן. שר המדע מציע שנמציא “חללית רובוטית בצורת דינוזאור, ובה שתי אסטרונאוטיות ישראליות”. מה יש ברובוטים שגורם לנו לחוש אימה והשתוקקות כאחת?
Azgad.com

מחשבות
רובוט הרג אדם במפעל של פולקסווגן. שר המדע מציע שנמציא "חללית רובוטית בצורת דינוזאור, ובה שתי אסטרונאוטיות ישראליות". מה יש ברובוטים שגורם לנו לחוש אימה והשתוקקות כאחת?

יבשם עזגד | כתיבת תגובה »   Share on Facebook

.
"האל הטוב ברא לנו ידיים", אומר אלפרד דוליטל, "כדי שנעבוד, ולחם
נשתכר". אבל אחר כך מוסיף אביה הפוחח של אלייזה דוליטל במחזה "גבירתי
הנאווה", "עם טיפ טיפת מזל, יעבוד כבר מישהו אחר". (תרגום: דן אלמגור).
מי יכול להיות ה"מישהו האחר" הזה? ניסיונות לשעבד בני-אדם הוכחו כבר
כבעלי טווחי יישום קצרים יחסית, ולפיכך החלו להתפתח רעיונות בדבר
בנייתם של תחליפים – "עבדים מלאכותיים".
.
במבט ראשון הרעיון הזה נראה לא רע, ואפילו לא לא-מוסרי: המכונה היא
רק מכונה, אין לה לב, אין לה רגשות, היא לא נבראה בצלם אלוהים, כי
אם בצלמו ובדמותו של האדם. אלא שלימים התברר שגם עבדים מלאכותיים
עלולים לקום על יוצריהם ולתבוע את חירותם. וכאשר זה קורה, רצוי לא
להיות בסביבה. זה מה שעשו "פרנקנשטיין" האימתני של מרי שלי,
וה"גולם" של המהר"ל מפראג, זכר צדיק לברכה. זה גם מה שעשה ה"רובוט"
הראשון עלי אדמות, שפרץ אל התודעה האנושית בשנת 1922 בעת שקארל
צ'אפק, פילוסוף ומחזאי צ'כי, הציג את מחזהו ר. ו. ר. (ראשי תיבות של
"רובוטים כלליים של רוסום"). המחזה מספר על רוסום הזקן ובנו,
שהצליחו לפתח חומר מלאכותי המחקה את תכונות הפרוטופלאסמה. הם יצרו
מהחומר הזה בובה דמויית אדם, וציפו לקבל ממנה, בתמורה, יחס אנושי.
.
רוסום: "מדוע לבלות עשרים שנה ביצירתו וחינוכו של אדם מבוגר? אם לא
נמצא דרך לעשות זאת מהר יותר מהטבע, ניאלץ לסגור את החנות". אבל ,
מלאכת היצירה לא הייתה פשוטה, והמהנדס רוסום ובנו נאלצו להתפשר פה
ושם. כך למשל ויתרו על מורכבותו של הרגש ועל "חמקמקותה" של
ה"נשמה". את סופו של הרובוט הזה קל לנחש, אבל הכינוי "רובוט"
(שפירושו "עובד"), פתח מאז בקריירה עשירה הנמשכת עד היום על פני
עשרות לשונות .
.
בראשית נפוצו הרובוטים בין דפיהם של ספרי המדע הבדיוני. שם למדנו
להכיר את יתרונותיהם: הרובוט אינו זקוק לאוויר לנשימה, הוא אינו
מוטרד מחום, או מקור, הוא אינו משתעמם, אינו מתעייף, אינו חולה,
הוא לעולם אינו רעב, או צמא, אינו יוצא לחופשת חג, או לחופשת לידה,
ואינו נקרא לשירות מילואים. כל תעשיין היה מעניק לו את פרס העובד
המצטיין.
.
ובכל זאת, מי שמחכה לרובוט שיעיר אותו בבוקר עם כוס מיץ תפוזים ועם
צליל מנדולינה בלב, יצטרך, כנראה, לחכות עוד הרבה זמן. וזה לא מפני
שאי אפשר לבנות רובוט כזה. מי ששלח רובוטים לחפור את אדמת מאדים,
לצלם את אולם הנשפים של הטיטאניק הטבועה, ולקחת דגימות רקמה מגופו
של אדם, מתוך הגוף עצמו, יכול לבנות מכונה שתהיה מסוגלת לסחוט שני
תפוזים לכוס מיץ, ולהכריז על השעה. השאלה היא אם זה כדאי. ומתברר
שהמכונה הזולה והיעילה ביותר, המסוגלת לבצע את מלאכתו של אדם, היא
האדם עצמו. כוח עבודה אנושי מצוי על פני כדור-הארץ בשפע כזה, עד
ששום מכונה, יעילה ככל שתהיה, לא תוכל להתחרות בזמינותו.
.
כך קורה, שבניגוד מסוים לתחזיותיהם של סופרי המדע-הבדיוני,
הרובוטים שאנחנו בונים היום, ואלה שנייצר בעשורים הבאים, לא יהיו
דומים כלל לאדם, ואיש לא יוכל להרשות לעצמו להשתמש בהם לסחיטת מיץ
תפוזים, או למלאכות בית אחרות. הרובוטים האמיתיים של ההווה והעתיד,
יישלחו לבצע משימות שאנחנו איננו מסוגלים לבצען, במקומות שרגל אדם
לא דרכה בם. אלה יהיו, למעשה, טלה-רובוטים שיישלחו למשימות עצמאיות
בחלל, במעמקי האוקיינוסים ובתוככי גוף האדם.
.
אבל לפני הגשמתו של החזון הזה יהיה צורך לטפל בחרדות
הכל-אנושיות הנובעות מאגדות הרובוטים הקדומות. באיזשהו מקום, בקוד
המוסרי-חברתי-תרבותי של כל אדם מערבי רשום באותיות אש: "זכור את אשר
עשו לך פרנקנשטיין של מרי שלי, הגולם מפראג, וה"רובוט" של
רוסום". תרופה אחת לחרדה הזאת, הציע סופר המדע הבדיוני אייזיק
אסימוב, שניסח את "חוקי הרובוטיקה" שיוטבעו וייקבעו במוחו של כל
רובוט. ואלה החוקים:
.
החוק הראשון: רובוט לעולם לא יפגע באדם, ולא יניח שייגרם נזק או
סבל לאדם.
החוק השני: רובוט יבצע כל פקודה שתינתן לו על-ידי אדם, למעט פקודות
בלתי חוקיות בעליל, (כלומר, הסותרות את החוק הראשון).
החוק השלישי: רובוט ישמור על קיומו שלו, כל עוד אין פעולה זו סותרת
את החוק הראשון ואת החוק השני.
.
כל סיפורי הרובוטים הקלאסיים של אסימוב, כמה מאות מספרם, נסבים,
למעשה, על ניסיונות – שלא עולים יפה – לשבור את מערכת החוקים הזאת.
כך, סיפור אחר סיפור, סרט קולנוע אחר סרט קולנוע, סללו הרובוטים
הפוזיטרוניים של אסימוב את דרכם ואיפשרו את צמיחתן של מכונות
חביבות כמו "אר-טו" ו"די-טו" מסרטי "מלחמות הכוכבים", ושל
רובוטריקים למיניהם שילדים הולכים לישון בחברתם, כמו שהוריהם הלכו
לישון, בשעתם, עם דובון שעיר.
.
כך עלו והתפתחו הציפיות שלנו לראות לצידנו רובוטים "אמיתיים",
וכשאנחנו נתקלים, סוף-סוף, במין מכונה מוזרה שהמהנדסים מכנים בשם
"רובוט", אנחנו נדהמים למראה פרימיטיביותה של המכונה הזאת. רובוטים
תעשייתיים מופעלים היום בריתוך חלקי מתכת בתעשיית הרכב, בצביעה,
בהעמסה, ובעוד מלאכות פשוטות, המחייבות כוח פיסי רב, והסתגלות לתנאי
עבודה קשים (חום גבוה, תכולה של גזים רעילים באוויר, ועוד). הם
נראים כזרועות מתכת בגדלים שונים, כמעט שאינם מסוגלים לזוז ממקומם,
וההבדל (המשמעותי מאוד) בינם לבין מכונות אוטומטיות רגילות, הוא,
שאת הרובוט אפשר ללמד לבצע מלאכות שונות. כלומר, אפשר ללמד רובוט
שנועד לריתוך, לרתך חלקים שונים. ועם זאת, יהיה קשה מאוד, בדרך-כלל
אי-אפשר, ללמד אותו להעמיס אריזות קרטון על משאית.
.
מכאן אפשר להבין שאין טעם לדבר על כוס מיץ ועל ברכת בוקר טוב. נכון
לעכשיו, אין טעם ואין תקציב לבניית מכונות דמויות אדם שתתפקדנה
כעבדים מכניים בסביבה האנושית, אבל יש צורך דחוף בבניית מכונות
אינטליגנטיות שתוכלנה לשאת את הנוכחות האנושית למקומות שקשה מאוד,
אם לא בלתי אפשרי, להביא אליהן את כף רגלו של האדם באופן פיסי.
למשל, פועלים מתוכנתים שירחפו בחלל במשך זמן לא מוגבל, יבנו תחנות
חלל ויתחזקו אותן. למשל, אמודאים מכניים שיחקרו את קרקע האוקיינוס
ואת הדגה מבלי שיצטרכו לצאת לשאוף אוויר, ומבלי שיגרו את חכם של
הכרישים. למשל, מתקנים זעירים שיוחדרו לגוף האדם דרך נקב זעיר,
ושיבצעו בו טיפולים שונים, שכיום אפשר לבצעם רק באמצעות ניתוח.
.
הרובוטים הללו, שמלבד כמה יוצאי דופן מיועדים לפעול הרחק מסביבת
חייו של האדם, מכונים בעגה המקצועית של מהנדסי הרובוטיקה בשם
"טלה-רובוטים". שלא כמו קרוביו הפרימיטיביים, הרובוטים
התעשייתיים, הטלה-רובוט צריך להיות מסוגל לבצע כמה משימות. ומכיוון
שהוא פועל לבדו, הרחק ממפעיליו האנושיים, הוא צריך להיות מסוגל
להתגבר על תקלות ולקבל החלטות, בדרך לביצוע מוצלח של משימה נתונה.
בפוטנציאל, טלה-רובוט צריך להיות מסוגל לבצע כל מה שאדם עושה.
.
המפעיל האנושי של הטלה-רובוט קובע את מטרת הפעולה, ומשאיר את הדרכים
לביצוע המשימה, לבחירתה של המכונה. הרובוט מצוייד בחישנים, המשתנים
ממשימה למשימה, המזרימים את נתוני הסביבה למחשב, שבדרך כלל, אמור
להפעיל כמה מרכזי חישוב במקביל. כך יכול הרובוט לטפל במהירות בכמות
גדולה מאוד של נתונים משתנים, ולקבל החלטה בזמן אמת. החלטה כזאת
מתקבלת, למעשה, לפי שקלול של צרור פקודות שתוכנתו מראש בנוסח
"אם-אז". כלומר, אם המצב הוא כזה, עליך לפעול כך. אם המצב שונה,
עליך לפעול אחרת. יעילותם ויכולתם של טלה-רובוטים לפעול נכון
ולהשיג מטרות למרות תקלות בלתי צפויות, תלויות במורכבותן ובמספרן של
הפקודות מסוג זה שניתנו להם מבעוד מועד. אין לצפות מרובוט שיהיה
מסוגל להחליט בכוחות עצמו בעניינים שהוא שומע עליהם לראשונה.
.
שיטת הפעולה האלטרנטיבית, הגורסת תקשורת מתמדת בין הטלה-רובוט
למפעילו, מפקיעה, למעשה, את האוטונומיה מידי המכונה. אם מדובר
ברובוט הפועל בחלל, עשוי משך התקשורת מ"השטח" לחדר הבקרה על הארץ,
להגיע לכמה שניות. לפעמים יכולות השניות הללו להיות גורליות, באשר
ליכולת לסיים את המשימה בהצלחה, וגם באשר לשלומו של הרובוט עצמו.
גם כאשר הטלה-רובוט נמצא במרחק פיסי לא גדול, למשל, מעבר לקיר בכור
גרעיני, באיזור שבו שוררת קרינה רדיו-אקטיבית חזקה, עדיין הפיקוח
האנושי עלול להפריע לו יותר מאשר לעזור לו: האדם צריך לקבל את
דיווחו של הרובוט, להבין אותו, לקבל החלטה, לתת פקודה מתאימה
באמצעות הקלדה, או אפילו בדיבור. כל פעולה כזאת גוזלת זמן נוסף,
והתוצאה היא האטת פעולתו של הרובוט, דווקא בקטעי הפעולה הקריטיים
ביותר. במקרים מסוימים התברר שמשך התגובה של טלה-רובוט הנשלט בידי
אדם גדול פי 10,000 מזה של רובוט שניתנה לו אוטונומיה להחליט ולפעול
בעצמו.
.
סמואל דילייני ב"נובה" פותר את הבעיה הזאת כשהוא מחבר טלה-רובוטים
המטיסים ספינת חלל, ישירות למערכת העצבים של הטייסים. הטייס פשוט
מחבר כבל אלקטרו-עצבי מיוחד לשקע בתחתית עמוד השדרה שלו, ומכאן
ואילך, מתנהלת התקשורת בינו לבין הטלה-רובוט, בזמן אמת, ללא עיכובים
ומתווכים. הפתרון הזה, כמובן, רחוק מאיתנו עוד יותר מהרובוטים
הפוזיטרוניים של אסימוב.
.
נקודות התורפה העיקרית של הטלה-רובוטים הן ה"חושים" שלהם, כלומר ,
יכולתם לחוש ולמדוד בדייקנות את תגובות הסביבה לפעולתם. בנגיעת
אצבע אחת, יכול אדם לחוש את פני השטח של אדם אחר (העור), עד כמה
הוא חלק, חם, גמיש ומתנגד לפעולת הלחיצה שלו. רובוט, משוכלל ככל
שיהיה, עדיין אינו מסוגל לחוש את כל אלה בנגיעה אחת. הוא זקוק לשם
כך ל"צבא" שלם של חישנים, העלולים להתקלקל, ולהכשיל בכך את
המשימה.
.
בינתיים נבנים טלה-רובוטים למטרות פשוטות יותר. למשל, בניית תחנת
חלל. במעבדות סוכנות החלל האמריקאית, נאס"א, מפתחים רובוט שיהיה
"פועל בניין חללי" יעיל וחסכוני. הוא יצוייד בשתי זרועות וברגל אחת
בלבד, שבאמצעותה ידלג על סיפונה של תחנת החלל. כדי שיוכל לנוע בחלל
בחופשיות, יכלול הטלה-רובוט הזה גם שני מנועים רקטיים זעירים
שיסייעו לו "לשחות" בחלל ולהרכיב מכללים שונים של תחנת החלל מבחוץ,
בתנאים של ריק כמעט מוחלט, והיעדר כמעט מוחלט של כוח כבידה. הכוונה
היא שכל רובוט כזה יישא בזכרונו הממוחשב את תוכניותיה של תחנת החלל
כולה, כך שבבוא היום יצטרכו מפעיליו האנושיים לפקוד עליו רק פקודה
אחת "בנה לנו תחנת חלל", ומכאן ואילך, הגולם יעשה את שלו בכוחות
עצמו.
.
כמה מפקידי משרד האוצר האמריקאי כל-כך מתלהבים מהמכונה החדשה, עד
שהציעו באחרונה לבטל כליל את כל התוכניות לשגר אנשים לחלל החיצון,
ולשלוח במקומם רובוטים, שיפעלו שם ללא מגבלות רפואיות וללא קשיים,
שלא לדבר על ההוזלה העצומה שתתאפשר כתוצאה מהוויתור על הניסיון
ליצור בחלל תנאים נוחים למגורי אדם. ראשי נאס"א אינם מתלהבים
מהרעיון הזה, בלשון המעטה.
.
טלה-רובוטים אחרים נועדו להעניק עצמאות לנכים. מתקן אחד כזה אמור
לעקוף חסמים עצביים. אלקטרודות שתינעצנה בשרירים של איבר משותק,
למשל רגל, יעבירו לרובוט את הפקודה שנותן מוחו של הנכה לאיבר, פקודה
להרים את הרגל, למשל. במצב רגיל, הפקודה אינה מגיעה ליעדה בשל חסם
עצבי, ולכן הרגל נותרת במקומה – משותקת. כאשר הרובוט פועל, הוא
יקלוט את הפקודה, ויבצע אותה באמצעות זרוע, שתרים את רגלו של הנכה.
כך יוכל הנכה להניע את גופו באמצעות מוחו שלו, אלא שהרובוט ישמש
מעין מתווך בין המוח לאיברים המשותקים. רובוטים אחרים מתוכננים
להאכיל נכים, לרחוץ אותם ואפילו לצחצח את שיניהם. כמה מהם ייכנסו
לפעולה באמצעות חישני לייזר שיעקבו אחר תנועותיו של החולה. תנועת
ראש של הנכה תפעיל מייד רובוט שיגיש מזון, או משקה לפיו. שאר
הפקודות תוכלנה להינתן באמצעים שונים.
.
התקשורת בין האדם לטלה-רובוט היא עכשיו בחזית המחקר העולמי בתחום
הרובוטיקה. אחת הדרכים לאפשר תקשורת כזאת, ללא הפרשי זמן, מבוססת
על הודעה מראש של הרובוט באשר לפעולותיו העתידיות. הרעיון הזה אומר,
שלפי התוכנה הטבועה בו, לפי המצב בשטח, ולפי חיזוי של שינויים אפשריים
במצב הזה, שנעשה באמצעות חישוב הסתברותי, הרובוט יכול להעריך מה הוא
עצמו יעשה בעוד שניות אחדות. הוא ידווח על כך לאדם המפעיל אותו, כאילו
שהפעולה כבר נעשתה, וכך, ההוראה החדשה של האדם תינתן לפי מצב עתידי,
אבל עד שההוראה הבאה שלו, המבוססת על הדיווח, תגיע אל הרובוט, כבר
תתגשם תחזיתו של הרובוט, כך שפקודת המפעיל אכן תתייחס למצב אמיתי. כך
יישמר רצף התקשורת בזמן כמעט אמיתי.
.
עוד רעיון: טלה-רובוטים עצמאיים שיהיו מסוגלים לכוון את התנועה
בכבישים בשעות הלחץ. הם יעשו זאת לפי מראה עיניהם (צמד מצלמות
טלוויזיה), ולפי דיווחים אלחוטיים קוליים שישודרו אליהם מהמסוק
המשטרתי. הם יוכלו לבצע בעצמם, באופן אוטונומי לחלוטין, שיקלול
מהיר של הלחצים והצרכים התחבורתיים, וכך יפתחו ויסגרו את נתיבי
התחבורה השונים, לפרקי זמן שונים. הרובוטים הללו גם יהיו מסוגלים
לצלם ולדווח על עברייני תנועה.
.
טלה-רובוט אחר, מתוכנן למלא את מקומו של רופא מנתח, בסוג מסוים של
ניתוחים. הוא יוחדר לתוך הגוף בקצהו של סיב אופטי, יבצע בעצמו
פעולות ניקוי וניקוז בתוך הגוף, תוך שהוא מדווח באמצעות סיב אופטי
למפעילו האנושי, כך שבמקרה הצורך, יוכל המנתח האנושי לשוב ולקחת
את השליטה לידיו. בהמשך כבר מדברים על רובוטים-בולדוזרים הדומים
להפליא למשאיות הענק הרובוטריקיות, שיישרו בעצמם את הקרקע, ועל
רובוטים כבאים שיהיו מסוגלים לפעול בזמן עבודת הכיבוי לפי "סדר
קדימויות" שמזכיר את חוקי הרובוטיקה של אסימוב, ולהציל נפגעים
ולכודים מתוך בתים בוערים.
.
על שולחנות השרטוט ובמעבדות הרובוטיקה במכוני מחקר רבים בעולם
מצויים טלה-רובוטים שיהיו מסוגלים בעוד זמן לא רב, לטפס על מדרגות,
לזהות מצבים "נורמליים" ו"לא נורמליים", להבדיל בין טוב ורע,
ולהחליט מה בדיוק צריך לעשות כדי שמצב רע יפסיק להיות רע ויתחיל
להיות טוב. טלה-רובוטים צבאיים יישלחו לשדה הקרב ויפעלו בו באופן
עצמאי, ללא קשר עם מפעיליהם. אמנם, אין עדיין כוונה לייצר רובוט
לוחם עצמאי, אבל בפרסומים שונים כבר מדברים על רובוטים שיפרקו
מוקשים ויגנו על ספינות קרב וצוללות מתחת לפני הים.
.
אייזיק אסימוב, שכזכור לא הצליח לשבור את חוקי הרובוטיקה שלו, הגיע
זמן קצר לפני מותו למסקנה שכדי לאפשר לרובוטים ולאנשים לחיות יחד,
יש להוסיף חוק נוסף, חוק האפס, שיהיה קודם אפילו לחוק הראשון. החוק
הזה אומר "הרובוט יפעל לטובתה של האנושות, ולא יניח שיאונה לה כל
רע".
לפי זה, החוק הראשון ישונה כך "רובוט לא יפגע באדם, אלא אם
הפגיעה הזאת נחוצה לשמירתו של חוק האפס". במלים אחרות, רובוט
שיתוכנת כראוי עשוי לדעת טוב יותר מאיתנו, מה טוב בשבילנו. ומצד
שני, רובוט שאינו פועל לפי חוקי אסימוב, עלול לגרום "בתום לב" הרס
ומוות. השאלה היא מה זה, בדיוק, "תוכנת כראוי". עד היום, איש לא
חשב ברצינות על האפשרות והצורך לתכנת את הרובוטים שלנו לפי חוקי
אסימוב. אבל עכשיו, כשמדובר בטלה-רובוטים שיהיו מסוגלים למלא משימה
מורכבת לאחר קבלת פקודה כללית אחת, שיפעלו באופן אוטונומי, ללא
התערבות ושליטה של מפעילים אנושיים, ושבשבילם מילוי המשימה מקדש את
כל הדרכים, לפי מפתח של יעילות בלבד, אולי כדאי שנתחיל לחשוב על
זה.




כתיבת תגובה משלך לקטע