זהירות, הרובוט – איך ומדוע המציא אייזיק אסימוב את חוק האפס

 

הרובוט "אסימו"

 

התרבות האנושית רצופה ניסיונות, מוצלחים יותר ופחות, לגרום לכך ש"מישהו אחר" יעשה את העבודה שיש לעשותה, במקומנו. מכיוון שניסיונות לשעבד בני אדם הוכחו כבר כלא יעילים וכבעלי טווח יישום קצר, החלו להתפתח רעיונות בדבר בנייתם של תחליפים" – עבדים מלאכותיים".

במבט ראשון הרעיון הזה נראה לא רע ,ואפילו לא בלתי מוסרי :המכונה היארק מכונה ,אין לה לב ,אין לה רגשות ,היא לא נבראה בצלם אלוהים, כי אם בצלמו ובדמותו של האדם .אלא שמחר אולי נגלה  שגם עבדים מלאכותיים  עלולים לקום על יוצריהם ולתבוע את חירותם .וכאשר זה יקרה ,רצוי לא להיות בסביבה .או שבעצם, אולי מוטב לעשות מראש כל מה שאפשר, כדי להימנע מהמצב הזה, שלא לומר מהמלחמה הזאת.

בראשית נפוצו הרובוטים בין דפיהם של ספרי המדע הבדיוני. שם למדנו להכיר את יתרונותיהם :הרובוט אינו זקוק לאוויר לנשימה ,הוא אינו מוטרד מחום ,או מקור ,הוא אינו משתעמם ,אינו מתעייף ,אינו חולה, הוא לעולם אינו רעב ,או צמא ,אינו יוצא לחופשת חג ,או לחופשת לידה, ואינו נקרא לפעולות קהילתיות או לאומיות כאלה ואחרות. כל תעשיין היה מעניק לו את פרס העובד המצטיין.

הקושי בבניית רובוטים כאלה אינו רק טכנולוגי-הנדסי. לפני הגשמתו של החזון הזה יהיה צורך לטפל בחרדות הכל-אנושיות הנובעות מאגדות הרובוטים הקדומות .באיזשהו מקום ,בקוד המוסרי-חברתי-תרבותי של כל אדם רשום באותיות אש" :זכור את אשר עשו לך" פרנקנשטיין", אותו יצור דמוי-אדם אימתני שהורכב מחלקי גופות בספרה הידוע של הסופרת הבריטית בת המאה ה-18, מרי שלי; ו"הגולם "מפראג, אותו יצור שנבנה כמעין "בובה" ענקית ולפי האגדה היהודית, הרב יהודה ליווא, בן המאה ה-16, נפח בו "רוח חיים" והפך אותו למשרת שהופקד בין היתר על הפחדת והרחקת אויבים. סופם של שני אלה, פרנקנשטיין והגולם מפראג, שהם יצאו משליטה ובשלב מסוים אפילו פנו, למרבה הזוועה, הנגד יוצריהם. זהו, אכן, המכשול הגדול ביותר שניצב בין האנושות לבין יצירת צבא של משרתים מכניים-אוטומטיים, בעלי מיומנויות טכניות מועילות ככל שיהיו.

תרופה שאולי תאפשר לנו, יום אחד, בעתיד, להתגבר על החרדה הזאת ,יצאה מבית היוצר של סופר המדע הבדיוניהיהודי  אייזיק אסימוב. רבים טועים ורואים בסופרי המדע הבדיוני מעין "נביאים" שממציאים או חוזים התפתחויות טכנולוגיות ומדעיות כאלה או אחרות, ומושכים בכך את המדע במעלה ה"אבולוציה" המדעית טכנולוגית. אלא שלמעשה, סופרי המדע הבדיוני תמיד נתקלו במידע על מחקר מדעי מסוים שלא עבר לידיעת הציבור, ונותר ב"חצר" של המדענים. הסופרים, שניחנים בדמיון וביצירתיות, נוטלים את המידע המדעי החדש, ו"משחקים" אתו במחשבתם, תוך שהם מנסים "ללכת אתו כמה צעדים קדימה", ולראות לאן הוא יכול להגיע, אילו התפתחויות חברתיות, כלכליות, פוליטיות, פסיכולוגיות עשויות להתחולל בעקבותיו.

 

אייזיק אסימוב, כאדם צעיר

 

 

אייזיק אסימוב היה עילוי של ממש בכל מה שקשור ב"סימולציות" המחשבתיות האלה. הוא הצליח לברוא עולמות שלמים, בעלי תרבויות, היסטוריות, אמונות ועימותים בדויים, כולם על-בסיסן של התפתחויות מדעיות שנחשף אליהן. היכולת שלו להציג בפנינו אפשרויות שונות לעתיד, ולהראות לנו להיכן אנו עשויים להגיע אם נבחר בשביל זה או אחר אל המחר, הקנו לו מעמד שאפשר לתארו, אולי, כנביא התכנון האסטרטגי של האנושות. במובן מסוים, הוא לא רק הראה לנו תמונות של עתידים אפשריים רבים, אלא גם לימד אותנו איך לחשוב על העתיד, איך לראות בעת ובעונה אחת מציאויות אפשריות רבות, דבר שיאפשר לנו לבחור ביניהן, ואז, לחזור במורד כל הדרך אלה ההווה – ולבצע את הבחירה שתכוון אותנו אל המציאות העתידית בה בחרנו.

אייזיק אסימוב נולד בשנת 1920 למשפחה יהודית בפטרוביצ'י, עיירה לא גדולה בסמוך לגבול בין רוסיה לרוסיה הלבנה. בהיותו בן שלוש שנים, בשנת 1923, היגרה המשפחה לארצות-הברית והשתקעה בברוקלין, ניו-יורק, שם חי כל חייו, עד למותו בשנת 1992. בילדותו נהג לחלק את זמנו בין בית-הספר לבין עזרה להוריו בחנות הממתקים והעיתונים שלהם.

בגיל 17, נחשף למגזין של מדע בדיוני, בחנות של הוריו, החל לכתוב סיפורים עתידניים שזכו מיד לפופולריות רבה. ג'ון קמפבל, עורך כתב-העת המיתולוגי Astounding Stories, תמך בו ועודד אותו להמשיך לכתוב. אלא שככל בן למשפחה יהודית, נשלח אסימוב לרכוש חינוך והשכלה שיקנו לו "מקצוע אמיתי, שאפשר להתפרנס ממנו". וכך, בהיותו בן 19 קיבל תואר ראשון במתמטיקה מאוניברסיטת קולומביה. בהיותו בן 28, בשנת 1946, שבה הוקמה במזרח התיכון מדינת ישראל, הוא קיבל תואר דוקטור. הוא הצטרף, כביוכימאי, לסגל המדענים של אוניברסיטת בוסטון, אך במקביל המשיך בכתיבת ספרים וסיפורים ששטפו את חובבי המדע הבדיוני, ובמיוחד את בני הנוער, בשפע רעיונות ואפשרויות מלהיבים באשר לעתיד, לדרכים שבהן אפשר לחשוב עליו ולעצב אותו. העיסוק המאסיבי שלו בתחום זה – התכנון האסטרטגי של העתיד האנושי – לא הקנה לו תומכים רבים בעולם המדעי האקדמי המאורגן, והוא קודם לדרגת פרופסור חבר רק בשנת 1979. הוא גם היה סגן נזיר ארגון "מנסה" בו חברים בעלי מנת משכל שעולה על 140.

בשנת 1942 הוא נשא לאשה את גרטרוד בלוגרמן, הוליד אתה שני ילדים, ובשנת 1973, התגרש ממנה ונשא לאשה את ג'נט ג'פסון. הוא ראה את עצמו כהומניסט, וכאזרח של האנושות כולה. ככזה, הוא הוטרד עד מאוד מהאפשרויות שהאנושות, שכידוע, לא תמיד נוהגת בחוכמה, תכלה את עצמה, במלחמות בין עמים על כדור-הארץ, או בהתפשטות חסרת אחריות וגבולות בגלקסיה, או כתוצאה מאבק במכונות שאנו עצמנו ניצור, ושיקומו עלינו לכלותנו, כמו פרנקנשטיין של מרי שלי, או הגולם של המהר"ל מפראג.

כל אחת מהדאגות האלה הובילה אותו ליצירת סדרה ארוכה של ספרים שפירטו את העתיד, או שמא את האפשרויות הרבות של העתידים הרבים, ובהן שרטט והציע מסלול – לעתים מסלול נפתל וחמקמק למדי – שאם נלך בו, נוכל לשרוד ואפילו להיבנות ולהתקדם בעתיד.

אסימוב שאל וניתח, כבר בהתחלה, את שאלת המבנה הצורני המתאים ביותר לרובוט. לכאורה, רובוט שנועד לבצע תחזוקה של ספינות, מתחת לפני המים, יכול להיות בנוי כמעין תמנון, או כחבית שממנה נשלפים כלין שונים לפי הצורך. רובוט שנועד לעבוד בבתי-יציקה של כלי מתכת, ליד הכבשנים, להכניס ולהוציא מהם גופים שונים, יכול להיראות כמעין עגלה בעלת ששה גלגלים עם זרוע אחת. אבל לצד היתרון של ההתאמה בין הרובוטים האלה לבין המלאכות שהן נדרשים לבצע, הצביע אסימוב על חסרון, שלמעשה זהה בכל לייתרון: הרובוטים האלה יוכלו לעשות רק מטלה אחת שלשמה נועדו. בדרך זו יהיה עלינו לבנות, לתחזק, לשדרג ולהפעיל מאות רבות של מכונות בעלות חלקים ייחודיים. מטלה גדולה, מורכבת, ולמעשה מורכבת עד כדי כך שהיא מעמידה בספק את היעילות ואולי אפילו את הכדאיות של "מפעל הרובוטיקה" כולו.

במשך שנים לא מעטות, צעדו המדע והטכנולוגיה שלנו דווקא במסלול הזה, של בניית רובוטים ייעודיים. כאלה, למשל, הם רובוטים תעשייתיים אשר מרתכים חלקי מתכת בתעשיית הרכב ,בצביעה, בהעמסה ,ובעוד מלאכות שמחייבות בין היתר הסתגלות לתנאי עבודה קשים) חום גבוה ,תכולה של גזים רעילים באוויר,  ועוד. רובוטים שנראים כמו זרועות מתכת בגדלים שונים ,או עגלות שמתוכנתות לנוע בתחומיו של אולם ייצור מוגדר, אינם מפחידים אותנו, מכיוו שהם אינם "מתיימרים" להיות דומים לאדם. הם עושים את עבודתם בצניעות, מבלי לנסות לחקות אותנו.

אנחנו מוכנים אפילו להשלים עם רובוטים ייעודיים שירחפו בחלל, יבנו תחנות חלל ויתחזקו אותן, או עם אמודאים מכניים שיחקרו את קרקע האוקיינוס ואת הדגה מבלי שיצטרכו לצאת לשאוף אוויר ,ומבלי שיגרו את תיאבונם של  הכרישים .

במילים אחרות, אנחנו מוכנים ליהנות משירותיהם הטובים של רובוטים, כל עוד הם אינם לובשים דמות שמזכירה את מבנה גוף האדם, וכל עוד הם פועלים  הרחק מסביבת חיינו. מהנדסי הרובוטיקה מכנים את המכונות האלה בשם  "טלה-רובוטים", והם מקנים להם יכולת להתגבר בכוחות עצמם על תקלות ולקבל החלטות. בפוטנציאל ,טלה-רובוט צריך להיות מסוגל לבצע כל מה שאדם עושה. אלא שבפועל, אם הוא נתקל בבעיה שגופו אינו מותאם לה, הוא יהיה חסר ישע. הוא יזדקק לעזרה של טלה-רובוט אחר. אלא שאם הוא מצוי בחלל, או ליד תנור התכה במפעל, או בקרקע הים, הסיכוי שרובוט אחר, מתאים יותר, יוכל להגיע אליו בזמן ולהגיש לו עזרה – אינם גדולים.

אסימוב, שכאמור, ידע "לשחק" סימולציות עתידיות במחשבתו, ראה מראש את החסרונות האלה, וחיפש דרכים להימנע מהם. כך הוא הגיע למסקנה שהרובוט האוניברסלי היעיל ביותר יהיה דווקא זה שיהיה דמוי אדם. רובוט כזה, שאולי (למעשה, בוודאי) אינו כליל השלמות מבחינה הנדסית, ניחן ביתרון אחד גדול, שגם הוא, כמו במקרה הקודם, זהה לחסרונו: הוא דומה לאדם. רובוט כזה יוכל להשתמש בכלים שונים שנועדו לאדם, יתאים לחללי עבודה אנושיים, ולא יחייב עיצוב ותכנון של "כלים רובוטיים" ייחודיים. הבעיה היא, שרובוט דמוי אדם מזכיר לנו את פרנקנשטיין ואת הגולם מפראג. כלומר, הוא מפחיד אותנו. אנחנו לא ניטה לתת בו אמון, ונשתדל להימנע מלהשתמש בו. יתירה מזו: אנחנו נטיל עליו מגבלות טכנולוגיות ואחרות שימנעו ממנו לנצל את מלוא כישוריו בשירותנו.

 חוק האפס

 כדי להתגבר על המכשלה הזאת, ניסח אסימוב שלושה חוקים, שיהיה עלינו להטמיע בכל מערכת רובוטית עתידית:

החוק הראשון: רובוט לעולם לא יפגע באדם, ולא יניח שייגרם נזק או סבל לאדם.

החוק השני: רובוט יבצע כל פקודה שתינתן לו על-ידי אדם, למעט פקודות בלתי חוקיות בעליל' הסותרות את החוק הראשון.

החוק השלישי: רובוט ישמור על קיומו שלו, כל עוד פעולה זו אינה סותרת את החוק הראשון ואת החוק השני.

כל סיפורי הרובוטים הקלאסיים של אסימוב) כמה מאות מספרם ,(נסבים kמעשה ,על ניסיונות – שלא עולים יפה – לשבור את מערכת החוקים הזאת ., ולמצוא בה פרצות שעלולות לאפשר לרובוטים לצאת משליטה ולפעול כנגד בני-האדם.

על אף שלא הצליח לשבור את חוקי הרובוטיקה שלו, הגיע אסימוב, זמן קצר לפני מותו, למסקנה שכדי לאפשר לרובוטים ולאנשים לחיות יחד, יש להוסיף חוק נוסף, חוק האפס, שיהיה קודם אפילו לחוק הראשון. החוק הזה אומר: "הרובוט יפעל לטובתה של האנושות, ולא יניח שיאונה לה כל רע". לפי זה, החוק הראשון ישונה כך: "רובוט לא יפגע באדם, אלא אם הפגיעה הזאת נחוצה לשמירתו של חוק האפס". במלים אחרות, רובוט שיתוכנת כראוי עשוי לדעת טוב יותר מאיתנו, מה טוב בשבילנו. ומצד שני, רובוט שאינו פועל לפי חוקי אסימוב, ויופעל בידיו של טרוריסט, או פושע מסוג אחר, עלול לגרום "בתום לב" הרס ומוות.

כך או אחרת, ב-2050 נראה שלצדם של בני האדם יפעלו רובוטים אוניברסליים דמויי אדם, שחוקי אסימוב יוטמעו בהם כחלק אינטגרלי ובלתי נמנע. הרובוטים דמויי האדם האלה יוכלו לאחוז בבטחה בכוס תה ולהגיש אותה, להכין חביתה, לתקן צנרת ביתית, ללוות ילד לגן הילדים, לבצע כביסה, עבודות ניקיון וכל כיוצא באלו, משימות שהסרתן מלוח הפעילויות שלנו תיחשב ליציאה מעבדות לחירות.

בשנת 1992 הלך אסימוב לעולמו בברוקלין, ניו-יורק, בה גדל וחי כל ימיו. סיבת המוות הייתה תסמונת הכשל החיסוני, איידס, שנגרם על-ידי הנגיף HIV. הוא נדבר בעירוי דם שניתן לו בעת שעבר ניתוח לב. עובדה זו נודעה רק 10 שנים לאחר מותו.

 

 

 

 

כתיבת תגובה

כתובת הדוא"ל לא תפורסם.