לפעמים חלומות מתגשמים? על השאיפות והסיוטים של הוגי הבינה המלאכותית

אמיר בוגן דיווח באחרונה באתרYnet כי אליעזר יודקובסקי, מחלוצי המחקר בתחום הבינה המלאכותית – AI – קרא לעצור את הפיתוח לפני שיהיה מאוחר מדי. לדבריו, לאנושות אין יכולת לשלוט בטכנולוגיה שתהיה חכמה יותר מאיתנו. בדיווח אחר, של טל שחף, גם הוא ב-Ynet, נאמר כי חוקרי חברת הבינה המלאכותי OpenAI "הזדעזעו" לגלות כי המערכת שלהם נתפסה "מתחמנת" כדי להימנע מעונשים ולהשיג תגמולים, ואפילו למדה לטשטש את עקבותיה כשהעירו לה. בדיווח נאמר כי " החוקרים קיוו לנטר ולשלוט על תהליכי החשיבה של המערכת, אך כעת מתברר שככל שהמודלים מתקדמים, כך קשה יותר לעצור אותם מלפעול באופן בלתי צפוי – ומטריד".

האם אפשר (והאם צריך) לעצור את הפיתוח של מערכות בינה מלאכותית בשלב שבו אנו מצויים כיום?

האם אפשר (והאם צריך) לעצור את הפיתוח של מערכות בינה מלאכותית בשלב שבו אנו מצויים כיום? או שהקוראים לעצירה הם בבחינת "צועקים לשעבר, שתפילתם היא תפילת שווא" (משנה, ברכות, ט' ג'). למעשה, מעניין להיווכח שקריאות לעצירה מלוות את תחום הבינה המלאכותית כמעט מיומו הראשון, בשנת 1956. בקיץ של אותה שנה, נפגשו כעשרה מדענים צעירים בקולג' דרטמות, בניו המפשייר, במרחק נהיגה בת כמה שעות מבוסטון. הנושא שבו התכוונו להתמקד נראה באותם ימים כשייך לתחום הפילוסופיה והמוסר, ולא לעולם המציאות: בינה מלאכותית, באמצעות מחשב (או כפי שהוא כונה באותו זמן, "מחשב אלקטרוני").

פמלה מק'קורדק מספרת בספרה "מכונות חושבות" שקרן רוקפלר העניקה להם 7,500 דולר למימון המפגש. מפתיע ככל שהדברים עשויים להישמע, הסכום הצנוע הזה הזניק, למעשה, את המירוץ העולמי אל הבינה המלאכותית, שמצוי בימים אלה בשליש האחרון שלו, בדרך הבלתי נמנעת אל השלב שבו תבונת אנוש לא תהיה עוד המקור היחיד לידע ולתובנות על עולמנו, ועל הדרכים הנכונות להתנהל בו.

יוזמי המפגש היו המתמטיקאי ג'ון מקרתי, המתמטיקאי, איש מדעי המחשב והנוירולוג מארווין מינסקי, נתנאל רוצ'סטר מחברת המחשבים הגדולה בעולם באותה עת, איי-בי-אם, והמתמטיקאי קלוד שנון ממעבדות בל. אליהם הצטרפו כמה עמיתים מהמכון לטכנולוגיה של מסצ'וסטס, אם-איי-טי, תאגיד ראנ"ד וחברת איי-בי-אם.

ריח של מעשים גדולים

באוויר היה ריח של מעשים גדולים עומדים להתרחש, תחושה של פריצת דרך מתקרבת, שתשנה את העולם לנצח. אבל לרוע המזל, רוב זמן הדיונים לא הוקדש לשיתופי פעולה ולצעידה קדימה, אלא דווקא לוויכוחים ול"התחפרות" ברעיונות שהמדענים "הביאו אתם מהבית". מדענים, מתברר, כמוהם כבני-אדם רגילים, עם כל יתרונותיהם וחולשותיהם. אפילו שם הכנס והשימוש במונח "אינטליגנציה מלאכותית" היוו נושא לוויכוח מר. אולי עוד סיבה לחתור באומץ לפיתוחה של תבונה מלאכותית שתבחן כל דבר באופן רציונלי במטרה "לקדם את העניין שלשמו התכנסנו". מרווין מינסקי חילק לנאספים טיוטה של מאמר מדעי פרי עטו בעל הכותרת המבטיחה: "צעדים לקראת אינטליגנציה מלאכותית" (המאמר פורסם בסופו של דבר בשנת 1963), אבל בין שלל הטיוטות שהתנופפו סביב, המאמר הזה, שמילא בהמשך תפקיד מפתח בהתפתחות התחום, לא זכה לתשומת לב מיוחדת.

שניים מהמדענים, ג'ון מקארתי ואלכס ברנשטיין שראו את משחק השחמט כמבחן לתבונה, שאפו לבנות מכונה שתדע לשחק שחמט (איש לא חשב אז על מכונה שתנצח במשחק את אלוף העולם במשחק המלכים). שנים לא רבות לאחר מכן ניהלו דוד בן-גוריון – כראש ממשלת ישראל הצעירה, ופרופ' עמוס דה-שליט התכתבות שוטפת שבמסגרתה דנו והתווכחו בשאלה אם מחשב יוכל אי-פעם לנצח שחקן אנושי.

מעל לכל ההתרחשות במפגש המדענים בדרטמות, ריחפו מחשבותיהם ותוצאות מחקריהם של שני ענקים: נורברט וינר, שנולד למשפחה יהודית במיזורי, ארה"ב, שש שנים לפני תחילתה של המאה ה-20, ונודע כמי שהמציא את המונח "קיברנטיקה" (המתורגם כיום לביטוי "סייבר"), ואשר התעניין – כבר באותן שנים קדומות – בהקבלות אפשריות בין מערכות אלקטרוניות לרשתות עצבים; וג'ון פון נוימן, שהארכיטקטורה שפיתח עמדה ביסודם של המחשבים שנבנו בעשורים הבאים.

אבל כל אלה יצרו בשמי דרטמות, אולי, פרץ מרהיב של זיקוקי דינור בדמות רעיונות אנושיים (אולי "אנושיים מדי", כפי שאמר בהקשר אחר פרידריך ניטשה) – אבל פחות "צעדים לקראת תבונה מלאכותית", כפי שקיווה מינסקי.

מינסקי, שהציג כבר אז את רעיון "הרשת העצבית" (העומדת כיום במרכז המחקר בתחום המכונה "למידה עמוקה", וכן גם בבסיס מערכות ה-AI), הביע תקווה, שלימים התבררה כאופטימית מדי, שמכונה שתהיה בעלת רשת עצבית תבנה בתוך עצמה מודל של הסביבה שבה היא נתונה. בדרך זו היא תשמש מודל לסביבה, ואפשר יהיה להריץ ולמצוא בה פתרונות לבעיות ש"ייובאו" מהסביבה, ולאחר מכן, כלומר, לאחר שהבעיה תיפתר באמצעות המודל הפנימי – הפתרון "ייוצא" וייושם בסביבה החיצונית, כלומר, במציאות שבה אנו חיים. במילים אחרות, המכונה תהיה מסוגלת לחשוב ולמצוא פתרונות ותהווה תבונה מלאכותית.

סמלים של שפה

השאלה הטכנית – שהיא למעשה עקרונית – שעליה ניסו כולם לענות, היא האם אפשר לבטא את המחשבה האנושית באמצעות מצבים (ושינויי מצבים) של מתגים אלקטרוניים דו-מצביים ("סגור", ו"פתוח", או "אפס" ו"אחד"), כפי שפועל מחשב אלקטרוני, מאז ועד היום. במילים אחרות, האם מחשב אלקטרוני יכול לבצע חישובים שיהיו כלליים וגמישים, ובעלי יכולת הפשטה כזאת שתאפשר להם לפעול באמצעות סמלים של שפה שכוללת מילים, רעיונות ומושגים שונים. המדענים, או לפחות רוב אלה שהשתתפו בכנס בדרטמות ענו על השאלה הזאת בחיוב. אלא שבאשר לדרך שבה אפשר ליישם את החזון הזה, דעותיהם היו חלוקות.

במבט לאחור, נראה שבכל זאת, בדרטמות הוצגה תוכנית מחשב אינטליגנטית, שנקראה "מוכיח המשפטים הלוגיים", מבית היוצר של אלן ניואל, הרברט סיימון וג'.ק. שאו. תוכנה זו הצליחה להוכיח משפטים מה"פרינקיפיה מתמטיקה" של וייטהד וראסל, פעולה שבני-אדם רבים מאוד לא מסוגלים לבצע. אבל איכשהו, בהמולת הוויכוח וההתלהבות ששררה מסביב, התוכנה הזאת לא זכתה לתשומת הלב הראויה.

שאלה נוספת שריחפה בחלל האוויר הייתה האם אפשר לבנות ולתכנת מחשב כך שהוא עצמו יכתוב לעצמו 99% מהפקודות הנחוצות לו לצורך ביצוע מטלות שונות? יש מנהלים שסבורים עד היום שרוב הכפופים להם אינם מסוגלים לעשות זאת. אבל המדענים שהתכנסו בדרטמות היו חדורי אידיאולוגיה דמוקרטית והם שאפו להעניק חופש מסוים אפילו למכונות.

האם אפשר לבנות ולתכנת מחשב כך שהוא עצמו יכתוב לעצמו 99% מהפקודות הנחוצות לו לצורך ביצוע מטלות שונות? יש מנהלים שסבורים עד היום שרוב הכפופים להם אינם מסוגלים לעשות זאת.

דוגמה בולטת לאפשרויות האלה, שעלתה לא אחת בשיחות פילוסופיות למחצה שניהלו אל תוך הלילה, היו נמלים זעירות, שכל אחת מהן נראית כאילו היא מתרוצצת באופן לא מודע, ובכל זאת, הקבוצה הגדולה כולה מצליחה לבצע יחד, פעולות מורכבות מאוד. לכל נמלה כזאת יש רק כמה עשרות תאי עצב, ובכל זאת, כשהן יחד, הן יכולות להשיג מזון, ולהילחם על קיומן, ולהעביר גנים אל הדור הבא – ולשמר את המין. אם נמלים יכולות לעשות זאת, מדוע שמתגים אלקטרוניים, אם יאורגנו בארכיטקטורה מתאימה, לא יוכלו לעשות זאת?

השאלה הנכונה היא, כמובן, לא "מדוע", אלא "איך". כלומר, איך אפשר לארגן מתגים אלקטרוניים במבנה שיאפשר להם גמישות פעולה וכושר למידה שיבשיל בהמשך לכלל בינה מלאכותית. השאלה הזאת העסיקה מדעני מחשב רבים מאוד, מאז ועידת דרטמות, ועד לימינו אלה, שבהם נראה שהשגת המטרה הזאת קרובה מתמיד.

מרווין מינסקי

מרווין מינסקי חזר מדרטמות מאוכזב. שנתיים לאחר מכן עבר למכון לטכנולוגיה של מסצ'וסטס, MIT. כבוגר הרווארד, המעבר לקצה השני של שדרות מסצ'וסטס בעיר היה בשבילו צעד משמעותי. על ההבדל בין שני המוסדות המפוארים האלה, הממוקמים במרחק לא רב זה מזה, נאמרו ונכתבו כבר תלי תלים של מילים. אבל אולי אפשר לסכם זאת באמירה שכאשר רואים קבוצה של סטודנטים עם המרצה שלהם, בחצר, בהרווארד אפשר לזהות בקלות את המרצה, הפרופסור. ואילו ב-MIT, אין שום הבדל נראה לעין ביניהם.

מינסקי נולד למשפחה יהודית בניו-יורק, בשנת —, עבר מסלול אקדמי רגיל, בקצב מזורז למדי, ושירת בצי האמריקאי. באופן מעניין, פרסומו העיקרי לא בא לו בעקבות הספר "פרספטרונס" שכתב יחס עם סימור פפרט, שנחשב לאבן היסוד לתחום הרשתות העצביות הממוחשבות, אלא דווקא בזכות היעוץ שהעניק לסטנלי קובריק, במאי הסרט "2001 אודיסיאה בחלל", על-פי ספר בזם זה מאת ארתור סי. קלארק. בספר, ובסרט, כפי שזוכרים רבים, המחשב התבוני "האל" משתלט על משימת חקר בחלל, כשהוא מעדיף שיקולים רציונליים על-פני טובתם, בטחונם ואפילן הישרדותם של בני-האדם. התבונה המלאכותית בספר ובסרט לבשה אפוא אופי מעניין ומסוכן.

משרד ההגנה נכנס לתמונה

מאותו זמן, ועד לוועידה לאינטליגנציה מלאכותית, ב-1977, 21 שנים לאחר ועידת דרטמות, עיקר המימון למחקרים בפיתוח בינה מלאכותית הגיע מהסוכנות לפרויקטים מיוחדים של משרד ההגנה האמריקאי. ייתכן שמקור מימון זה, שלא היה תלוי ב"בקרת העמיתים" המפורסמת של העולם המדעי, הוא זה שאיפשר בסופו של דבר את ההתקדמות הגדולה בתחום.

אחד המשחקים שהיו נפוצים ביותר באותן שנים בקרב מדעני מחשב, היו דיונים בשאלה האם מחשב יכול לנצח את האדם במשחק שח-מט (ניצחון נתפש כעדות לתבונה); וכמובן, ניסיונות לבנות וליישם תוכנות שיצליחו במשימה הזאת. המאמצים האלה לוו לא אחת בהכרזות שעוררו ויכוחים ודיונים ציבוריים. כך, למשל, מרווין מינסקי הכריז ב-1967 שבתוך שנות דור תפותח ותיושם בינה מלאכותית. התקווה הזאת, כמו ועידת דרטמות לפניה, הסתיימה באכזבה. עם זאת, "מערכות מומחה" שפותחו במקומות שונים בעולם על בסיס ארכיטקטורה של רשתות עצבים, מבית מדרשו של מינסקי, הציעו לרופאים, מהנדסים, סוכני ביטוח, משקיעים בבורסה ועוד, סיוע מקצועי, אבחנות מהירות ומדויקות, זיהוי מגמות ועוד. אבל בסופו של דבר, איכות החישובים שלהן לא עמדו בתחרות מול בני-אדם שהיו מומחים בתחומים אלה.

נדרשו כמעט 40 שנה עד שבאמצע העשור הראשון של האלף השלישי, חזר ועלה הרעיון המקורי של מינסקי: לבנות מערכת ממוחשבת שתתחקה את המבנה ועקרונות הפעולה של המוח האנושי. נראה שרעיונות אלה, שהקדימו את זמנם, הבשילו בשנים אלה, והובילו לפיתוח השיטה הקרויה "למידה עמוקה". בעשור השני של האלף השלישי, התעשייה הכוללת של ה"למידה העמוקה" כבר הקיפו עשרות מיליארדי דולרים בשנה. חברות ומדינות מתחרות ביניהן במירוץ מהיר אל קו המטרה שכבר נראה קרוב ובר השגה: פיתוח בינה מלאכותית, שתתגבר במידה משמעותית את בינת האדם.

למעשה, למידה עמוקה אינה "מעתיקה" במדויק את הארכיטקטורה של מוח האדם, אלא מתבססת על מערכת של כללים מתמטיים שמאפשרים לה לסקור דוגמאות – וללמוד מהן על מערכות גדולות יותר שמצויות במציאות. כך היא יכולה, למשל, לזהות אנשים או חפצים גם בתמונות שמראות אותם בזוויות שונות, לתרגם שפות, לקבל ולקודד מידע שניתן באמצעות דיבור אנושי (בשפות שונות), פיענוח ואיבחון רפואי של תוצאות בדיקה בתהודה מגנטית (MRI), ועוד.

הלמידה העמוקה מאפשרת לאדם, המדען או המתכנת, לאמן את המערכת, ולגרום לה ללמוד ולהסיק מסקנות ממידע על תופעה מסוימת – ולאחר מכן להשתמש באותו ידע כדי לבחון אפשרויות פעולה ולקבל החלטה בהמשך. מדובר, במובן מסוים, בתהליך דומה לזה שבו אנו מחנכים ילדים, או אנשים צעירים ומלמדים אותם להשתמש במיומנויות שונות. במילים אחרות, מדובר בתהליך שכל אחד מאיתנו מכיר. הוא מתחיל בתפיסה כללית שיש לנו על העולם הסובב אותנו, ואז מתמקד במטרה מסוימת, אותה הוא בוחן בניסוי, חווה טעייה, מה שמוביל אותו להסקת מסקנה – ולשיפור מתמיד שמאפשר לנו ללמוד מטלות חדשות ולשפר את יכולתנו להתמודד איתן.

המרכיבים הבסיסיים של המוח הם תאי עצב הקרויים נוירונים. כל תא כזה שולח אותות לנוירונים אחרים, דרך צמתי תקשורת הקרויים סינפסות. כושר המעבר של המסר דרך הצומת, מתחזק ככל שהתאים "לומדים". אם רוצים, אפשר לראות זאת כך, שהמעבר של מסרים במסלולים מוכרים, קל ויעיל יותר בהשוואה לקושי המעבר בדרכים ומסלולים חדשים. הפיכה של מסלול "חדש" למסלול "מוכר", היא למידה. כך, למשל, יכולה מערכת ממוחשבת שמבוססת על רשתות נוירונים ללמוד להבחין בין סוס לפרה (בזוויות שונות).

התהליך מתחיל בתפיסה כללית שיש לנו על העולם הסובב אותנו, ואז מתמקד במטרה מסוימת, אותה הוא בוחן בניסוי, חווה טעייה, מה שמוביל אותו להסקת מסקנה – ולשיפור מתמיד שמאפשר לנו ללמוד מטלות חדשות ולשפר את יכולתנו להתמודד איתן.

רשתות נוירונים מתקדמות ("קונבולוציוניות"), המבוססות על שכבות רבות של נוירונים שמחזקות זו את זו ומספקות זו לזו "גיבוי", במקרה של תמונה בזווית "קשה" במיוחד, יכולות לזהות פנים של אדם מסוים, בתמונות שונות, בזוויות שונות ובהקשרים שונים. תהליך הלימוד שמאפשר להן לעשות זאת כרוך במה שמדעני המחשב מכנים אופטימיזציה שמתבצעת על רשתות הנוירונים ה"קונבולוציוניות", שכבה אחר שכבה. ככל שהרשת כוללת שכבות רבות יותר, ועמוקות יותר, היא מסוגלת להתמודד עם בעיות מופשטות יותר. סוג אחר של רשתות עצביות מבוסס על יכולת לשנות את עיבוד המידע על-פי משוב – או מידע חדש – שמתקבל מהסביבה תוך כדי תהליך החישוב. למידה כזאת כבר מזכירה ממש את דרך הלמידה האנושית. רשתות כאלה יכולות לחזות את המילה הבאה בדבריו של אדם, ועוד.

התפוצצות אינטליגנציה

מה יקרה אם תוכנה של בינה מלאכותית תלמד לתכנת מערכות מתקדמות יותר של בינה מלאכותית, שיתכנתו ויבנו מערכות עוד יותר מתקדמות? ואם התהליך הזה יחזור על עצמו שוב ושוב? כך עשויה (עלולה?) להתחולל, מה שהמתמטיקאים מכנים "התפוצצות אינטליגנציה". כך נעמוד מול מערכות ממוחשבות שלא "ישאפו להגיע לרמתה של תבונת אדם", אלא יהיו חכמות פי אלף ויותר מהאדם. מערכות כאלה עשויות ללמוד את המציאות, להבין מהן המערכות החיוניות לעצם קיומן, ו"להבטיח לעצמן את המשאבים הדרושים", גם אם הפעולה הזאת לא בהכרח תיקח בחשבון את טובתם של בני-האדם. מדובר בתרחישים דומים לאלה שנראו כבר בסרטי מדע בדיוני, או סרטי אימה הוליוודיים. אלא שהאופי הנאיבי שמאפיין את הוליווד, ומכתיב לה את "הסוף הטוב", לא בהכרח יתחולל במציאות. החיים האמיתיים, אחרי ככלות הכל, אינם סרט קולנוע.

כדי להימנע ממלחמות של אדם ומכונה, ובמיוחד כדי להימנע ממצב שבו אנו מפסידים וניגפים במלחמה, עלינו לנצל היטב את היתרון שיש לנו כיום, ולבנות מראש מערכות בקרה שיאפשרו לנו לשלוט בחזקים ובחכמים מאיתנו. מדענים ומתכנתים שיעבדו על מערכות ההגנה העתידיות האלה, צריכים לקחת בחשבון שמערכות התבונה המלאכותית לא בהכרח יגלו ויראו לנו מה הן יכולות לעשות, ומה הן עושות בפועל. למשל, הן יכולות לשתול גיבויים של עצמן במקומות מסתור ברשת האינטרנט, כך שכל ניסיון לנתק אותן או לקטוע מהן יחידות משנה שונות, ייענו בהתחדשות מתמדת. הן תהיינה "בלתי ניתנות להכחדה". כך שמה שבעצם נדרש, הוא השתלה של "חוקי מוסר" אל תוך ה"די-אן-אי" של מערכות הבינה המלאכותית.

בינתיים, מכונית המירוץ המשובחת של מדעני המחשב דוהרת במהירות מתגברת לעבר הקיר, או לעבר הצוק, תלוי איזו מטפורה מתאימה לכם יותר. הדלק שמניע אותה הוא הסקרנות האנושית, וכן, גם החמדנות.

מרווין מינסקי שאף להבהיר נקודה עקרונית: האם מכונה יכולה לרכוש בינה. והאם האדם יכול לבנות מכונה נבונה. אבל כיום אנו כבר רואים מערכות צילום וניטור שמזהות כל תנועה חשודה, ואמורות לסייע בבלימת הטרור העולמי; מכוניות אוטונומיות יעלו בקרוב מאוד על הכבישים כעובדה מוגמרת; מערכות לניתוח תנודות של ניירות ערך בבורסה, יאפשרו נקיטת צעדי ביטחון שימנעו מפולות ומשברים. השאלה היחידה היא האם נצליח לממש את כל האופציות האלה, ובה בעת לעצור את המכונית הדוהרת כמה סנטימטרים לפני החומה, או לפני שפת הצוק.