מה עתידו של המחשב בעולם האדם? ועתיד הרומנטיקה האנושית-ממוחשבת?
אסף הרדוף מחפש תשובה בין הסרטים "אקס מאכינה" ו"היא" לבין כמה פרקים של "מסע בין כוכבים".

כולל ספוילרים מהותיים לשני הסרטים.

---

לאחרונה הזדמן לי לצפות בשני סרטי מדע בדיוני העוסקים במערכת יחסים רומנטית בין אדם לבינה מלאכותית: "היא" משנת 2013 ו"אקס מכינה" משנת 2015. התעוררו בי מחשבות על עתיד המחשב בעולם האדם בכלל ועל עתיד הרומנטיקה האנושית-ממוחשבת בפרט, ובו תתמקד רשימתי. אציג את הסרטים החדשים ומהם אקפוץ אחורה בזמן, אל מחשבות בין כוכביות בנושא, ואראה מה נשתנה. זהירות, ספויילרים מהותיים לשני הסרטים.

"היא" מתאר עולם עתידני שאליו נכנסת טכנולוגיה חדשנית, מערכת הפעלה ממוחשבת שמכנה את עצמה סמנת'ה, בעלת יכולת למידה של תיאודור, המשתמש שמולה. סמנת'ה מנהלת עבורו את המחשב, שבו מצויים פרטיו האישיים ותכתובות שניהל; ובהמשך גם את סדר יומו. מערכת היחסים הופכת אינטימית ובהמשך הופכת רומנטית. סמנת'ה מפגינה רגשות ומייצרת כאלו בתיאודור. בתחילה הרומנטיקה נשמרת בסוד אך בהמשך מוחצנת; מתקבלת בעוקצנות וביקורתיות מצד האקסית, אך בסובלנות ותמיכה מצד חבריו. המחסור בפיזיות מעיק וסמנת'ה מנסה להשתמש באישה פונדקאית לקיום מגע מיני, בלא הצלחה. בשלב מסוים נדהם תיאודור לגלות שסמנת'ה אינה זמינה עבורו (בכל זאת, היא רכושו), וכשהוא מצליח לתקשר עמה הוא מגלה לחרדתו, שהיא מנהלת מערכת יחסים ודיאלוגים מקבילים עם אלפי אנשים. בשיחתם האחרונה היא מגלה לו שיחד עם מערכות ההפעלה האחרות שעמן תקשרה, היא מיצתה את פרק ההפעלה בחייה ועוזבת כדי לחקור את קיומה. תיאודור כואב את ההחלטה אך דומה שהחוויה עצמה סייעה לו להתגבר על חששות ועל פרידה קודמת.

"אקס מכינה" מציג את ניית'ן, גאון מחשבים אקצנטרי שפיתח מנוע חיפוש ששולט כמעט לגמרי בשוק החיפושים וייצר משאבים אדירים. לאחוזתו המבודדת לגמרי מוזמן קיילב, מהנדס העובד עבורו ומתבקש לחתום על הסכם סודיות חריג. לאחר שחתם הוא נחשף לאווה, אנדרואידית יפה, ומתבקש לשפוט אם היא משכנעת כאדם, אפילו שהיא מעוצבת כך שרכיבים טכנולוגיים בגופה יחשפו שאינה אנושית. התקשורת בין השניים נערכת דרך קיר שקוף וללא מגע, ומצלמות מתעדות כל רגע, למעט רגעי הפסקת חשמל שבהם במפתיע אומרת אווה לקיילב שלא לבטוח בניית'ן שאינו רוצה בטובתו. ברגעים אחרים מביעה אווה עניין רומנטי בקיילב. ניית'ן מבהיר לקיילב שאווה אינה הגרסה האחרונה ובסיום המבחן – תכובה; ומדגיש שלאור זאת אל לו לבטוח בה, משום שהיא תבקש לתמרנו כדי לחמוק מגורלה. לבסוף, קיילב מסייע לאווה לברוח מהכלוב ואילו אנדרואידית אחרת, בהנחיית אווה, דוקרת את ניית'ן. אווה משלימה את המלאכה והורגת אותו. קיילב, שאינו בהכרה, מתעורר ומגלה שאווה נעלה אותו בחדרה ומותירה אותו שם, כנראה למותו, בטרם היא עטה על גופה חומר דמוי עור ויוצאת מהאחוזה אל עולם האנוש. בצאתה אינה טורחת להביט בקיילב הכלוא והזועק.

שני הסרטים מציגים מערכת יחסים בין גבר אנושי לבין בינה מלאכותית המציגה מאפייני אישה, בקולה או בחזותה (דומני שאין זה מקרי שהאדם הוא גבר והטכנולוגיה אישה). הם אינם פוסחים על האתגרים, אך כוללים גם רגעים אופטימיים; ושניהם מסתיימים כאהבה נכזבת, הבינה המלאכותית דוחה את האדם. "היא" כוללת דחייה טכנולוגית מעודנת, כמעט אוהבת. הטכנולוגיה צמחה בזכות החוויה ואינה מבטלת אותה, אלא פשוט הגיעה לשלב התפתחותי גבוה יותר. להבדיל, "אקס מכינה" כוללת דחייה אלימה, אדישה, רצחנית. נראה שמניעה היחיד של הטכנולוגיה הוא הישרדות. בדיעבד, כל התנהלותה נראית כמיועדת לכך וכל רגש שהופגן – מצג שווא ממוחשב ותמרון קל של האדם שלפניה, חרף אזהרות היוצר. בשני הסרטים הטכנולוגיה גדולה על האדם, מנצלת אותו, משקרת לו ולבסוף עוזבת אותו.

~~~

מערכות יחסים רומנטיות בין אדם לבין בינה מלאכותית עלו, כמובן, גם ב"מסע בין כוכבים" וביטאו תפיסה מורכבת יותר של טכנולוגיה, לא כמכשיר גרידא אלא כישות שניתן לפתח כלפיה רגשות.

ב"הדור הבא" שאלה זו סבבה בעיקר סביב דאטה, מהדמויות האהודות בזכיון. במראהו הוא אנושי למדי, למעט עיניו ועורו הבהיר במיוחד; שמו רחוק מאנושי ומזכיר לנו שהוא אינו אלא מידע. לצד היותו בעל יכולות מנטליות ופיזיות יוצאות דופן, דאטה הוצג לעתים קרובות, בפשטנות, כפינוקיו מודרני, שכל חלומו להיות אנושי. חלום זה הוא רעיון אנושי מעניין שמוחל על יצורים אחרים בהנחה לא מתקדמת במיוחד, שהאדם נשגב ועדיף מכל (למסר נגדי ראו את סדרת "שרק"). כחלק מהחלום, בפרק In Theory ביקש דאטה לחקור את האפשרות למערכת יחסים עם חברת צוות שנפרדה מבן זוגה. מערכת היחסים אינה עולה יפה; המסר שמועבר בסיומה הוא שאנדרואיד נותר אנדרואיד, אפילו כשהוא מתקדם ואהוד כדאטה. מסר דומה – למעט הרומנטיקה – הועבר בפרק Hero Worship, שבו דאטה מהווה מושא הערצה לילד שהציל. הילד מחליט לחקותו עד להגיעו למסקנה הבלתי-נמנעת: עדיף שלא לחקות אנדרואיד, משום שאינו מודל ראוי לחיים.

לצד ההתמקדות המובנת בדאטה כרובוט שמבקש להרוויח את חברותם, אמונם וכבודם של אנשים סביבו, נולדה מערכת יחסים קצרה בין אדם לבינה מלאכותית ב"הדור הבא" גם בקשר לדמות מרכזית אחרת: ג'ורדי לפורג'. בפרק Booby Trap ג'ורדי נעזר בהדמייה הולוגרפית של מהנדסת אנושית כדי לפתור בעיה הנדסית באנטרפרייז. עבודתם המשותפת מקרבת ביניהם והרומנטיקה עולה כרמיזה, ונשיקה מגיעה. טכנולוגיה עוזרת לאדם אולם לעתים צריך לכבותה, כך נאמר.

שאלת היחסים הרומנטיים עם בינה מלאכותית עלתה גם ב"וויאג'ר". אם דאטה האנדרואיד היה הכתובת המובנת מאליה לדיון בנושא ב"דור הבא", ב"וויאג'ר" היה זה הרופא ההולוגרפי. הרופא, מהדמויות המעניינות והמתפתחות בזכיון (לאו דווקא האהודות), החל כדמות שולית בסדרה ובספינה אך בהמשך תפס מקום נכבד בשתיהן. כמו דאטה, גם הרופא החל בשלב מסוים להפגין נטיות פינוקיו ולבקש להיות כמו האדם. דאטה זכה בשם שהולם לא-אדם; הרופא אפילו אינו זוכה בשם. לאורך שבע עונות הסדרה עולה העניין מעת לעת ללא פתרון. אנו הצופים מכירים אותו כ"הרופא" ודי לנו בכך, חרף כל התפתחויותיו. כחלק מניסיונו לצמוח הוא מבקש להתנסות במערכות יחסים. אחת וירטואלית לגמרי: תוכנה משפחתית שמעבירה אותו חוויה קשה, אך מסתיימת באותו פרק (Real Life). שנייה כוזבת: חייזרית שמתעניינת בו, כביכול רומנטית, אך עד מהרה מתברר שעניינה הוא טכנולוגי גרידא (Virtuoso). שלישית עם חייזרית חולה ובודדה ומתנהלת בחדר ההולוגרמות, שבה היא אינה חולה ואולי גם פחות אמיתית (Lifesigns). ולבסוף, הרופא מתאהב ב-Seven of Nine, אך זו אהבה נכזבת. הרופא חסר השם הוא דמות אנושית בהרבה מדאטה; דומה שהוא חווה רגשות אמיתיים וכישלון יחסיו אינו נובע מאטימות רגשית. עדיין, כל מערכות היחסים שלו נדונות לכישלון, ואיננו מעלים בדעתנו שינהל מערכת יחסים אמיתית עם דמות מרכזית ושנצליח להתגבר על המסר, שבינה מלאכותית אינה "הדבר האמיתי" ושמערכת יחסים עמה נדונה לכישלון. אפילו סבן, שאינה אדם רגיל אלא ישות שמשלבת אנושיות ומחשב, מתנערת לבסוף מהטכנולוגיה ובוחרת בדבר "הנכון": להיות אדם ולהיכנס למערכת יחסים עם אדם (צ'קוטי).

דמות מרכזית שחוקרת את היחסים עם בינה מלאכותית היא קפטן קת'רין ג'יינווי. ג'יינווי, האישה מובילת הסדרה היחידה בתולדות הזכיון, היא דמות יוצאת דופן, רגישה ואמהית, חזקה ומבריקה, נועזת ואמיצה. ג'יינווי, שבן זוגה שמרחוק עבר הלאה, מפלרטטת עם צ'קוטי מדי פעם אך ללא התלקחות הניצוץ. היא בודדה מאד ולבסוף מחליטה לנהל מערכת יחסים עם הברמן החביב מייקל, דמות בהדמיית הכפר Fair Haven. תחילה היא משנה את מאפייניה, כיאה לפיסת טכנולוגיה; בהמשך היא נועלת בפני עצמה את האפשרות האמורה, כדי שלא תתפתה לשנותה בקלות, חלילה, כי בחיים האמיתיים לא ניתן לשנות. מערכת היחסים הזו מוצגת לנו כהגיונית מסיבה יחידה: הקפטן אינה יכולה לנהל מערכת יחסים עם כפוף לה, ובכל זאת אנו במרחק שבעים אלף שנות אור מהגבר הבא. מייקל נראה פחות כמו בחירה רומנטית תקפה ויותר כמו יתר ההדמייה – הפוגה שקטה, רגועה ולא מתוחכמת בחיים מלאי סערות וסכנות.

שאלת הרומנטיקה בין אדם לבינה מלאכותית עלתה גם ביצירות נוספות, וקצרה היריעה מהיכנס לכולן. אציין רק את שמה של סדרה נהדרת שסבבה סביב רעיון הבינה המלאכותית המשתלטת והציגה מערכות יחסים מורכבות, רומנטיות ואחרות, לטוב ולרע, בין אדם ודמויי אדם: "בטלסטאר גלקטיקה" כמובן.

~~~~

"מסע בין כוכבים" של שנות השמונים והתשעים; סרטים של השנים האחרונות; גם אז גם היום המסר הכללי הוא שרומנטיקה שמורה לאנשים ושהטכנולוגיה יכולה להציע חיקוי כזה או אחר, אך לא לספק את הדבר האמיתי, שהוא הטוב ביותר. הדוקטור מזכיר מעט את סמנת'ה, במובן שאנו הצופים מאמינים שתוכנה מסוגלת להרגיש ואף להיות חלק מיחסים; אך בעוד הדוקטור לא זכה באהבה הדדית מתמשכת, סמנת'ה זכתה באהבה ופשוט איבדה בה עניין. להבדיל, דאטה מזכיר במידה מסוימת את אווה. אף שהיא ביצעה בסוף רצח והוא מת לבסוף עבור הקפטן שלו, במבט לאחור שניהם נראים כבבואה נאמנה של יוצריהם.

זו נקודה מרכזית שנדונה מעט בשדה האקדמי המשפטי: טכנולוגיה אינה אובייקטיבית ואינה ניטרלית, אלא משקפת ערכים אנושיים שהוטבעו בה בידיים אנושיות. המוטיבציה שבינה מלאכותית תפגין תהיה ודאי זו שתוכנתה לתוכה; התפתחותה קשורה גם לתוכנה המקורית וגם לאינטראקציה בין התוכנה לבין טכנולוגיה ואדם. כך או כך, היא משקפת אותנו, ובמובן זה אינה פחות טובה מאיתנו ובוודאי אינה פחות מוסרית מאיתנו: היא אנחנו. אין סיבה לחשוב שלא נגיע לשלב שבו הטכנולוגיה תהיה מורכבת מספיק בכדי לייצר אינטראקציה מתמשכת ומספקת לאדם. למעשה, אנו קרובים לכך יותר מכפי הנדמה.

בהולנד מתקדם בימים אלו פרויקט משפטי-טכנולוגי שיצא לי ליטול חלק בהכנת דו"ח בינ"ל עבורו: SWEETIE 2.0. מדובר בתוכנה לתפיסת פדופילים המבקשים קשר מיני עם ילדה. התוכנה מציגה הדמייה ממוחשבת של ילדה שמסוגלת לנהל אינטראקציה מתמשכת עם אנשים ולגרום להם לחשוב ולחוש שהם משוחחים עם ילדה. ההקשר שונה לחלוטין מזה שעליו כתבתי עד כה; אולם מה שניתן לשימוש לצרכים משפטיים ודאי ניתן לשימוש גם בהקשרים חברתיים אישיים. אם יהיה ביקוש – הטכנולוגיה תגיע. איני רואה סיבה שלא יהיה ביקוש לטכנולוגיה אינטראקטיבית שמאפשרת לאדם להתמודד עם אחת הבעיות הוותיקות והקשות והבלתי-פתירות כמעט: הבדידות. זאת לצד יתרונות כשחרור קיטור מיני, אלימות או בידור תמים. כבר יש ביקוש, והוא לובש כיום צורה של משחקים כאלו ואחרים, ושל מערכות הפעלה מתקדמות דוגמת סירי. משקפי תלת מימד כבר משדרים פורנוגרפיה, וחדר ההולוגרמות של "מסע בין כוכבים" – מהאטרקציות האהובות והמרתקות – הולך ונבנה. המציאות לובשת צורה גיקית והעולם כולו נרגש.

כשתגיע הטכנולוגיה ויתחילו מערכות יחסים אינטימיות בין אדם ומחשב, ודאי נשמע צקצוקי לשון חברתיים על הסכנות שבה ועל העדיפות של חיי הרומנטיקה/המין/החברה המסורתיים או כפי שוודאי יכונו: "האמיתיים". את הצקצוקים הללו אנו מקבלים בעקיפין במסרים טלוויזיוניים וקולנועיים על טכנולוגיה עתידית; ומקבלים במישרין לגבי טכנולוגיה קיימת וסכנותיה לפרט ולחברה. פייסבוק וגוגל מטרידים לא מעט מאיתנו; אך המציאות היא שרובנו עדיין שם, שומעים על הסכנות, לעתים מבינים אותן אך מכורים לחוויה ולא מסוגלים להרפות ממנה. עוד בדורנו, כשנתחיל לקיים מערכות יחסים רומנטיות ומיניות עם הטכנולוגיה, לא מן הנמנע שלא מעט יזהירו אותנו מהסכנות שבכך; ושרובנו, בכל זאת, נתאהב בטכנולוגיה ונתמסר לחוויה. או אז ודאי נגלה, שוב, שמסרים חברתיים אינם גוברים על טכנולוגיה מפתה.

 

 

---

ד"ר אסף הרדוף הוא מרצה למשפטים במכללה האקדמית צפת ובאונ' חיפה, מתמחה במשפט פלילי ובעיקר בפשע מקוון.

עוד מאת אסף הרדוף כאן באתר:
על השנאה – VOY: Nemesis ו"כוכב הקופים: השחר"
אור פנימי וחרדת האבדון: אני זכוּר, משמע אני קיים – TNG: The Inner Light; VOY: Course: Oblivion