להמשיך לחיות לאחר המוות – אנדרואיד או הולוגרמה? – מאת subatoi

הטכנולוגיה המודרנית מאפשרת לנו כבר כיום לצייץ ולפרסם סטטוסים לאחר מותנו, והאפשרויות רק ישתכללו עם הטכנולוגיה העתידית. במאה ה-24 של "מסע בין כוכבים" קיימות דרכים מתקדמות לעכב את הגעתנו לעולם הבא. יש מספר שיטות לשמור על תודעתו וזהותו של אדם לאחר מותו הביולוגי: שיבוט, הולוגרמות, אנדרואידים או פשוט להעביר את התודעה לגוף אחר.

נבחן את השיטות הללו, נבדוק מהי הדרך הטובה ביותר לתקשר עם היקרים לנו לאחר מותם (או לאחר מותנו שלנו) וכיצד מבצעים הנצחה המונית. ולא פחות מעניין – האם הכל יילך חלק? האם צפויות לנו בעיות בדרך, טכניות, מוסריות, פילוסופיות?
הו, כן.

25


"…into a body of some sort – perhaps cellular, perhaps holographic, perhaps robotic."   (LifeNaut)

נתחיל דווקא בשתי דוגמאות לנושא שבו נעסוק, שתי דוגמאות שאינן מ"מסע בין כוכבים" אך יסייעו לנו להכנס לעניינים.
באוגוסט 2011 פורסם ב"הו לא", הוובקומיק של מתן בלומנבלט, הסטריפ הבא:

26(לחצו להגדלה)

הדוגמה השניה שתסייע לנו היא פרק של "מראה שחורה", סדרה בריטית אשר פוסעת להנאתה על הגבול בין הריאליסטי למדע הבדיוני, כמו גם על הגבול שבין עולמנו לעולם עתידי קרוב מאוד. בכל פרק מוצגת התמודדות אחרת של המין האנושי עם טכנולוגיה. הפרק הראשון של העונה השניה הציג מקרה שבו אישה צעירה מאבדת את בן זוגה ומקבלת הצעה מעניינת לגבי ההתמודדות עם המקרה…
הנה הטריילר לפרק והנה קטע לא מספיילר מתוכו שמומלץ לצפות בו כדי להבין את הרעיון שלפנינו:

ההשראה למאמר זה הגיעה מעבודתה של ורד שביט. במרץ 2011 נהרג אחיה, טל, מפגיעת מכונית. בעקבות האסון היא החלה במסע לא מתוכנן אל נבכי הזכרון, האבל והמוות בעידן הדיגיטלי. בחלוקה גסה ניתן לומר שהיא עוסקת בשני תחומים פורצי דרך למדי, הן מבחינת ריכוז החומר והן מבחינת חשיפתו לציבור. הראשון והעיקרי הוא היכולת שלנו או של יקירינו לקבוע מה יהא על העזבון הדיגיטלי, הנכסים הדיגיטליים, לאחר מותנו או מותם: מי יוכל להחשף לעזבון (אם בכלל), מה השירותים הקיימים כיום לניהול העזבון, והמודעות הציבורית לנושא רגיש זה. התחום השני בו היא עוסקת הוא המשך ה"קיום", עם או בלי מרכאות, לאחר המוות. כלומר, האפשרויות להמשיך ולהראות סימני חיים גם לאחר מותנו או מות יקירינו. בתחום זה נעסוק כאן ואותו נרחיב הרחק אל המאה ה-24.
כמעט כל החומר הלא-טרקי המובא להלן נלקח מהבלוג אותו שביט מפעילה, "אבק דיגיטלי". מומלץ לקרוא בו ולעקוב אחרי דף הפייסבוק שלו.

27

אך לפני שנגיע למאה ה-24 ונתעמק במה שיש לה להציע לנו לאחר מותנו (או במקומו), נסקור בקצרה את המצב כיום.

כיום

כולנו מייצרים היום מידע דיגיטלי. ויש המון ממנו. וכמעט כולו יישאר גם לאחר לכתנו. כל מה שכתבנו בימי חיינו בפורומים, טוקבקים, פייסבוק, טוויטר; כל התמונות שהעלינו לפייסבוק, לפליקר או לאינסטגרם; כל המקומות שציינו שהיינו בהם – הכל נשמר. כבר כיום קיימים שירותים ואתרים שונים המאפשרים "לנו" להמשיך ולהנפיק ציוצים או סטטוסים לאחר מותנו. תוכנות מיוחדות לומדות בעודנו בחיים את הציוצים/סטטוסים הנוכחיים שלנו ואת הסגנון שלהם, וינסו למלא את מקומנו בהעדרנו. יש גם תוכנות שישלחו הודעות מיוחדות בימים מסוימים שניתן לקבוע מראש, גם לאחר מותנו.
אך יש אנשים עם נוכחות מקוונת גם מעבר לאינטרנט עצמו. כבר שנים קיימים משחקי מחשב שאינם רק משחקי מחשב. מרחבים וירטואליים כמו סקנדלייף, בהם אנשים חיים במקביל לחיים הרגילים ונפגשים זה עם זה, מהווים מרחב שונה ומקביל למציאות הרגילה. מה קורה לאנשים שמתו ודמותם עודנה קיימת במרחב הוירטואלי? הנה מקרה של גיימר שהנציח את אהובתו במרחב כזה שהקים. התוצאה היא שדמותה ממשיכה להתקיים גם כשהיא עצמה כבר איננה.
מידע נוסף: כתבה של ורד שביט ויהונתן זילבר ב-ynet (כתבה שמקיפה אפשרויות רבות ומגוונות, בחלקן ניגע כאן בהמשך); כתבת וידאו בנושא בחדשות ערוץ 10.

הדוגמאות לעיל קלות יחסית לביצוע, כיוון שמדובר במידע וירטואלי ומקוון שניתן לעבד ולהעביר ממקום למקום. אך מה ניתן לעשות בעולם האמיתי? מה אפשר לעשות במציאות הלא וירטואלית כדי למנוע ממישהו להישכח? כבר היום קיימים קודי QR אשר מוטבעים על מצבות. קוד כזה מאפשר לאנשים בהווה ובעתיד להכיר טוב יותר את המנוח באמצעות הקוד הנסרק, אשר מוביל את המתעניין לאתר המכיל מידע אודותיו, או האתר שהפעיל בימי חייו.
חברת אינטליטאר הציעה לאנשים ליצור אווטאר וירטואלי בדמותם, אווטאר שניתן לאמן וללמד כדי שיהיה דומה ככל הניתן, ואולי אף ימשיך לפעול לאחר מות בעליו. בינתיים החברה הפסיקה לפעול אך העקרון נותר מעניין. יכולת ניהול השיחה של האווטאר היתה מוגבלת ותלויה בטכנולוגיה, כמובן. אבל בעתיד…
מידע נוסף: שני קטעים משתי הרצאות של ורד שביט בנושא אינטליטאר.

אלה דוגמאות למה שכבר נמצא בהישג יד כיום, והטכנולוגיה המתפתחת כמובן תגוון ותקדם את המבחר הקיים. מה תתן לנו הטכנולוגיה העתידית כדי להשאיר את עצמנו או את יקירינו פעילים לאחר המוות הביולוגי? האם תהיה אפשרות להמשיך לקיים את התודעה האנושית עצמה ולא רק טקסטים מזויפים בשם המנוח? כשנבדוק מה מוצג ב"מסע בין כוכבים" נשתדל לזכור שההתפתחות הטכנולוגית מהירה כל-כך, שסביר שהדברים יהיו זמינים עוד לפני המאה ה-24 הרחוקה.

הקו שינחה אותנו הוא השאלה מה קורה כשמחברים שלוש עובדות:
1. אנשים לא רוצים שיקיריהם ימותו.
2. אנשים רוצים לחיות לנצח בעצמם.
3. יש טכנולוגיה שמאפשרת את זה! (בערך)

גבולות גזרה – נעסוק כאן בצד הטכנולוגי בלבד. אנשים שפועלים לשמר את תודעתם ולהשאיר את עצמם בחיים, או עושים זאת עבור יקיריהם – באמצעות הטכנולוגיה.
מה לא נחשב ועל מה לא נדבר:

• תהליכים ביולוגיים-טבעיים בהשפעת תופעות טבע שמאפשרות "להשאר צעיר לנצח" כמו בכוכב הבא'קו בסרט Insurrection.
• אנשים שזוכים בחיי אלמוות מידיהן של ישויות כל-יכולות.
• אנשים מתים שקמו לתחיה – כאשליה בלבד – כמו אימו של קפטן פיקארד, איווט, בפרק Where No One Has Gone Before.
• יצורים מכניים שנוצרו כהעתק פיזי מושלם של אנשים קיימים כולל זיכרונותיהם, אך ללא האישיות והתודעה. דוגמה לכך הוא הגשוש שנוצר בדמותה של לוטננט אייליה בסרט Star Trek: The Motion Picture. כאמור, זכרונותיה נשמרו אך לא תודעתה ואישיותה.
• הנצחה עצמית מטעמי מגלומניה ואגו בלבד (כמו ד"ר לואיס צימרמן או ד"ר נוניין סונג שאמנם יצרו יצור בצלמם ובדמותם, אך מדובר ביצור שאינו ממשיך את קיומם שלהם).

לסיכום – שימור חיי האדם עצמו או תודעתו, או הנצחה של אחר, במקרה של מוות או לקראת מוות, באמצעות הטכנולוגיה.

על מה כן נדבר? אין הרבה דוגמאות ב"מסע בין כוכבים" לנושא שלנו, כמו לרוב נושאי הרוחב הלא-נדושים. הוא התקיים בעיקר ברקע של הסיפורים הגדולים והרגילים. נחפור קצת בפרקים ונראה.
הערה אחרונה – "מסע בין כוכבים" מעולם לא היתה רק על טכנולוגיה. עיקר הדיון שלנו הוא אמנם הטכנולוגיה, אך הסדרה נוגעת בהשלכות הטכנולוגיה, בהתמודדות האנושית עימה – כמו כל מדע בדיוני טוב. לכן נעלה תהיות וסוגיות מוסריות לאורך הדרך, כדי לתת חומר למחשבה. גם במקרים בהם "מסע בין כוכבים" לא עשתה זאת.

280. בסיס רעיוני

שתי טכנולוגיות שמוכרות לנו עוד מהמאה ה-20 ומהוות בסיס רעיוני לשאיפה להארכת החיים או שימורם:

הכי בסיסי > רעיון שקיים כבר בימינו כדי למנוע מוות מוקדם של אנשים הוא להקפיא אותם לפני/לאחר מותם. תיאורטית ניתן להקפיא מי שעומד למות ממחלה או מזקנה, הקפאה מוחלטת או הקפאה עד לרמה בה התהליכים הביולוגיים עוצרים כמעט לגמרי, בתקווה ובהנחה שניתן יהיה להחיותו בעתיד לכשיהיו אמצעים מתאימים. בפרק The Neutral Zone של "הדור הבא" מתגלים שלושה בני אדם כאלה, שהוקפאו בשנות ה-90 של המאה ה-20. כל אחד סבל מבעיה רפואית אחרת ושלושתם הוקפאו לאחר מותם. ד"ר בברלי קראשר מפשירה אותם, מחייה אותם (יש לציין שלא ברור איך, כיוון שהוקפאו כאמור לאחר מותם) ומרפאה אותם.

הכי בסיסי > נדמה שהפטנט הטכנולוגי הפשוט ביותר להארכת חיים או שימור תודעה הוא פשוט שילוב חלקי מכונה בגוף החי. לא, הכוונה אינה לבורג. הם אמנם עושים זאת בהצלחה אך ההליך אינו מתבצע מרצונו החופשי של האדם ואישיותו "נדרסת". הגוף נשאר אך התודעה איננה.
הכוונה היא לשמירה על גופו ותודעתו של אדם תוך החלפת איברים מסוימים החיוניים לתפקוד. כיום הרעיון מוכר לנו מאיברים מלאכותיים (בודדים) שמושתלים בבני אדם או מסייעים להם מחוץ לגוף. בפרק Life Support של "חלל עמוק תשע" ראינו את המקרה של ודק בראייל, עבורו ההליך לא הצליח במיוחד. כשהנזקים הפיזיולוגיים שבראייל סבל מהם הגיעו למוחו, ד"ר ג'וליאן בשיר השתיל בו שתלים פוזיטרונים אשר החליפו חלק ממוחו. זה אמנם סייע לשמור את גופו בחיים אך אישיותו-תודעתו נפגעה. התחושה היתה שהוא הפך להיות חצי רובוט.
סוגיה מוסרית – במקרה כזה, היכן עובר הקו בין האדם הישן ל"אדם" החדש? כמה אחוזי מכניקה בגוף עושים את ההבדל? כמה אחוזי מכניקה/מחשב במוח? האם בכלל ניתן להחליף את התודעה האנושית במחשב? האם התודעה, ה"אני" הוא רק תפקודי המוח והכימיה שבו? זו שאלה שתלווה אותנו גם בהמשך הסקירה.

עד כאן הבסיס הרעיוני-טכנולוגי. ועכשיו, לעתיד. מה הוא מציע לנו במקרה של מוות?

1. העברת תודעה לאדם (חי) אחר

מקבילה מודרנית במאה ה-21: אין.

השלב הראשון, הפשוט ונטול הטכנולוגיה בהעברת תודעה של יצורים חיים לפני מותם, הוא לעשות זאת באופן בלתי אמצעי, "ביולוגי". הוולקנים הם ככל הידוע היחידים המסוגלים להעביר את תודעתם לאחסון במוחו של אחר באמצעות מגע, "העברת דפוס סינפטי" בלשון מדעית. הם עושים זאת רק למטרת אחסון זמני, אך הם מסוגלים גם לאחסן את התודעה, הקטרה, בכלי מיוחד המכונה "תיבת קטרה". הכל מתבצע ללא כל שימוש בטכנולוגיה, רק באמצעות מגע יד.

29

בני גזעו של סרגון שנראה ב-Return To Tomorrow של "מסע בין כוכבים" המקורית שמרו את תודעתם בכדורי אחסון במשך מאות אלפי שנים, עד שתגיע הזדמנות טובה להוציאה משם (ועל כך בהמשך). במהלך ההתרחשויות ראינו שגם הם יכולים להעביר תודעה של בן אדם לאחסון זמני אצל אדם אחר. לא ברור כיצד ביצעו את ההעברה, ככל הנראה בעזרת כוחותיהם המיוחדים וללא טכנולוגיה, בדומה לוולקנים. אך כל שאר הגזעים חסרי היכולות נאלצים להמציא משהו בעצמם.

בפרק The Passenger של "חלל עמוק תשע" מוצג רייאו ונטיקה, פושע ותיק שעסק באובססיביות בדרכים להאריך את חייו: ניסויים על אנשים אחרים, השתלת איברים, הקפאה ו"סמי נעורים". ונטיקה מצא דרך להעביר את תודעתו לאדם אחר באמצעות הודעה שקודדה ביולוגית לתוך תאים במוח שלו, הודעה שניתן להעבירה לאורך מערכת תאי העצב, וכשנוצר מגע גופני – ישירות למוח החדש. כך קודדה התודעה שלו כולה ו"המתינה" למקרה בו יצטרך להעבירה, באמצעות מחולל חשמלי מיקרוסקופי אשר הושם בציפורני כף ידו.
ב-Warlord של "וויאג'ר" יש מקרה דומה. טיירן, שליט מודח, הצליח לשרוד באמצעות העברת תודעתו מאיש לאיש במשך מאתיים שנים. הוא דאג להטמין בגופו שתל קורטיקלי אשר מופעל אוטומטית ברגע המוות ומעביר את התודעה לאורך העצבים בגופו, אשר באמצעות מיקרו-סיבים ביו-חשמליים עוברת לגוף המארח החדש ולמוחו כשנוצר מגע.
סוגיה מוסרית – נראה ששיטה זו פשוטה למדי ליישום. הבעיה היא שההליך אינו זמני כמו אצל הוולקנים, אלא מדובר בהשתלטות קבע על אדם אחר. זו הסיבה לכך שהיחידים שעשו זאת היו הבאד-גאייז. כיוון שהיו "רעים", ה"טובים" העדיפו את טובת הקורבן עליו השתלטו, ותודעת האיש הרע לא נשמרה בסוף הפרק. לאיש לא היה אכפת מהמנוח.

2. הולוגרמות

מקבילה מודרנית במאה ה-21: הראפר טופאק נורה למוות ב-1996, מה שלא הפריע לו "לקום לתחיה" ולהופיע ב-2012 בפסטיבל מוזיקה גדול, כהולוגרמה. לא מדובר בשידור של הקלטה ישנה אלא ביצירת וידאו יש מאין, באמצעים מודרניים חדשניים. במקרה זה המניע להחזרתו מן המתים של טופאק היה בידורי נטו ולא מטרה נעלה כלשהי. ואולי טבעי שקפיצה טכנולוגית כזו תתרחש דווקא בשואוביזנס, המקום בו נמצא הכסף.
להבדיל, יש גם מיזם שמכוון לשמר ולתעד עדויות של ניצולי שואה באופן הולוגרפי. כלומר, לשמר ולתעד את הניצולים עצמם כשהם מדברים ומספרים את סיפורם. המטרה היא כמובן להתכונן לעתיד, בו ניצולי שואה לא יהיו בין החיים, ולהפוך את העדויות המוקלטות ליותר ממשיות ויותר חיות, למען הדורות הבאים. במקרה זה מדובר כמובן בערך היסטורי. בניגוד לטופאק, ההולוגרמה הזו תהיה אינטראקטיבית ותוכל לענות על שאלות.
מידע נוסף:
* רשומה ב"אבק דיגיטלי" על ההופעה של טופאק, כולל קטעים ממנה בוידאו; קטע מ"לונדון וקירשנבאום", ובו יובל דרור מספר על ההופעה
* רשומה ב"אבק דיגיטלי" על מיזם עדויות הניצולים, כולל שיחה לדוגמה בוידאו; קטע מהרצאה של ורד שביט על מיזם העדויות
* עוד על שתי הדוגמאות הנ"ל מתוך בבלוג של רועי צזנה

 

בסדרות החדשות של "מסע בין כוכבים" אולם ההולוגרמות תופס מקום משמעותי כמקום לבילוי ולפעמים לעבודה (וכמובן, ככלי לסיפור סיפורים). הנכנסים אליו חווים מציאות תלת מימדית, מוחשית לחלוטין (במובן הפיזי של המושג), אשר עושה שילוב בהקרנת פוטונים ושדות כוח. התוצאה מרהיבה ומעניקה לנו כמה דוגמאות מצוינות לדיון.

30

בדרך > הולוגרמות מוקלטות (כלומר הקלטות הולוגרפיות) אינן נחשבות מבחינתנו בדיון זה. זוהי רק הקלטה לצורכי הנצחה כפי שניתן לעשות גם היום בוידאו. מה שמוצג הוא מה שהוקלט מראש ותו לא, אין משהו מעבר לזה. מדובר רק בשימור זכרו של האדם ולא בשימור תודעתו. מדובר בסך הכל בשדרוג של היכולת הקיימת בימינו, גם אם האפקט הרגשי גדול יותר בשל העובדה שזו הקלטה תלת מימדית שניתן (במקרים מסוימים) לגעת בה.
ראינו מספר דוגמאות להקלטות הולוגרפיות, בין השאר זו הנראית לעיל שאביו המנוח של ווסלי הקליט עבורו כשהיה קטן (בפרק Family).

בדרך > במשך השנים ראינו בלי סוף הולוגרמות אינטראקטיביות. ליצור דמות ולצקת לתוכה תוכן, אישיות וידע מסוים זה עניין אפשרי ובסיסי בהולוגרמות של "מסע בין כוכבים". כולן אינטראקטיביות, מסוגלות לנהל שיחה ולענות על שאלות כך שהן מתאימות לצרכיו של אדם המעוניין לשמר את יקיריו או את עצמו. היו אפילו כמה הולוגרמות שהיו מודעות להיותן הולוגרמות, מה שמשדרג את תחושת הממשות.
רוב הדמויות שראינו באולם ההולוגרמות היו דמיוניות, בדיוניות, אבל לפעמים ראינו גם דמויות היסטוריות שהתבססו על אישים אמיתיים כמו ניוטון, איינשטיין, הוקינג, או דה וינצ'י, אך לא ברור עד כמה אלה היו "נאמנים למקור". הרי קשה מאוד להשיג מידע על האישיות של חלקם, ובכל מקרה ליוצר ההולוגרמה לא היתה חשובה במיוחד המהימנות ההיסטורית, בניגוד למי שירצה לשחזר את יקיריו.
היו גם לא מעט מקרים בהם נוצרו הולוגרמות בדמותם של אנשים אמיתיים, מההווה, לעתים נאמנות למקור. לצערנו, לרוב לא הוסבר כיצד זה מתבצע.

בדרך > ניסיון נדיר למדי ליצור הולוגרמה נאמנה למקור של בנאדם חי עם הסברים לגבי התהליך, היה המקרה של ג'ורדי לפורג' בפרק Booby Trap. לפורג' יצר את דמותה של המדענית ליאה ברהמס כדי שתסייע לו באבחון תקלות באנטרפרייז ועשה זאת על-פי מה שהשאירה אחריה. אמנם ברהמס היתה בחיים, אך זו דוגמה מצוינת ללמוד ממנה על התהליך הפוטנציאלי של הפחת חיים בדמות ממוחשבת, נאמנה למקור.
הכל קרה במקרה ולא במכוון: לפורג' התחיל בקריאת טקסטים שכתבה, המחשב הציע לו להאזין להקלטות קול שלה, מה שיצר עבורו את האפשרות לקבל תשובות לשאלותיו בקולה של ברהמס, מתוך החומרים אותם כתבה. הוא יצר שחזור הולוגרפי של מקום עבודתה ובלי שהתכוון, המחשב התבסס על תמונות זמינות שלה כדי ליצור את דמותה כהולוגרמה. שילוב של הידע הטכני שכבר היה ברשות המחשב גרם לכך שההולוגרמה היתה אינטראקטיבית אך "יבשה". כשלפורג' מאס בתשובותיה המכניות והאוטומטיות, שאל את המחשב אם יש לו קובץ אישיות עבור ברהמס. המחשב ציין שקיים קובץ ניתוח פרופיל אישיות של צי הכוכבים. קובץ זה, יחד עם תיעוד הופעותיה בכנס אינטרגלקטי בצ'איה 7, שימש את המחשב לבקשת לפורג' ליצירת אישיותה של ד"ר ברהמס (בסטיה של 9.37%…).
פרק מומלץ בחום לענייננו. הנה תמצית רוב הפרטים הנ"ל:

כאמור, במקרה זה ברהמס עודנה בחיים, אך גם אם היתה מתה לפורג' יכול היה ליצור את אותה הולוגרמה, כך שאנו רואים כיצד ניתן ליצור הולוגרמה של אדם קיים על בסיס המידע אודותיו. את מהות ה-9.37% תוכלו לראות בפרק ההמשך Galaxy's Child.

הולוגרמה אישית > ולמרות שזה אפשרי כפי שזה עתה ראינו, אין לנו אפילו דוגמה אחת של בנאדם שמת ותודעתו נשמרה בדרך זו.
סוגיות מוסריות – לו זה היה מתבצע והחי-המת היה ממשיך "לחיות" לצידנו – עד מתי? כמה שנים זה היה נמשך עד שהיינו חשים מיצוי וחוסר נוחות עם קיומו לצידנו? מתי תהיה תחושה שזה "בסדר" להפסיק את קיומו? אפשרות אחרת היא "להפעיל" אותו רק כשנרצה כמו בדוגמה של ויק פונטיין. רק כשנרצה עצה? רק כשהנכדים ירצו לשחק עם סבא? אפשרויות נוספות הן לתת לו לחיות בחדר הולוגרפי מיוחד כמו ה-EMH של "וויאג'ר" (בית אבות להולוגרמות?), או לשמור אותו בקופסה, בה ימשיך לחיות את חייו כמו בדוגמה של מוריארטי מ"הדור הבא" (שוב, בית אבות?). והאם כל המתים-החיים הללו יפתחו שם בפנים חיים ותרבות משלהם?
בנוסף, האם נרצה לתת להם מודעות עצמית, שידעו שאינם אמיתיים? האם זה יהרוס לנו את האשליה? האם זה דווקא טוב, כדי שלא נתמכר ונתמודד עם האבל?
גם כאן מדובר בשאלות שילוו אותנו גם בדוגמאות הבאות.

הולוגרמה קבוצתית > אז אין לנו דוגמה להולוגרמת הנצחה של אדם, אבל יש לנו הולוגרמת הנצחה קבוצתית:
בפרק Oasis צוותו של קפטן ארצ'ר פוגש על כוכב נידח, בספינה שהתרסקה, את אזראל שיצר מחדש כהולוגרמות את כל אנשי ספינתו שנהרגו, כולל רעייתו. אך אזראל לא עשה זאת רק כדי לזכור אותם, שכן רובם הם לא היו יקיריו. הוא הונע אך ורק מרגשות אשם כיוון שבעיניו נשא באחריות להתרסקות, וכיוון שנשא באחריות לגידול בתו הקטנה שניצלה ביחד עימו. לאחר שצפה בה גדלה לבדה הוא יצר מחדש את רעייתו ואת עמיתיו לספינה כדי להמנע מהבדידות הקשה.

אבל היה איש אחד שאכן ביצע הנצחה לשם הנצחה. רוריגן ב-Shadowplay של "חלל עמוק תשע" יצר מחדש כהולוגרמות את כל מה שאיבד – כלומר כפר על תושביו כולל משפחתו – אחרי שהדומיניון כבש את הכוכב שלו ו"שינה את כל דרך החיים" של תושביו. אמנם לא ברור במפורש אם האנשים ששחזר מתו במקור אך סביר להניח שכן, אחרת רוריגן היה בורח עם משפחתו ולא מותיר אותה מאחור. הוא חי במקום לא מעט שנים ובינתיים הכפר התפתח ותושביו אף הביאו ילדים לעולם.
פרק מומלץ בחום לענייננו.

31

סוגיה מוסרית – במהלך הפרק אודו תוהה באשר לזכות קיומן של ההולוגרמות. האם העובדה כי הן "רק" הולוגרמות מספיקה כדי להפסיק את קיומן, או כדי לא לפעול למען המשך קיומן? הרי אם יישאלו, התושבים יאמרו שהם אמיתיים בעיני עצמם – הם חושבים, הם מרגישים. הרי נולדו בכפר הוירטואלי ילדים שירשו את תכונות הוריהם, כך שלא מדובר אך ורק על יציריו של רוריגן בעת שיצר את הכפר.

אלה סוגיות רלוונטיות בהחלט במקרה של מימוש טכנולוגיה כזו, זכויותיהן של הולוגרמות עצמאיות. חשבו על The Measure of a Man, הפרק הקלאסי של "הדור הבא" בו דאטה נאבק על זכויותיו כאנדרואיד. צרפו למאבק המשפטי והרגישויות המוצגות בפרק גם תודעה של אדם אמיתי המצויה בתוכו, וקבלו דילמה סבוכה עוד יותר.

יש לציין כי בשתי הדוגמאות הללו להנצחה קבוצתית איננו יודעים עד כמה הדמויות ההולוגרפיות אכן היו "נאמנות למקור" כשנוצרו בידי אזראל/רוריגן. עם זאת, נוכחנו לראות כי הדבר אפשרי בהחלט מהבחינה הטכנולוגית.

3. לחיות את ההנצחה

מקבילה מודרנית במאה ה-21: אין.

בקטן > ב-Dramatis Personae של "חלל עמוק תשע" מוזכרים אך לא נראים כדורי אנרגיה שמכילים ארכיון טלפתי. הארכיון שייך לתרבות שנכחדה אחרי שהשמידה את עצמה. במהלך הפרק תודעות אנרגטיות מן הכדורים הללו משתלטות על אנשי צוות וגורמות להם לפעול באותן דרכים הרסניות בהן פעלו החייזרים.
סוגיה מוסרית – לא ברור האם מדובר ב"וירוס טלפתי" שנוצר באופן טבעי (כמו וירוס ביולוגי), או בוירוס שהותירו אחריהם החייזרים במכוון כדי להפיץ את ה"מחלה" (כמו וירוס מחשבים). אם מדובר באפשרות השניה, זהו הליך פולשני ואלים שמסתיים כנראה באופן קבוע באסון.
לצערנו, לא שמענו מספיק פרטים על הכדורים הללו ועל מקורם. אך אם אותו ארכיון מאפשר לעשות יותר מאשר עיון בתיעוד היסטורי כפי שעושים ארכיונים בני ימינו; אם ניתן ממש לחוות – מבחירה – את התיעוד באמצעות "הארכיון הטלפתי" (מה שזה לא יהיה…), מדובר בשדרוג משמעותי של יכולות ההנצחה. קל יותר יהיה להבין את הרעיון באמצעות הדוגמה הבא.

בגדול > מה קורה כשרוצים להנציח לא בן אדם ולא כפר אחד, אלא תרבות שלמה? איך אפשר לעשות את זה באופן המוני? The Inner Light, הפרק הנפלא של "הדור הבא" זוכה פרס ההוגו הציג מקרה כזה. בפרק מוצגת הנצחה המונית למטרות טובות בבירור: הנצחה נטו. קפטן פיקארד "זוכה" לחוות במהלך 20-25 דקות תקופת חיים כמעט שלמה של אדם אחר, בכוכב אחר, בזמן אחר, מבגרות עד זקנה. הוא מקים משפחה, חי חיי קהילה ולומד להכיר את כל התרבות המקומית. והכל מתחיל בגשוש שהאנטרפרייז פוגשת, גשוש ששוגר אלף שנים קודם לכן בידי תושבי כוכב לכת גוסס, על מנת להנחיל את זכרונם למישהו שיוכל לספר את סיפורם. הגשוש מתחבר למוחו של פיקארד למשך הזמן הנ"ל.
סוגיה מוסרית – למעשה גם כאן מדובר ברעיון בעייתי מאוד. הליך אגרסיבי ופולשני ביותר, מעין אונס מנטלי שנמשך שנים רבות מנקודת מבטו של הקורבן, בלי שהתנדב לחוויה המורכבת הזו. לא במקרה הפרק Hard Time של "חלל עמוק תשע" מציג רעיון דומה כעונש חמור וקשה, בעל השלכות לא קלות על אישיותו של המעורב. עם זאת, "לחיות את ההנצחה" זו כנראה הדרך האולטימטיבית לגרום לאחרים לזכור אותך ואת קהילתך. הצופה ממש חווה את האנשים המתים: את האישיות, את האינטראקציות, את המנהגים ואת ההיסטוריה. ההנצחה הטובה ביתר שיכולה להיות (מנקודת מבטם של המנציח והמונצח).
שקלנו להביא קטע מהפרק הנפלא הזה, אך עיקרו בסופו וחבל להרוס. פשוט צפו בפרק בשלמותו. פרק מומלץ בחום לענייננו ובכלל.

32

4. שיבוטים

מקבילה מודרנית במאה ה-21: LifeNaut היא חברה שרוצה ליצור אתכם מחדש, אחרי מותכם, בעתיד. או לפחות לדאוג לכך שמישהו יוכל לעשות זאת. כל אחד שרוצה מוזמן להרשם באתר (בחינם) ולשלוח להם "קובץ תודעה" שיכיל כמה שיותר מידע דיגיטלי אודותיו (תמונות, טקסטים, תמלילים, קבצי וידאו וכו'). במקביל הוא יקבל הביתה מיכל עם נוזל כדי לשטוף בו את הפה ולשלוח בחזרה לחברה מה שמכונה "קובץ ביולוגי". ממיכל זה יוציאו – בעתיד – את התאים הרלוונטיים לשימוש, ייצרו את הגוף מחדש ובאמצעות קובץ התודעה הנ"ל ינסו לשחזר את האישיות.
מידע נוסף: שני קטעים משתי הרצאות של ורד שביט בנושא

36

מאוד מתבקש שנמצא שיבוטים בעתיד של "מסע בין כוכבים", כאלה שישמשו לאחסון התודעה אחרי שהגוף המקורי מת. אך באופן מפתיע יש מעט מדי שיבוטים ואין בכלל כאלה שנוצרו למטרת המשך חיים. כל השיבוטים שהופיעו נוצרו למטרות אחרות, כולן שליליות ומוסריותן מוטלת בספק:
* נקמה: A Man Alone של "חלל עמוק תשע"
* קנוניות פוליטיות: Whispers של "חלל עמוק תשע", Rightful Heir של "הדור הבא" והסרט "נמסיס"
* שימוש בגוף השיבוט: Similitude של "אנטרפרייז"
* כוח אדם נאמן: שיבוטי הדומיניון
* "גניבת" שיבוט למטרת הגדלת "בריכת הגנים" של קהילה סגורה: Up The Long Ladder של "הדור הבא"
כאמור, כל הסיבות הן שליליות ואין מקרה של העברת תודעה אף שמדובר בשיטה שאמורה לקרוץ מאוד למעוניינים, כיוון שמדובר באותו הגוף ממש. חומרים המסייעים לשיבוט כמו ג'ל ביו-מימטי אסורים לחלוטין במסחר בפדרציה, כך שביקום של "מסע בין כוכבים" העיסוק בתחום כולו הוא שלילי ביותר.
אין מידע מפורש על כך, אך האיסורים הגיעו ככל הנראה לאחר ניסיון מר, אולי בעקבות כוויות עבר. אולי פשוט לא הצליחו להתמודד עם כפילים כאלה מבחינה מוסרית-תרבותית. בכל מקרה, איש לא חשב או ניסה ליצור שיבוט למטרת שימור תודעה.

5. אנדרואידים

מקבילה מודרנית במאה ה-21: בינ"ה48 היא רובוטית בעלת בינה מלאכותית שנבנתה על-ידי האנשים של LifeNaut. רובוטים בעלי בינה מלאכותית לא חסרים, יש לא מעט ניסיונות כאלה ואפשר לראות את חלקם ב-YouTube. אך ייחודה של בינ"ה48 טמון בכך שהיא מבוססת על אדם קיים, בינה אפסן (לא, שם הרובוטית אינו נגזר מהמילה העברית) על-פי ראיונות ומידע שנאסף ממנה. כוונת המפתחים היא לבדוק את האפשרות – בטווח הארוך – שמוחו ותודעתו של אדם יורדו/יועלו אל תוך מחשב.
מידע נוסף:
* בינ"ה48 בוויקיפדיה, בינ"ה48 בפייסבוק
* וידאו: כתבות והדגמות וראיונות; בינ"ה48 ויוצרה מתארחים ב-TED פעמיים ומדגימים את יכולותיה, כאן וכאן; ועוד קטע שכולל אפילו רפרנס טרקי בתחילתו.

בניגוד מוחלט לשיבוטים, אנדרואידים הופיעו די הרבה ב"מסע בין כוכבים" והיו אף נגיעות בנושא בו אנו עוסקים:

הצעה > כשצוותו של קירק הגיע לכוכב האנדרואידים בפרק I, Mudd, אוהורה שומעת שהאנדרואידים מסוגלים להכיל "מוח" אנושי ולהחזיק 500,000 שנים, ובכך מציעים אפשרות של חיי אלמוות ויופי נצחי.
במכוון, ניסה אך לא סיים > סרגון ואנשיו מהפרק Return To Tomorrow שהוזכרו קודם כמי שתודעתם נשמרה במשך כמה מאות אלפי שנים בכדורי אחסון, המתינו להזדמנות שאכן הגיעה לבסוף. סרגון ביקש רשות להשתלט על גופם של קירק ושניים מאנשיו על מנת לבנות אנדרואידים. המטרה היתה להעביר את התודעה לאנדרואידים הללו כדי לאפשר להם להסתובב בעצמאות. החייזרים החלו בבניית האנדרואידים אך עזבו את האנטרפרייז עוד לפני שהמשימה הושלמה.
במכוון, הצליח, אבל > ד"ר רוג'ר קורבי מהפרק ?What Are Little Girls Made of בסדרה המקורית מצא מכונה ליצירת אנדרואידים שנבנתה בידי תרבות עתיקה שנכחדה. המכונה השתלבה היטב עם חזונו על חברה אוטופית של אנדרואידים שיינטלו מהם הרגשות השליליים והבעייתיים. באמצעותה ניתן ליצור אנדרואיד יש מאין, אבל גם ליצור אנדרואיד ככפיל של אדם קיים תוך העברת זכרונותיו והתנהגותו באמצעות "היתוך סינפטי". קורבי תכנן להמיר בני אדם לאנדרואידים שיכילו את התודעה ה"נקיה". מאוחר יותר מתברר שד"ר קורבי השתמש במכונה כדי להעביר את תודעתו שלו לאנדרואיד כשהיה על סף מוות.
סוגיה מוסרית – הפרק מותיר אותנו עם תהיה: האם השכפול שיצר היה נאמן למקור? האם הוא היה יותר אנדרואיד או יותר קורבי? גם כאן זו שאלה שרלוונטית לרוב הדוגמאות המובאות כאן.

33

יציר כפיו של ד"ר נוניין סונג, דאטה מ"הדור הבא", היה אנדרואיד מיוחד ביותר ולכן יש מספר דוגמאות הקשורות בו ישירות. כפי שראינו זה עתה, היו אנדרואידים גם שנים רבות לפני תקופתו של דאטה, בזמן "מסע בין כוכבים" המקורית. אולם דאטה היה מספר רמות מעליהם מבחינת יכולותיו החישוביות ומבחינת התנהגותו האנושית.
לא במכוון, הצליח, אבל > בפרק The Schizoid Man אנו פוגשים את ד"ר איירה גרייבס, מדען מצליח ומפורסם בתחום הקיברנטיקה המולקולרית. אנו מגלים שהוא חולה במחלה סופנית ומתכנן להעביר את ה"אינטלקט" שלו למחשב לפני מותו, אך כמעט ברגע האחרון נקרית בפניו הזדמנות טובה בהרבה – אנדרואיד בדמותו של דאטה. ד"ר גרייבס משתלט עליו בניגוד לרצונו, מנטרל אותו ומעביר את תודעתו. מאוחר יותר הוא משתכנע לעזוב את דאטה ומעביר את הידע שלו – ללא התודעה – לתוך המחשב של האנטרפרייז.
במהלך האירועים, גרייבס מציע לעוזרת שלו קרין בריאנון שיבנה אנדרואיד גם עבורה, כך שיוכלו לחיות ביחד לאורך זמן. אך בריאנון לא רוצה להכנס למכונה, היא רוצה להמשיך לחיות את חייה.

34

במכוון, הצליח (בלי אבל) > בפרק Inheritance דאטה פוגש באקראי בג'וליאנה טיינר, "אמו" אשר לא פגש מעולם, כלומר רעייתו של ד"ר סונג אשר סייעה בבנייתו. מתגלה כי טיינר היא בעצמה אנדרואידית ברמה כה גבוהה כך שלא ניתן לגלות זאת. הדגם שלה שופר בהשוואה לדאטה: יש לה פיצ'רים של תעלות דמעות ובלוטות זיעה; ורידים מתחת לעור; פיצ'ר שיוצר אות-ביו שמטעה את הסורקים למיניהם; ופיצ'ר הזדקנות כמו של דאטה, אך במקרה שלה "סימני החיים" כולם משתנים בהתאם לגילה. המעניין הוא כי היא עצמה אינה מודעת למצבה ובטוחה שהיא בת אנוש.
דאטה מגלה כי כאשר ג'וליאנה האמיתית נפצעה קשות ושקעה בתרדמת, ד"ר סונג יצר עבורה אנדרואיד ושיפר את יכולות הסריקה הסינפטית שלו כדי להעביר את זיכרונותיה למטריצה הפוזיטרונית. הוא לא היה בטוח שזה יצליח אך היה חייב לנסות. מספר ימים לאחר מותה הוא הפעיל את האנדרואיד: היא הביטה בו וחייכה. מבחינתה היא פשוט התאוששה מפציעה קשה.
מאז היא המשיכה לחיות כך, והיא מתוכנתת לכבות עצמה לאחר חיים ארוכים, מעין מוות טבעי. בהודעה שהשאיר סונג ציין כי מעולם לא גילה לה את האמת כיוון שרצה שהיא תהיה מאושרת, שהם יהיו מאושרים. כלומר, הוא עשה זאת בשבילה, אך גם בשביל עצמו. הוא מפציר בדאטה לא לגלות לה, לא לגזול ממנה את אמונתה באנושיותה.
פרק מומלץ בחום לענייננו.

35

זהו שימור התודעה היחיד שהצליח (לאדם בודד) מכל מה שסקרנו. זו מעין יצירת אמנות של אמן כד"ר סונג, יצירה נדירה ביותר הדורשת מומחיות ולכן קיימת פעם אחת בלבד.
סוגיה מוסרית – במקרה זה לא מדובר על חיי נצח. להיפך, מדובר על הימנעות ממוות שבא בטרם עת אך בתוחלת חיים רגילה. השאלה המהותית בפרק היא האם לגלות או לא לגלות שהיא אנדרואידית? זה ללא ספק ישפיע על חווייתה את החיים.


צעד אחורה מההתפתחות הטכנולוגית >
לאורך כל הסקירה טיפסנו מעלה מעלה, עד שהגענו לפסגה שהיא יצירתו המושלמת של ד"ר סונג. אך אנו רוצים לסגת מעט ולהציג עוד דוגמה שנמצאת אי-שם למטה, כדי להמחיש נקודה נוספת. הפעם לא מדובר בתודעה אלא בזכרונות בלבד אשר "חיים" בתוך דאטה, זכרונות שלא נשמרו בו בכוונה תחילה למען שימור אדם ספציפי.

דאטה נבנה במושבה אומיקרון תטא אשר הותקפה בידי ישות קריסטלית קטלנית ובזכרונו שמור תוכנם של יומני 411 המתיישבים אשר נהרגו כולם במתקפה. בנוסף ליומנים, ד"ר סונג סרק גם את הדפוסים הסינפטיים באונות הטמפורליות של המתיישבים והכניס זאת לזכרונו של דאטה, כך שבמובן מסוים הוא מכיל את מחשבותיהם. מטרת המטען הנ"ל היתה לספק לדאטה מידע ממקור ראשון על בני אדם ועל התנהגות אנושית.
בפרק Silicon Avatar מוצגת ד"ר קָיילה מאר, שאיבדה את בנה רני בן ה-16 באותה מתקפה, לפני שנים. כשד"ר מאר מגלה על הזכרונות שדאטה אוצר בתוכו, היא מתרגשת מאוד. היא עזבה את בנה למען הקריירה וקיוותה שלא האשים אותה על כך, לכן היא מנצלת את ההזדמנות ומבקשת מדאטה מידע על בנה מתוך מה ששמור בזכרונו, מידע שאין לה דרך אחרת להשיג. היא שמחה לשמוע שלא האשים אותה, שהיה גאה בעבודתה כמדענית, שמחה לשמוע על זכרונות שמחים שלו בענייני ספורט וחברה. לבסוף היא מבקשת מדאטה לדבר בקולו של בנה, לקרוא משהו מתוך יומניו של רני. דאטה קורא את אחד המכתבים שרני כתב לאימו, וד"ר מאר נרגשת מאוד, כמובן.
הנה תמצית רוב הפרטים הנ"ל:

גם בסוף הפרק יש נגיעה בנושא שלא הבאנו כאן, מאוד רגשית.
פרק מומלץ בחום לענייננו.

תגובת האם למשמע קולו של בנה, אשר חזר לחיים לרגע בלבד, בלא שתכננה זאת – תגובתה חריגה וייחודית. בכל הדוגמאות האחרות שהבאנו אין עיסוק בהתמודדות הרגשית הזו עם המת הקם לתחיה. זאת, כיוון שלא היו הרבה הצלחות וכיוון שכל הבאים במגע עם המתים-החיים בדוגמאות שראינו היו היוצרים עצמם, שנחסכה מהם ההפתעה והסערה הרגשית.

סיכום >> כפי שציינו בתחילה, הדגש ב"מסע בין כוכבים" מעולם לא היה על הטכנולוגיה. כמו כל מדע בדיוני טוב, הסדרה משתדלת לעסוק בהשלכות של הטכנולוגיה על החברה ועל בני אדם אינדיבידואלים. היינו שמחים לקיים דיון נרחב יותר אודות ההשפעות החברתיות או האנושיות של שימור תודעה בשיטה זו או אחרת, אבל פשוט לא היו די דוגמאות כאלה. ה"חיים לאחר המוות" לא היוו את עיקר הדיון באף פרק מאלה שהזכרנו לעיל, לא היה עיסוק בהשלכות או הצגת מסקנות. האם הנושא לא עלה בדעתם של הכותבים? חמק מדמיונם? האם הרעיון נראה רחוק מדי מבחינה טכנולוגית? קפיצת דרך מחשבתית גדולה מדי? מוזר שבכל שנותיה של "מסע בין כוכבים" הנושא לא עלה יותר פעמים ובעוצמה גבוהה יותר.

אם יש מסקנה שניתן להגיע אליה הרי היא שהטכנולוגיה קיימת, בעתיד ש"מסע בין כוכבים" מציגה אכן ניתן להמשיך לחיות לאחר המוות. אנדרואידים ברמה טובה קיימים עוד מתקופתו של קירק ורק השתפרו לאחר מכן. ניתן ליצור הולוגרמות ברמה גבוהה מאוד, שלא לדבר על שיבוטים. אם כך מדוע אין יותר דוגמאות לכך, מנקודת מבט של תוך הסדרה? האם ההמנעות היא מסיבות מוסריות, כמו האיסור על השיבוט בתחומי הפדרציה? האם זה בגלל התנגדות לחיים בשקר, "חיים בתוך בחלום"? האם זו אחת מהסוגיות המוסריות הרבות שהעלינו לעיל?

לסיום, הנה עוד כמה שאלות שרלוונטיות הן ל"מסע בין כוכבים" והן לדוגמאות המודרניות שהצגנו:
• האם תוצר תהליך שימור התודעה הוא אכן אותו אדם? היה מעט מאוד עיסוק בזה ב"מסע בין כוכבים". סוגיה זו משיקה לשאלת הכפילים הקלאסית – מרגע שנוצר כפיל, מי האמיתי? האם שניהם זכאים לטעון לזהותם ה"אמיתית"? ומה ההגדרה של התודעה? האם ניתן בכלל להעביר תודעה? האם יש לנו את כל הרכיבים במתכון כדי לעשות זאת?
• האם שימוש בטכנולוגיה כזו זמין רק לעשירים? הדוגמאות שראינו הן בודדות וכמעט תמיד היוו דוגמה מיוחדת ויוצאת דופן של טכנולוגיה מיוחדת או ממציא מוכשר. לא מדובר באפשרות שזמינה לאנשים רבים, עשירים או עניים. בעתיד של "מסע בין כוכבים" אמנם אין מעמדות, אך אין ספק שיש צורך באמצעים, ידע וגישה לטכנולוגיה כדי להגיע למצב של שימור תודעה.
• בסוגית שימור התודעה יש גם השקה לשאלת הטכנולוגיה שיוצאת משליטה, יצירת חי מדומם (פרנקנשטיין וחבריו) והשלכותיה. בנוסף, מה זכויותיו של היצור החדש מרגע שעמד על דעתו? על אחת כמה וכמה כאשר מדובר ביצור שמכיל תודעה של אדם "אמיתי" המוכר לנו.
• ובעולם שבו השיטות הללו קיימות ונפוצות – מה ייעשה עם המוני האנשים המתים-חיים האלה? המוני-המוני-המוני המתים האלה שלא ימותו עוד לעולם? מה הם יעשו? האם ימצאו לעצמם תעסוקה וחיים משלהם? האם ה"מתים-חיים" יצליחו להשתלב בחברת ה"חיים" או שיחיו רק בחברת בני מינם?
• ואולי חשוב מכל – האם שימור תודעה באמת נחוץ? בני אדם צריכים לחיות ולמות. החיים צריכים להתאבל על המתים, להתמודד עם מותם ולהתגבר, כדי להמשיך הלאה.

 

"…into a body of some sort – perhaps cellular, perhaps holographic, perhaps robotic."   (LifeNaut, FAQ)

המאמר מבוסס על הרצאה שהועברה באייקון 2013.
תודה רבה לורד שביט.

לקריאה וצפיה נוספת:
* אבק דיגיטלי – הבלוג של ורד שביט, בהשראתה נכתבו ההרצאה והמאמר לעיל. "אבק דיגיטלי" גם בפייסבוק.
* העברת תודעה בוויקיפדיה.
* העברת תודעה ביצירות שונות, כולל דוגמאות מהמדע הבדיוני המוכר בוויקיפדיה.
* לחיות לנצח – הרצאתו של ד"ר רועי צזנה באייקון 2013 אשר עסקה בדרכים שונות להארכת חיים או המנעות מהמוות במדע המודרני והעתידי. ההרצאה כולה מומלצת לצפיה, כרגיל בהרצאותיו, ומ-0:48:30 ההרצאה נגעה בנושאים דומים לאלה שתוארו לעיל, כגון: מיזם ניצולי השואה, תוכנות הציוצים והסטטוסים ומעט על העברת תודעה.

2 מחשבות על “להמשיך לחיות לאחר המוות – אנדרואיד או הולוגרמה? – מאת subatoi

  1. פינגבק: חוויה חוץ גופית: על בשר ודם וגוף הולוגרפי – VOY: Lifesigns – מאת subatoi | סטארבייס972 | The Last Outpost

  2. פינגבק: בין הפיזיולוגיה והמוטיבציה: משחקי תודעה ופירמידת הצרכים של יצורים סינתטיים – מאת ד"ר אסף הרדוף | סטארבייס972 | The Last Outpost

מוזמנות ומוזמנים להגיב:

אתר זו עושה שימוש ב-Akismet כדי לסנן תגובות זבל. פרטים נוספים אודות איך המידע מהתגובה שלך יעובד.