חזון דאטה – חלק ב' – מאת מנצלשבך דלגשון

lal_teaching

קודם, בחלק הראשון של המאמר, עסקנו בשאלה הטכנולוגית של פיתוח דאטה חי ונושם (נושם במובן המטאפורי). סקרנו 4 שיטות עיקריות כיום לפיתוח בינה מלאכותית וגילינו שכבר היום אנחנו נמצאים בהתקדמות לא רעה, כזאת שעם קצת מאמצים נוכל לייצר אבטיפוס של דאטה אפילו בעשרים שנה הקרובות.
אם כך, השאלה המתבקשת היא, מהו המילכוד? מה מונע מאיתנו את זה בכל זאת? או בעצם, למה יש חלק ב' למאמר???
ובכן, בחלק הראשון של המאמר עסקנו במחסום הטכנולוגי. כעת נגלה שהמחסום הטכנולוגי הוא כאין וכאפס לעומת המחסום השני, המחסום הלוגי-פילוסופי. נגלה שלא רק מיומנות של טכנאים ופיתוח שיטות לקיצור זמן התיכנות עומדים בינינו לבין דאטה, אלא גם בעיות לוגיות מורכבות.
נשאל את עצמנו מה ההבדל בין גוף מכני לבין נפש? האם אפשר לתכנת נפש? האם אפשר לדעת בוודאות שיצור אכן חושב?

חזון דאטה – חלק ב' במדור המאמרים.

 

עד עתה עסקנו בחלק הטכני ביותר של בינה מלאכותית. ראינו שיש לנו טכנולוגיה מרשימה וכי ייתכן מאוד שאנחנו בכיוון הנכון להשיג בינה מלאכותית כמו דאטה אף לפני סוף המאה. או לפחות ככה אנחנו רוצים לקוות… החלק השני של המאמר בא לנפץ לרסיסים את החלומות. מסתבר שלא רק המגבלה הטכנולוגית עומדת בפנינו, אלא מגבלה הרבה יותר גדולה ממנה, שבאה מכיוון לוגי-הגיוני-פילוסופי טהור. הפן הפילוסופי של טכנולוגית הבינה המלאכותית בחלק השני והאחרון של "חזון דאטה".

לאן אנחנו מתקדמים?
בחנו עד עתה ארבע שיטות שונות להגיע לבינה מלאכותית שמנוסות כיום בחברות ובמדינות שונות ברחבי העולם. אך לאן כל זה מתקדם? לאן זה מוביל אותנו? האם אנחנו בכלל מתקרבים להשגת בינה מלאכותית גבוהה כמו האנדרואיד דאטה?
הרי אפילו אליס, מובילה בתחום הדיבור, מולכת שולל בקלות על ידי טריקים פשוטים, התוכנה שניצחה את אלוף העולם בשח-מט התבררה כתוכנה מטופשת ביותר, לא נראה עדיין כיצד אפשר להטות אלגוריתמים גנטיים לבינה מלאכותית של ממש ורשתות הופפילד מתבלבלות בין דגמים וזוכרות דברים מוזרים לעיתים.
הבעיות האלה הובילו לתחילתו של פן פילוסופי בבינה מלאכותית, במהרה החלו לצוץ בעיות שתוהות לא על דרך הכנת הבינה המלאכותית, אלא על השאלה האם בכלל אנחנו יכולים ליצור יצור חושב. אני אציג כאן שתיים מהבעיות המרכזיות ביותר.

ניסוי החדר הסיני
נקרא גם לעיתים "פרדוקס החדר הסיני" אף על פי שאופיו אינו פרדוקסלי. הניסוי הוא למעשה ניסוי מחשבה – ניסוי תיאורטי שמתרחש בדמיון כיוון שהאמצעים של ימינו אינם יכולים לאפשר את ביצועו – שבא כנגד טענת מערכת הסמלים. טענה זו אומרת שמערכת שפועלת על הזזת סמלים, כמו מחשב (הסמלים במקרה זה הם 1 ו-0 שמהם נובע כל החלקים הוירטואליים של המחשב) יכולה להפוך ליצור חושב אם היא תקבל מספיק מידע. ניסוי החדר הסיני טוען לעומת הטענה כי מחשב לעולם לא יוכל לחשוב, ומסביר את עצמו כך:
נניח שיש חדר אטום לחלוטין, לא ניתן להרגיש מה קורה בחוץ בשום דרך, הפתחים היחידים בחדר הם שני חריצים, אחד בצד שמאל ואחד בצד ימין. מושיבים אדם בתוך החדר, מתחילים להכניס לו מצד ימין מסמכים הכתובים בסינית והוא צריך להוציא אותם בצד שמאל כאשר הוא תרגם אותם לאנגלית. האיש הנ"ל לא למד בחייו סינית ולא יודע כלום על השפה. למזלו הרב הכינו בשבילו בחדר מילון בסינית, שמסביר לו איזה סמל לתרגם לאיזו מילה באנגלית, נוסף לכך יש לו ספר חוקים שמסביר לו על מבנה משפטים בסינית, פעלים, הטיות, צירופי מילים, משמעויות שונות בתוך קונטקסטים ובעצם כל מה שהוא צריך לדעת כדי לתרגם.
כעת, המערכת נראית כך לצופה מבחוץ: משפטים בסינית נכנסים אל תוך קופסה, ויוצאים באנגלית. הצופה מבחוץ יניח כי בתוך החדר ברייה אינטיליגנטית, העובדת כמו מתרגם, קוראת את הטקסט, מבינה, חושבת על אפשרויות התרגום ובוחרת את הטובה והברורה ביותר לפי הבנתה. אך אין זה נכון, האיש שבפנים לא מבין דבר ממה שהוא רואה, ואם נניח שאין לו יכולת למידה הוא לעולם לא יבין, אך הוא יהיה מסוגל לעקוב אחרי הוראות שנאמרות לו בספר, כמו מחשב, הוא יוכל להזיז סמלים מפה לשם, להפוך אותם לסמלים אחרים, אך הוא לעולם לא יהיה יצור חושב.
לפיכך, מחשב, המסוגל לקרוא צירופים של אפס ואחד ולתרגם אותם לדברים אחרים לפי חוקים שיש לו, לעולם לא יוכל באמת לחשוב.
data_hand
הבה ונבחן את תוכנת תרגום גוגל, המוצעת ברשת על ידי האתר גוגל ומאפשרת למשתמשים להקליד טקסט באנגלית ולתרגם אותו לגרמנית, צרפתית, ספרדית, איטלקית, פורטוגזית, יפנית, קוריאנית וסינית, ולעשות גם את הפעולה ההפוכה.
הבה וניקח ארבע שורות מתוך שיר יחסית ידוע, By the way של הלהקה Red Hot Chili Peppers:

Standing in line to see the show tonight
And there's a light of heavy glow
By the way I tried to say
I'd be there waiting for

כעת שימו לב, תרגמתי את הטקסט מאנגלית לגרמנית, לאחר מכן תרגמתי אותו מגרמנית לצרפתית, ולבסוף מצרפתית חזרה לאנגלית, זאת התוצאה שהתקבלה:

* it in the line zum it at evening and to see there to appear it a light heavy to light, moreover, which I to try to say, who I to wait there

אין לי מושג מאיפה הכוכבית הגיעה, גם בדקתי במילון והוא מסכים איתי שהמילה zum לא קיימת באנגלית תקנית. וחוץ מזה, לכל פועל מצטרפת המילה to, שזו טעות סגנון העולה החדש (אני לקרוא, אני לדבר וכו') ומילים מסוימות עלולות להזכיר יותר סגנון שייקספירי מאשר מוזיקה יחסית עכשווית. שלא לדבר על כך שהחרוזים נהרסו לגמרי.
למה זה קורה? ובכן, הסיבה הפשוטה היא שמערכת התרגום של גוגל אינה אינטיליגנטית, פשוט מאוד. יש לה חוקים שאומרים לה לתרגם מילים מסוימות למילים אחרות, אך היא לא מבינה כלום. אילו היינו משכללים עוד ועוד את החוקים שלה, מכניסים לתוכה בעצם כל אפשרות שקיימת של טקסט, אז היא הייתה מסוגלת לתרגם באופן מושלם, אך היא עדיין לא הייתה מבינה כלום. נוסף לכך, להכניס לתוכה כל כך הרבה חוקים היא משימה כה קשה, עד שייתכן כי כל חייהם של כל איש, אישה, ילד וילדה שהיו קיימים אי פעם מחוברים יחדיו לא יספיקו למשימה זאת, עד כדי כך מורכבת השפה שלנו.
אז למה אנחנו מצליחים להבין אותה? כי אנחנו אינטיליגנטים, אנחנו מסוגלים להבין את ההקשר לשאר המילים, את הצירופים, את המשמעויות השונות, מה שמערכת כגון מחשב לעולם לא תוכל לעשות.
data_headfunny
ולבסוף, השאלה החשובה של החדר הסיני. האם מכונה יכולה באמת לחשוב? האם דאטה הוא יצור אינטליגנטי? האם הוא חושב ומבין או האם פשוט כמו האיש בחדר הסיני יש לו ספר חוקים שהוא מציית לו?
ניתן לצפות שהרבה ממעריצי "מסע בין כוכבים" הרבים יתקוממו על שאלה זאת. הרי ברור שדאטה הוא יצור אינטליגנטי, וזה הוכח כל כך הרבה פעמים, ניקח דוגמא מהפרק The measure of a man, בו נערך משפט בנושא היות דאטה רכוש של סטארפליט או לא, איך ניתן להסביר את החפצים האישיים שלו? את התמונה של טאשה יאר, הספר מתנת יום ההולדת מפיקארד, המדליות שלו מסטארפליט?
ובכן, מסתבר שאפילו פרק חזק כמו זה יכול להיסתר בהנחה הפשוטה של ניסוי החדר הסיני. דוקטור נוניין סונג בוודאי צפה בעיות של דאטה בחברה האנושית, וכיוון שהוא לא רצה שדאטה יהפוך רכוש של אף אחד, הוא בנה בתכנות שלו את השורה שאומרת את הפקודות הבאות: "נסה לאסוף כל מיני פריטים אשר לפי קבצי המידע שלך יהיו חשובים לבני אדם, העדפות על מתנות שניתנו לך באירועים מיוחדים על ידי אנשים הקרובים אליך יותר ותמונות של אנשים שהיו קרובים אליך בעבר וכעת הם לא נמצאים בסביבתך הקרובה."
ייתכן מאוד שדוקטור סונג הכניס את השורה הזאת כדי לגרום לחבריו של דאטה לחשוב שהוא יותר אנושי ממה שהוא באמת. ייתכן שגם מערכות היחסים שלו עם הדמויות אינן אמיתיות, כל מטרתן היא להשתלב בחברה האנושית כדי לא להפוך לכלי של אף אחד. ייתכן שאפילו רצון זה אינו אמיתי, אלא תוכנת על ידי דוקטור סונג.
הרי, אנחנו יכולים לראות דוגמא לתכנות הזה בפרק In Theory מהעונה הרביעית, כאשר דאטה נכנס למערכת יחסים אינטימית (נו… אהבה, כמה שאנדרואיד יכול להיות מאוהב) עם אחת מצוות החללית. היא מגיעה לחדרו כדי לתת לו במתנה פסל, הוא מודה לה על המתנה ואז מתחיל להתלבט, רוב הסצינה מורכבת מדאטה שהולך בחדרו הלוך וחזור ומדבר אל אהובתו לכאורה, אך יותר אל עצמו. הוא רוצה לשים אותו במקום הכי טוב מבחינת אור, אבל זה בפינת החדר, אז הוא חושב לשים את זה במרכז השולחן שלו, אולי זה לא תופס את האור הכי טוב, אבל זה יסמל חשיבות רגשית גבוהה יותר.
מאוחר יותר בפרק הוא מאמץ קול חלקלק ואדיב, מתנהג אל חברתו בנימוס מוגזם, זה נראה לה מוזר ומתפתחת מריבה, היא צועקת עליו משהו, והוא בתגובה משנה את פניו למבט כועס וצועק עליה איזה משהו מוזר בחזרה. חברתו, מצידה, לא מבינה מה קרה, היא שואלת אותו, הוא חוזר לקולו הרגיל ומסביר לה שהמשפט הזה הוא המשפט הקלאסי לענות למה שהיא אמרה באמצע מריבת אוהבים.

data_theory

הדרך היחידה להיות בטוח היא לבדוק כיצד המוח של דאטה באמת עובד. האם הוא עובד כמו תוכנות הדיבור של היום, שיש להן תשובות מוכנות ומסודרות לשאלות שונות, או שהוא באמת מבין.
"הדור הבא" אינה מספקת לנו ראיה אל תוך הפרטים הטכניים של מוחו של דאטה, ככל הנראה כי זאת סדרת מד"ב טלוויזיונית ולא פרוייקט מדעי. בינתיים אנחנו יכולים להסתפק בתשובה שהכנסת כל כך הרבה מידע וכל כך הרבה תשובות מוכנות לדאטה ייקח יותר מדי זמן ועבודה, ולכן להניח שהוא אכן יצור אינטליגנטי שמבין וחושב, ובכך לסתור את ניסוי החדר הסיני.

התנגדויות רבות עלו לניסוי המחשבה הזה, הבולטת ביותר ביניהן הייתה העובדה שגם מוח האדם מורכב בסך הכל מנוירונים, חלקיקים קטנים, שמסוגלים להבדיל בין שני מצבים, ירייה ואי ירייה, ממש כמו מתגי המחשב עם האפס ואחד. רק שלנו יש יותר נוירונים ויותר קשרים ביניהם.
אז האם זה הפתרון? האם בעתיד, כאשר נאפשר למחשב יותר מתגים ואפשרות להרבה יותר קשרים ביניהם, האם הוא יהפוך ליצור חושב? או האם יש בנו משהו מיוחד, האם יש משהו ייחודי בנוירונים שלנו שמאפשר לנו את המחשבה ולא למחשב? שאלה זאת הביאה לשאלה הרבה יותר פילוסופית, שנוגעת בטבע האדם עצמו.

שאלת הגוף והנפש
שאלת הגוף והנפש נבעה מהניסיונות ליצירת בינה מלאכותית אנושית, כאמור, בינה מלאכותית המנסה לחקות את אופן פעולתו של המוח שלנו. קבוצה של מדענים צצה וטענה שאיננו יכולים כרגע ליצור בינה מלאכותית אנושית. את הטענה הזאת הם מסיקים מהנחה הגיונית ופשוטה שכדי לחקות דבר עלינו להכירו לכל פרטיו, והרי איננו מכירים את המוח לכל פרטיו. מה הלב עושה אנחנו יודעים מזמן, כיצד מערכת העיכול פועלת כבר לא מהווה חידוש לאף מדען מכובד, ואפילו פיצחנו לאחרונה את סוד הגנום, שאפשר לנו להבין כיצד פועלים המאפיינים של כל אדם. אך המוח נשאר תעלומה בפנינו. אומנם גילינו עליו דברים רבים במשך השנים, אך חלקים רבים מספור שלו עדיין לוטים בערפל, יש לנו ניחושים טובים למדי אך איננו יכולים לדעת דבר לאשורו.
קבוצת המדענים הנ"ל טוענת שאיננו יכולים ליצור מוח מלאכותי כיוון שאפילו איננו יודעים לחלוטין כיצד פועל מוחנו שלנו. מצד שני קמה נגדם קבוצה שטוענת שאפילו אם איננו יודעים את הכל, יש לנו מספיק מידע: רעיון רשתות הנוירונים נראה מבטיח והגיוני, ולא סביר שיתגלה משהו שישפיע על רעיון הבינה המלאכותית במיוחד.
הויכוח בין שתי הקבוצות הוביל את המדענים בעלי הצד היותר פילוסופי להעלות שאלה ישנה נושנה, שמקבלת פן חדש לאור התקדמות הבינה המלאכותית: מהי הנפש?
זו שאלה שדנו בה אנשים רבים מאז תחילת מדע הפילוסופיה, האם בני אדם הם פשוט מכונה מתוחכמת מאוד? או האם יש לנו נפש? משהו אחר מלבד חלקים שזזים, משהו שמחובר אלינו בדרך כלשהי. מהו טיבה של הנפש הזאת? היכן היא נגמרת והגוף המכני מתחיל? האם כאשר אנו מתים נשמתנו נשארת בחיים? עד כמה היא באמת מחוברת אלינו?
שאלות אלו, שנראות כפילוסופיה טהורה, הן למעשה גורליות מאוד לצד הטכני של בינה מלאכותית. אם יש נפש, הרי שלא נצליח ליצור כרגע יצור דמוי בן אדם, כיוון שאיננו יודעים מה היא וכיצד היא מורכבת, אם אין נשמה סימן שאנחנו יצורים שבבסיסם הם כמו מחשבים – מזיזים סמלים, מצייתים לחוקים, מכונות. במה שונים אנו מהאנדרואיד דאטה?
מדענים רבים ממהרים לנקוט עמדה, חלקם טוענים שאנחנו מכונות, והכנת מכונה שתהיה בנויה כמונו תוכל לחקות בדיוק את אופן פעולתנו; אחרים אומרים שהנפש מחוברת אל בן האדם, נפש שלא תהיה לאנדרואיד; קבוצה מסוימת אפילו טוענת שהנפש למעשה כבר בידינו, בתוך הנוירונים המלאכותיים שאנחנו יוצרים בשביל הרשתות, רק בצורה שאין אנו יכולים לראותה.
שאלת הגוף והנפש, שאלפי דיונים נערכו בה מאז תחילת מדע הפילוסופיה עודנה/נשארת בלתי מוכרעת. הכרעתה לכאן או לכאן תשפיע באופן גורלי ביותר לא רק על בינה מלאכותית, אלא גם על כל הפילוסופיה, על שאלת קיומנו, על אמונותינו ודרך חיינו ותשנה אותם ללא הכר.

lal_teaching

כפי שנאמר, בפרק The Offspring לאל מקבלת נפש בלי שום סיבה נראית לעין. אפילו אם הם לא ידעו מה בדיוק תהיה ההשלכה של הפרק הזה על העתיד שלנו לפי הסדרה, כותבי התסריט עשו צעד משמעותי וגיבשו את העמדה של "הדור הבא" בנוגע לשאלת הגוף והנפש.
אם לאל היא בעצם בסך הכל מוח פוזיטרוני מרשתות נוירונים, כמו דאטה, אז איך היא קיבלה נפש? נראה פה כי הנפש מחוברת לגוף, נמצאת שם, בתוך הנוירונים המלאכותיים במוחה של לאל. יש נפש והיא מחוברת לגוף, אם נייצר מוח מלאכותי נייצר גם נפש מלאכותית בו זמנית. הבעיה היא רק למצוא איפה הנפש נגמרת ואיפה הגוף מתחיל.
מצד שני, מה עם דאטה? יש לו מוח מלאכותי, אבל אין לו נפש, האומנם? או האם יש לו נפש, רק ברמה יותר נמוכה? דאטה ממשיך להגיד שלא, אבל כבר ראינו אותו כמה פעמים, בייחוד בפרק A Measure of a Man מהעונה השניה, מביע מה שיכול להיחשב רגשות, שאינם ניתנים להסבר בשום דרך אנדרואידית.
מהבחינה הזאת "הדור הבא" מציגה צורה מעט פסימית של ההתקדמות בשאלה הזאת. אפילו דאטה לא מצליח להבין מה היה שונה בין המוח שלו למוח של לאל, שאותו הוא העתיק מעצמו בדיוק אנדרואידי מושלם.
בפרק Brothers, מהעונה הרביעית, לעומת זאת, דוקטור נוניין סונג מציג את הנפש בפנינו, כג'וק. ג'וק מחשב, אולי לא דומה לאלה שיש לנו כיום, אבל הרעיון הבסיסי זהה. כדור קטנטן שמכניסים אל תוך מוח האנדרואיד, שלפתע מעניק לו נפש ורגשות. וראינו מה קרה לאנדרואיד לור, אחיו של דאטה, בעל הרגשות, שבגלל הרגשות שלו הפך אחד מהיצורים המסוכנים ביותר שהצוות נתקל בו, וגם אחד מהבודדים והמסכנים במיוחד, אז אולי בעצם זה טוב שלא יהיו לדאטה רגשות?

lore_smile

אין ספק שהנפש הרבה יותר מסובכת מחלקיק קטן, ושכנראה מי שרוצה ליצור נפש למכונה יתקל בבעיות רבות.
אולי, כפי שהסדרה אומרת, אפילו בזמנים מתקדמים כאלה לא נצליח לפתור את הבעיות החשובות האלה. ניתן גם לראות שלא מופיעים בסדרה הרבה פילוסופים, אלא יותר מדענים ומתכנתים. אך ההתקדמות בנושא זה אינה קשורה כמעט למחקר טכני, אלא למחקר נפשי ומחשבתי על סוד קיומנו אנו.

ומה בעתיד?
מה יקרה בעתיד? כיצד יתקדם מדע הבינה המלאכותית?
"מסע בין כוכבים – הדור הבא" גם היא נוקטת עמדה בנושא. שלא כמו תוכניות בהן מככבים רובוטים אנושיים, כגון "בטלסטאר גלקטיקה", אשר לוקחות את עניין הבינה המלאכותית כמובן מאליו, "הדור הבא" מציגה בפנינו עמדה שנפרשת על כל הבעיות המדעיות, הפילוסופיות והאתיות שמוצגות בבינה מלאכותית, ומציגה לכל אחת מהן תשובה כיצד יתקדם העניין במאה העשרים וארבע.
כפי שניתן לראות בפרקים רבים בהם דאטה מככב כדמות ראשית, כגוןThe Measure of a Man מהעונה השניה ו-The Offspring מהעונה השלישית, האנושות לא התקדמה הרבה מבחינת הבעיות האתיות של בינה מלאכותית. בפרקים הנ"ל רוב הדמויות מלבד חבריו בצוות מתייחסים אליו כאל מכונה חסרת זכויות ורצונות, מה שלבסוף מוכח כבלתי נכון, אך עדיין ממשיך להופיע שוב ושוב.
אך כאמור, מטרת המאמר היא לבחון את ההתקדמות הטכנולוגית, שבאה, כפי שכבר ראינו יחד עם ההתקדמות הפילוסופית. בהחלט ניתן לראות שהרבה מהמדעים האלה התקדמו לפי "הדור הבא".

חזון דאטה?
למרות מה שאסימוב גורס בעזרת מדע הפסיכו-היסטוריה (חיזוי עתיד בעזרת חישוב גורמים סטטיסטיים והתנהגות פסיכולוגית של אנשים), לא תמיד אפשר לדעת בדיוק מה יקרה בעתיד. ייתכן שדברים שחלמו שיקרו במאה ה-24, ב"הדור הבא", יקרו עוד מאה שנה בלבד או אפילו פחות.
ההתקדמות האיטית אך מעניינת בתחום המחשב הקוונטי, שיהיה חזק פי עשרות, מאות ואלפי מונים ממחשב העל הכי חזק שקיים כיום, לא מספיקה כדי לפתח יותר מדי תקוות, אך מספיקה כדי להצית את הדמיון לעשרות אלפי מדענים בכל רחבי העולם.
אתר וואלה כבר פרסם על אישה אנדרואידית בשם ריפלי Q1 שמסוגלת לנוע בצורה חלקה, לעשות הבעות פנים, למצמץ ולהיראות כאילו היא נושמת.
רעיון הסינגולריות, שכבר מתפשט לאט לאט בקהילה של מדענים וסופרי מד"ב, גורס כי בעוד פחות ממאה שנה בלבד האנושות תעשה קפיצה אדירה ברמת הטכנולוגיה שממנה אין דרך לדעת לאן נגיע, אולי אפילו לכוחות אלוהיים כמו של Q, שמופיע בערך אחת לעונה ב"הדור הבא".
אין לדעת לאן נלך, אין לדעת כיצד הדברים יתקדמו, אין לדעת מה צופן בחובו העתיד. דיבור, משחקים חכמים, אלגוריתמים גנטיים, רשתות נוירונים, כיצד בכלל תיראה התפתחותם לאורך השנים? האם ייתכן שפריצת הדרך הגדולה היא ממש מעבר לפינה?
אנחנו יכולים מקסימום לנחש, אין לנו דרך לדעת, וכל שנשאר לנו לעשות הוא לחשוב, להתפתח, להתקדם, ולחכות לדאטה.

מודעות פרסומת

מחשבה אחת על “חזון דאטה – חלק ב' – מאת מנצלשבך דלגשון

  1. פינגבק: חזון דאטה – חלק א' – מאת מנצלשבך דלגשון (רוני גורן) | סטארבייס972

מוזמנות ומוזמנים להגיב:

הזינו את פרטיכם בטופס, או לחצו על אחד מהאייקונים כדי להשתמש בחשבון קיים:

הלוגו של WordPress.com

אתה מגיב באמצעות חשבון WordPress.com שלך. לצאת מהמערכת / לשנות )

תמונת Twitter

אתה מגיב באמצעות חשבון Twitter שלך. לצאת מהמערכת / לשנות )

תמונת Facebook

אתה מגיב באמצעות חשבון Facebook שלך. לצאת מהמערכת / לשנות )

תמונת גוגל פלוס

אתה מגיב באמצעות חשבון Google+ שלך. לצאת מהמערכת / לשנות )

מתחבר ל-%s