אני משתדל לשמור על אופטימיות בנוגע לעתיד.
לא בהכרח כלפי העתיד האישי שלי אלא כלפי העתיד של המין האנושי כולו.
עקב הטרנדים האחרונים בהוליווד, הועלו חששות כלפי עתידיים אפשריים של העולם (כגון השתלטות בינה-מלאכותית על בני האדם והכחדתם או חורבן הציוויליזציה על ידי מלחמה גרעינית) אך אף לא אחד מהם מבוסס או סביר במיוחד ונדמה שיותר ויותר מדענים שוכחים שאקסטרפולציה בהיעדר ראיות מספקות מניבה מגמות שאולי תואמות את האינטואיציה שלנו אך לא את העולם בפרט והמציאות בכלל כפי שהם באמת.
אבל בתוך כל האופטימיות הזאת והאמונה כי בני אדם יכולים לפתור כל בעיה אם ישקיעו את המשאבים הקוגניטיביים (והכלכליים) שלהם ב-נ"ל עדיין ישנן מהמורות לא פשוטות בכלל המטרידות אותי ואם לא נזהר כעת הן עלולות לעצב את החברה שלנו לכיוונים שאינם-פרודוקטיביים על אף שהם עשויים להדמות לכאלו למראית עין. מה הם?
כמה מילים על "טוב","רע" והונוריפיקציה
בהינתן הסבר כלשהו חלה חובת שכנוע מיוחדת על נותן ההסבר לנמק מדוע דווקא לרעיון ספציפי מגיעה התווית "טוב" או "רע". הבעיה היא שהתוויות האלו הן תוצר של הליך של הונוריפיקציה בו אנו מעניקים לרעיון מסוים ערך אך כפי שכולנו יודעים מההתנסות היומיומית עם אנשים שלא מסכימים איתנו על זה שלמשל עגבניות טעימות (דהיינו, בעלות ערך חיובי בהתייחסות לפוטנציאל/תדירות אכילתן), אותו "ערך הונוריפיקטיבי" הוא אינדקסיקלי ותלוי במצב המדובר (בדוגמא שלנו, ההעדפות של הדובר) כלומר- עבור דובר מסוים המשפט "עגבניות טעימות" הוא נכון (אמיתי) ועבור אחר הוא אינו-נכון (שקרי). למעשה, בדרך כלל כאשר אנו אומרים ביום-יום על אובייקט כלשהו "זה טוב" אנו מתכוונים ל-"כך הייתי מעדיף שדברים יהיו".
אם ערך הוא סובייקטיבי ותלוי העדפות (למשל), איזה מן הסבר משכנע נוכל לתת שלא מסתכם בהונוריפיקציה (שלילית או חיובית) של מושגים מסויימים? התשובה היא כדאיות. ההסבר שנרצה לשאוף אליו (וכזה שנוכל לומר כי הוא משכנע או לא מבלי להתחשב ב-האם ההעדפות האישיות שלנו ומנגנוני הענקת הערך שלנו תואמים את אלו של המסביר/המשכנע) הוא כזה הנותן לנו את הכדאיות הרבה ביותר, זה שאילו נתייחס למסקנותיו כאל אמיתיות התנהגותנו תניב עבורנו ערך עתידי רב יותר מאשר אם נתייחס למסקנותיו כאל לא-אמיתיות למשל ציות לחוק; החוק מנוסח בצורה קזואיסטית, הוא מכתיב תגובות למעשים בצורה של "אם X אז Y" (כאשר Y בעל כדאיות מאד נמוכה כמו זמן שהייה בכלא או קנס כספי) ולא בצורה אבסולוטית כמו "לא תרצח" המניח כי למעשה ערך שלילי (ולכן אסור) באופן אינהרנטי במנותק מהמבצע. היתרון של הניסוח הקזואיסטי הוא בכך שהוא אינו כופה (בדר"כ) נקודות מוצא המשוחדות קונספטואלית לצד זה או אחר, האדם חופשי לבחור לבצע את הפשע אם זה מה שהוא רוצה ומעדיף אך החברה, החוק ורשות האכיפה יגיבו בהתאם ולכן אם האדם רציונלי ימנע מביצוע הפשע לא כי הוא "רע" אלא כי הוא בעל כדאיות נמוכה מאד עבורו (גזילת זכויות וגזילת אובייקטים שהוא אישית כן מזהה בהם ערך ובכך האינטראקציות הכוללות שלו עם ערכים סובייקטיביים
עבורו קטנות משמעותית דבר שמהגדרה אינו מעדיף אחרת מראש לא היה מזהה בהם ערך אלא בדברים אחרים).
מה לכל זה ולענייננו? איני מתכוון לנסות לשכנע אתכם כי התרחישים האפשריים שאמנה כעת הם "רעים" אלא אתמקד (כפי שאני משתדל לעשות תמיד
בהסברים ובטיעונים שלי) בלהראות שהכדאיות שלהם נמוכה מאשר העתידים שאינם מכילים את אותם תרחישים ולכן רצוי שנעשה כל שביכולתנו כדי להימנע מהם.
טרנדים ועתידים לא-רצויים
1. שחמטיזציה- כחלק מהשימוש ההולך וגובר שלנו באינטרנט בכלל וברשתות חברתיות בפרט, צורת החשיבה שלנו מתעצבת בהתאם לממשק בו אנו עושים שימוש. ההתעסקות היומיומית באפליקציות כמו "וואטסאפ" או התדיינות בפורומים, "פייסבוק" וכדומה מחייבת אותנו באינטראקציה דרך הצורה בה יוצרי האתר או האפליקציה המדוברים תכנתו ועצבו את הממשק אך לרוב המוחץ של שירשורי התגובות מבנה אינהרנטי משותף- כולם סריאליים. הדיונים שלנו דרך הרשת הם סדרתיים וליניאריים בניגוד לשיחות ודיונים בזמן-אמת באופן של פנים-מול-פנים (ואף טלפוני) החשופות ל-"רעש" רב יותר, סדר ורצף השיחה מוגדרים בצורה פחות חד-משמעית ולא קיימת חלוקה בין "דובר" ל-"מקשיב". בחרתי בשם "שחמטיזציה" לתיאור הטרנד מאחר ובשיחות רבות שלי על העניין תיארתי את התופעה כחשיבת "תורך-תורי"; אדם אחד הוא *ה*-מגיב בכל רגע נתון והאחר הוא המחכה לתגובה, דבר שאינו קרוב ל-להיות כל-כך מובנה בשיחות בזמן-אמת בהן הניתוח של כיצד להגיב נעשה בו-זמנית לקליטת התגובה (ההאזנה) והדינמיקה פעמים רבות חופפת ומקבילית מה שלא אפשרי כאשר עיבוד המלל של המשתתף האחר בשיחה הוא על בסיס תגובה-תגובה (רק לאחר שהתגובה כבר נכתבה ונמצאת "out there" ולא רק במוחו של המתדיין יכול המתדיין השני לנתח אותה ולחשוב על תגובה הולמת. ישנו עיכוב בין הקלט לפלט). עתיד בו בני-אדם הם "שחמטואידים" והאינטראקציות ביניהם מתבצעות דרך מבני שיחה מהצורה "תורך-תורי" הוא אינו "רע", אין
משהו פסול באופן מהותי בהתנהלות סדרתית לעומת התנהלות מקבילית אך אני טוען שאם נבחן את הסיבה שהמוח מראש התפתח לפעול בצורה מקבילית נראה למה נתיב שייעדו הוא "אדם שחמטואידי" הוא בעייתי; המוח מתפקד כפי שהוא כי אלו הדרישות והלחצים שהופעלו עלינו במהלך האבולוציה שלנו כדי לשרוד. הסיבה שהייתה העדפה ברורה למוח-מקבילי לעומת מוח-סדרתי ("שחמטואידי") היא בדיוק הסיבה למה עדיין לא הצלחנו להפיק רובוט המסוגל ללכת על שתיים מבלי שמשב רוח יפיל אותו, כי המציאות כאוטית. אירועים מחוץ לתנאי-מעבדה הם מבולגנים, לא-צפויים וכאוטיים. דמיינו אדם קדמון המגיב למדורה בהתאם (נהנה מחום האש, צוחק מבדיחה של חבר) כשלפתע נמר קופץ משיח קרוב ובמקום לעבד את ההשלכות האסוציאטיביות של מפגש עם נמר (שיובילו אותו למסקנה המתבקשת של לברוח) אותו קדמוני יחכה לראות אם הנמר אכן יאכל אותו. ברוב המוחץ של המקרים התרחיש הבדיוני הזה היה נגמר רע מאד עבור הקדמוני ההיפותטי שלנו. מוח-מקבילי (כזה החושב על ההשלכות בזמן שהאירועים עוד מתרחשים, כזה השקוע בחלומות בהקיץ על אירועים היפותטיים בו"ז שהוא חי את הסיטואציות הקונקרטיות וכזה שלעיתים נתקף פרנויה ספונטנית) מותאם יותר באופן משמעותי להתמודד עם יקום עוין לצורות-חיים כמו זה שאנו חיים בו מאשר מוח-סדרתי המגיב רק לאחר מעשה. החשש
שלי משחמטיזציה הוא אותו חשש שניתן לסכם בו את כל התרחישים האחרים שאציג כאן והוא שנקלע למצב של מקסימום לוקאלי; הטרנדים יובילו אותנו לסגל התנהגות ומערכות אמונות שמהוות את הפתרון הטוב ביותר עבור נסיבות מאד צרות אך המחיר יהיה שנהיה פחות מוכנים לסיטואציות אפשריות בהקשר הרחב יותר. אם נדבר ספציפית על עתיד שחמטואידי, חשיבה סדרתית יכולה להיות מותאמת ביותר עבור ציוויליזציה ללא טורפים טבעיים המתקשרת באמצעות רשת מידע אך מאחר וטורפים טבעיים אינם הגורם העוין היחיד בהקשר רחב יותר (כל שאר היקום כמו אסטרואידים או סופר-נובות ואף תופעות טבע מסוכנות שאינן ביולוגיות כגון התפרצות הר-געש או רעידות-אדמה). ישנם סיכונים אפשריים שהתמודדות איתם אינה אפשרית ממקסימום לוקאלי (התפרצות מגיפה פתאומית) גם אם הוא כן אופטימלי עבור סיטואציות אחרות (לתקשר דרך "וואטסאפ" או "פייסבוק"). במקום לבנות רובוטים שיותר ויותר דומים לנו, אנחנו עלולים למצוא את עצמנו הופכים ליותר ויותר רובוטיים.
2. רובוטים סוג-ב' יקבלו התייחסות של רובוטים סוג-א' - שפה היא אחד הכלים החזקים ביותר שיש לנו. מילים נותנות לנו אפשרות להכליל ולדבר באופן סימבולי על תבניות, יחסים ורעיונות. הבעיה היא שכחלק מהנטייה שלנו להונוריפיקציה, אנחנו משליכים על אובייקטים שאנחנו מזהים בהם ערך מסוים ערכים אחרים הנתפסים
עבורנו בעלי טעם דומה וככל שהרעיון של ממשק "ידידותי למשתמש" הולך וצובר חשיבות, כך התדירות בה אנו עושים אנתרופומורפיזציה לאותם ממשקים עולה. כאשר תוכנה נטענת אנחנו אומרים על המחשב כי הוא "חושב" וגורמים בכירים מדברים על "סירי" במונחים של "הבנה". מבלי לשים לב, רעיונות של ביהביוריזם ו-פונקציונליזם חודרים יותר ויותר לתודעה החברתית שלנו דרך סרטים, ספרים, סדרות, אמרות של בעלי שם וכתרות בומבסטיות בעיתון. כששני אנשים (למשל) אוהבים הם מתנהגים בצורה מסויימת אז אולי אם מכשיר כלשהו יתנהג בצורה מספיק דומה (שבאופן אסוציאטיבי האנאלוגיה והקונטקסט "יקפצו" לכל אדם המכיר את
ההתנהגות המזוהה עם אהבה לראש) נוכל לומר כי אותו מכשיר אוהב גם הוא? הרי הקביעה של התווית "אהבה" על התנהגות ספציפית היא שרירותית ובאותה מידה יכולנו לייחס "אהבה" להתנהגות אחרת, לא? אז אולי אין זה מוצדק מצידנו לומר שאם המכשיר מתנהג בצורה שהיינו יכולים להחשיב אדם המתנהג כך כ-"אוהב" (גם אם היינו מרגישים שהוא מגושם במקצת ביישום ההתנהגות ביחס אלינו) הוא אינו אוהב "באמת"? אני רחוק מלחשוב או לטעון שבני-אדם אינם מכונות או אינם ניתנים
לשחזור, אך הבעיה בטיעון הכמו-ביהביוריסטי הזה נהיית ברורה כאשר בוחנים אותו מקרוב. נסתכל על המקרה של "סירי" ונכליל ממנו:
התוכנה "סירי" מתנהגת בצורה מספיק דומה ל-הבנה אנושית של שפה
-
לכן "סירי" מבינה שפה בצורה אנושית
או באופן כללי-
X* מתנהג בצורה מספיק דומה ל-X
-
לכן; X=*X
(לא אגע כעת בשאלה "מה מסמיך תופעה להיות 'מספיק דומה' למודל כלשהו בכדי להיחשב כתופעה עצמה שהמודל מתאר?" כי ניתן להתייחס לביטוי כרגע באופן אינטואיטיבי כפי שכבר הודגם קודם, בתור זיהוי אסוציאטיבי של האחד עם השני והדקויות אינן רלוונטיות לנקודה המרכזית שברצוני להעביר). נבחן את הטיעון עבור דוגמא שהיא אינה צורה מודרנית של בינה מלאכותית (כמו "סירי");
קורקינט מבצע פונקציה של נסיעה בצורה מספיק דומה ל-פורשה
-
לכן קורקינט זה פורשה
האבסורד נובע מכך שהרעיון שלנו של מה "מספיק דומה" משקף טיעון אפיסטמולוגי, הוא משקף את הידע שלנו בנוגע ל-מה התכונות ההכרחיות של איזשהו אובייקט אבל לא בהכרח מבטא אמת אונטולוגית של מה קיים בפועל. קורקינט ופורשה מבצעים בקירוב את אותה הפונקציה; תחבורה והובלה מנקודה A לנקודה B, אך אין זה אומר שהם זהים באופן איכותי או שהם זהים עבור כל קונטקסט. כך בדיוק שפה מאנישה כלפי מערכות מומחה כמו "כחול עמוק" או "ווטסון" היא לא מבוססת,
ישנן דרכים רבות לבצע את אותה פונקציה/פעולה או לתת לה קירוב (כמו למשל טבלת-זיכרון. דוגמא מעניינת מעולם המתמטיקה לשתי פונקציות בעלות תכונה זהה
שאינטואיטיבית נדמה כי היא ייחודית למרות שהפונקציות שונות היא זו של לוגריתם ו-"הלוגריתם השקרי") אך מתוך כל אותם יחסים בין קלט ל-פלט אולי יש בדיוק
דרך אחת לבנות בן-אדם או לבצע פונקציה/פעולה שהיא אנושית ולא כמו-אנושית (בדומה ללוגריתם-השקרי) וגם אם היפותטית קיימת יותר מאחת, מניין לנו כי דווקא הדרך בה אנו משתמשים בהווה היא אחת מהדרכים הנכונות? זו טענה חזקה במיוחד וניסיון להצדיק אותה ללא ראיות חזקות בהתאם יעלה בתוהו. אבל מדוע כדאי לנו להימנע מהאנשה של מכשירים ש-"רק" מחקים אנושיות? למה עתיד בו נתייחס למכונית אוטומטית ו-"סופר-ידידותית-למשתמש" כבעלת אישיות ואוטונומיה אך אם זאת נטולת עולם-פנימי הוא פחות כדאי מאשר עתיד בו החפצים ה-"חכמים" שלנו לא יקבלו יחס שכזה? התשובה טמונה באחת מהנחות היסוד שלנו בציוויליזציה נאורה (לא ישראל) והיא הומאניות; אם אדם זכאי לזכויות,יחס ותנאים מסויימים רק מעצם היותו אדם ומכשיר בעל פעולה מספיק דומה לפעולה אנושית הוא אדם אזי אותו מכשיר זכאי גם הוא לאותם תנאים, זכויות ויחס. חישבו כמה משאבים, זמן וכסף נוסף צריכים להיות מושקעים בלממש ולהגן על זכויות של חפצים "מספיק דומים". הדבר ישנה בצורה דרסטית את הגישות והשיקולים המוסריים שלנו- אם לכל אדם הזכות לחיים וחפץ כלשהו הוא "מספיק-אדם" אזי לאותו חפץ הזכות לחיים. נעשה כרגע הפרדה לפי הכותרת של נקודה זו;
רובוט סוג-א': מכשיר שאופן פעולתו מעניק לו אוטונומיה, אחריות ואינטראקציה אותנטית ומקורית באופן זהה או דומה (ב-"דומה" הכוונה זהה מבחינת סוג מאחר וככל הנראה לחוות את העולם ולשקול אופציות כמו טוסטר שונה איכותית מחוויה-אנושית גם אם חוויה זו אינה נחותה יותר בשום מובן. באנאלוגיה, ההבדל צריך במקסימום להיות כמו ההבדל בין כחול ל-ירוק ולא כמו בין 5 ל-3) לזה של בן-אדם.
רובוט סוג-ב': מכשיר שאופן פעולתו יכול תחת הקשרים ספציפיים להתלכד עם ו/או להיות בעל נקודות השקה לפעולות שכאשר תבוצענה ע"י בן-אדם הדבר יעיד על אוטונומיה/אחריות/אינטראקציה אותנטית/מקריות או שילוב של כמה מהנ"ל.
לרגע אחד אני לא טוען (למרות שאחרים בהחלט כן טענו זאת) כי רובוטים סוג-א' אינם אפשריים, יום יבוא ובהחלט נבנה רובוטים סוג-א' וכשזה יקרה הם בהחלט יהיו זכאים לכל אותם הזכויות שאדם זכאי להם אך החשש הוא שאם מגמת ההאנשה תמשך, נגיע (שוב) למקסימום לוקאלי ונכריז כי "מדע הרובוטיקה" הניב הצלחה מסחררת כשבפועל נקריב חיים ונשקיע זמן, משאבים ורוח בהגנה על דבר מה שלא יחזיר לנו את הטובה ולא ישרת אותנו בצורה שלא היה משרת אותנו בלאו הכי עקב טבעו הצר.
3. הכחדה אידיאולוגית - גנים הם לא הדבר היחיד החשוף לאבולוציה. אובייקטים שונים פועלים לפי תהליכים קוואזי-דרוויניסטים ומסתגלים בצורות שונות לסביבה שלהם וללחצים חיצוניים. למעשה, התהליך הוא כה מופשט שהאובייקטים הנתונים לתהליך דרוויניסטי יכולים להיות אבסטרקטיים לחלוטין ולא להיות קיימים
באופן גשמי. דוגמא בולטת היא ממים; בדיוק כפי שגן הוא יחידה דיסקרטית של מידע גנטי, כך באופן אנלוגי הממים מהווים יחידות דיסקרטיות של מידע תרבותי. דוגמאות לממים יציבים ומוכרים כמעט לכולם הם ה-א"ב, חודשי השנה ואופנה. אבולוציה ממטית היא מהירה בהרבה מזו הביולוגית, טבעם של ממים (רעיונות מופשטים) מאפשר להם להיות מופצים ולהיטמע בקלות ומהירות רבים יותר מגנים המצריכים הליכים של הבשלה מינית, חיזור, רביה ומלחמות הישרדות תמידיות כמו גם הקלות בה הם עוברים מוטציה ומניבים רעיונות הסוטים במקצת מזה המקורי. השילוב של התמצית המופשטת של ממים ושל רשת שיתוף מידע מהירה כמו האינטרנט יוצרים מצב בו יעילות רבייה ומוטציה ממטית מקבלים דחיפה עצומה הודות לחומרה המהירה והאמינה של הטכנולוגיה ומוביל ל-מה שאני רואה כאנלוגי לזה של "הפיצוץ הקמבריוני" בו צצו בבת-אחת צורות חיים רבות לפני כ-540 מיליון שנה. טבעם ה-"נוח" של ממים יחד עם יעילותה של החומרה הטכנולוגית בהפצתם וההתרחקות המגמתית מהדת מובילים לעוד ועוד רעיונות ותת-רעיונות וקליקות ותת-קליקות לצוץ בה אנשים מגבשים אידיאולוגיות יותר ויותר ספציפיות (בעבר, הדת שימשה את מוקד הענקת המשמעות הדומיננטי ונתנה את הטון המכריע בנוגע לאלו דברים הם "ראויים" ואלו לא. כעת משכוחה של הדת נחלש, המניע למצוא משמעות ולגלות אלו דברים הם "ראויים" גדול מתמיד כי ההרגשה של יקום אדיש,בודד ואקראי היא באופן מובן מדכאת). העניין הוא כזה, כל עוד אנו לא מיישמים שימוש בקדמה טכנולוגית רדיקלית כדי להרחיב את האופקים שלנו (ואף נהפוך הוא, אנחנו מפשטים את העולם ודוחסים אותו לתבניות בדידות כמו שדנתי בנושא של שחמטיזציה) כך החוויה האנושית הולכת ומתקבעת ללא הצלחה לסגור את הפער עם כמות המידע החדש שנוצר כל יום, כל דקה ואף כל שניה. הכישלון הזה לשנות את החוויה האנושית בקצב שתואם את השינוי בסטטוס המידע יחד עם רגיעה טבעית בכמות הקליקות והרעיונות החדשים שצצים כל רגע יוביל אותנו למצב שהחוויה תהיה "עבשה"; רעיונות מקוריים ויצירתיות הם תוצר של ג'וקסטפוזיציה ("סמיכות") בין יחידות-רעיון בסיסיות יותר והשוואה לצורך נתון, כזה המשקף את החוויה האנושית של ההוגה את הרעיון. אם חלל יחידות-הרעיון הבסיסיות ילך ויקטן כתוצאה מפחות ופחות רעיונות שאדם בודד יכול להספיק להיחשף אליהם (ו-משחמטיזציה) שכמובן וסטטיסטית הם יהיו אותם הרעיונות שבלאו הכי דומיננטיים (אלו בעלי ההעברה הטובה ביותר ושקל ביותר לשכנע את שומעיהם כי הרעיון הוא כזה שיש להאמין ולתמוך בו) אזי בהכרח ככל שיעבור הזמן כמות הפרמוטציות הייחודיות שניתן לעשות תגיע לגבול אך מאחר וחשיפה לרעיונות שונים מהרעיונות הנפוצים (הדומיננטיים) תהיה קשה ונדירה יותר, נעמוד בפני סיטואציה בה מאגר הרעיונות החדשים יאזל ונוכל לתאר זאת כ-"הכחדה אידיאולוגית". קבוצות
רחבות במיוחד של אנשים יתמכו באידיאולוגיות זהות (אלו שהיו הדומיננטיות ביותר) ויהיו "סגורים" בתוך קליקות אנשים בעלי אידיאולוגיות זהות שניתן לכנות
"סופר-כתות", תהליך שניתן לראות כבר עכשיו במה שמכונה "סייברבאלקיזציה". עתיד שכזה הוא כמובן אינו "רע", החברה האנושית חוותה מבני ציוויליזציה
שונים בהרבה מזו הקיימת היום אך היו תקינות לחלוטין בעיניי הסטנדרטים שהיו קיימים אז אך הוא אינו כדאי מאחר והוא מנוגד לרעיון של קדמה. יש לנו אינספור סיבות לפתח את הפוטנציאל האנושי, את היצירתיות שלנו ולהילחם על החיים שלנו (הדבר היחיד שנותן לנו אופציה להעניק ערך לאובייקטים) בסביבה עוינת. הכחדה אידיאולוגית וציוויליזציה הבנויה מסופר-כתות גם היא (כמו העתידיים האפשריים האחרים) מקסימום לוקאלי; לחיות בחברה שכזאת מותאם מאד כאשר ישנם רעיונות שהוכיחו עצמם להיות היעילים ביותר והקלים ביותר לתמיכה אך אין דבר המבטיח לנו כי הרעיון הקל ביותר להפצה הוא זה המכין אותנו להתמודדויות אפשריות העשויות לסכן אותנו ו/או להעניק לנו רווח ותועלת בהחלטות עתידיות.
סיכום
נגעתי בכמה תרחישים עתידיים המטרידים אותי.
הנבואות הפסימיות הספציפיות האלו מפחידות אותי בהרבה מאשר העלילה של סרטים כגון "המחסל" ו-"מקס הזועם" כי אנו רואה אותם קורמים עור וגידים כבר עכשיו ובמקום שבינה-מלאכותית או כוח פוליטי ישעבדו את כולנו, אנו משתעבדים מרצון לטכנולוגיה לא-תבונית ולרעיונות שמהותם היחידה היא להיות קלים להפצה. לא נגעתי ברעיונות כיצד להימנע מכל אחד מהעתידים הללו אך לא חסרים כאלו והם אינם מתחבאים בתובנות יוצאות דופן בנוגע לעולם, אני משוכנע כי כל אחד ואחת מכם ניחנו בתבונה ומקוריות שאינהרנטיים במוחות של כל בני-האדם בכדי לחפש בתוך עצמכם מה היא ההתנהגות הראויה שאנחנו צריכים לשקף לחברה ולהטיף לה בכדי שנגיע לעתיד הטוב ביותר שיכול להיות לנו; כזה שיהיה מקסימום גלובלי.