יומיות 04.12.2020: האם אנו חיים בסימולצית מחשב?

זרקו אותי היום מ-4 מאפיות!  למה? כי רציתי לקנות לחמניות בשעה 11:15. לא לא, זאת אינה אנטישמיות, אלא עוד אחד מנהלי הקורונה.

פולין מנסה להגן על קבוצת הסיכון לקורונה. למרות שיש הרבה אנשים בקבוצה הזאת, מחלות ריאות, כליות, כבד או אנשים מבוגרים, התקנות מגינות רק על הקבוצה שקל לזהות ויזואלית. כלומר, אנשים מבוגרים.

כדרכן של חוקים, התקנות כלליות מדי. השתיים העיקריות אומרות ככה:
– אסור לפנסיונרים לצאת מהבית, אלא אם כן זה לקניות,
– הכניסה לחנויות בין 10 ל-12 מותרת לפנסיונרים בלבד.

טוב, אמרו זקני פולין, אם מותר לצאת רק לקניות, אז לקניות נצא! שווקי וורשה התמלאו לחלוטין בפנסיונרים שקונים מצאת החמה עד צאת הנשמה.

הם מגיעים בבוקר, קונים עגבניה, קונים כוס תה, עומדים, שותים, מדברים, יושבים, מדברים, שותים, קונים חתיכת עוגה, אוכלים, קונים מלפפון, מדברים, וככה בעצם יוצרים לעצמם מועדון פנסיונרים ברווח הקטן שההוראות התירו להן.

התקנה של "אל תצאו אף פעם מהבית" דרקונית מדי, והיה ברור שאנשים יפרו אותה. אבל מה לגבי התקנה השניה, "רק לפנסיונרים  מותר לעשות קניות בין 10 ל-12"?

היא דווקא נשמעת הגיונית, נכון? יכול להיות שהיא באמת עקרונית הגיונית. אבל פה מגיעה הכלליות הרחבה מדי של חוקים. כי במקום בו אני נמצא, שיכון לזוגות צעירים, אין הגיון בתקנה.

אין פנסיונרים פה בשכונה. אין. מה שכן יש זה שלל חנויות במצב כלכלי קשה, שעומדות, מכורח החוק, ריקות לחלוטין בין 10 ל-12 ונאלצות לדחות לקוחות פוטנציאליים כמוני.

זה לא נסיון לצחוק על ממשלת פולין, תקנות לאומיות מטבען הן תמיד כלליות מדי. בלתי אפשרי לממשלה אחת לחשוב על סוגי השכונות שקיימות בפולין.

זה כן נסיון להצביע על בעיתיות בהחלטות שלטון מרכזי כשזה מגיע למקומות קטנים.

1. דבר מעניין קרה באוקטובר. לפתע המון מקורות החלו לדון בשאלה, "האם אנחנו חיים בסימולציה ממוחשבת?"

גיזמודו דיברו על זה, ופה Scientific American, וגם בוינגבוינג ואפילו ילדים בני 9. כל זה תוך חודש.

הטריגר לזה היה מאמר אקדמאי על הנושא מאת האסטרונום דיוויד קיפלינג. לא התכוונתי להתעניין בו, אבל אז סקוט אהרונסון, אחד האנשים שאני הכי נהנה לקרוא ולשמוע בימים אלו, דיבר על כך בראיון (דקה 3:31).

התיאוריה שהמציאות שלנו "לא אמיתית" מגיעה מהסרט מטריקס, ב-1999. בעצם, לא לא, היא מגיעה מחלום הפרפר של ג'ואנג דזה (המאה הרביעית לפנה"ס), או אולי בעצם ממשל המערה של אפלטון (המאה החמישית לפנה"ס)?

אבל לעניינם של הרבה אינטלקטואליים, הרעיון בעצם מגיע מאמר של ניק בוסטרום מ-2003.

על ניק בוסטרום שמעתי לפני כמה שנים, כשחבר טוב המליץ בחום על ספרו, Superintelligence. הספר הזה שיכנע את החבר שאוטוטו תקום בינה מלאכותית רבת עוצמה שתשלוט על האנושות, ולכן זמן בני האנוש פה הוא שנים ספורות לכל היותר.

אחרי שלושה פרקים נשברתי ולא הצלחתי לסיים את הספר. יש לי השגות על הלוגיקה של בוסטרום בכל פיסקה ופיסקה. בוסטרום ואני הן שתי רכבות שנוסעות לכיוונים שונים.

(יש הרבה מעריצים של בוסטרום, הוא נחשב לאחד החושבים הגדולים בימינו, ואנשים חכמים ממני המליצו על הספר שלו  אז אל תעלבו, אבל אני פשוט לא חושב כמוהו)

המאמר של בוסטרום מ-2003 טוען שיש סיכוי שאנחנו חיים בסימולציה ממוחשבת, והמאמר של קיפלינג מהשנה, משתמש בתיאוריה המתמטית של הסתברות בייסיאנית כדי לטעון שיש פחות מ-50% שאנחנו חיים בסימולציה ממוחשבת.

בגדול, שני המאמרים נראים לי זהים למאמרים על קיומו של אלוהים שקראתי בתיכון. רק שיותר טרנדי לאמר "סימולציה ממוחשבת" מאשר "כוח עליון", ולהשתמש ב"הסתברות בייסיאנית" מאשר בטיעונים לוגיים קלאסיים. מעבר לכך יש פה לגמרי אותה הגברת בשינוי אדרת. זה ויכוח ישן שמתורגם לשפה מודרנית.

הבעיה היא שבאף אחד מהמאמרים לא מצאתי הגדרות מדויקות לגבי מה זה אומר "לחיות בסימולציה ממוחשבת". הם מדברים על מודע בלי לאמר מה זה "מודע" ((conscious). ליתר דיוק: המאמרים *כן* מנסים לאמר, בכמה שורות, מה המשמעות של הדברים האלה, אבל התיאורים שלהם *עמומים ולא מדויקים*. אי אפשר לקחת אובייקט אמיתי ולבדוק אותו ע"פ ההגדרות שלהם.

חלק גדול מהטענות במאמרים הן מהסוג הבא: "אם אי פעם האנושות תיצור חיים מודעים בתוך סימולצית מחשב אז יקרה ככה וככה". אבל מה הערך בטיעון לוגי מדויק אם לא ברור במדויק מה זה "חיים מודעים" ומהי "סימולציית מחשב"?

חברים שעוסקים בבינה מלאכותית אמרו לי פעם ש"בינה היא משהו שצריך למשימות שמחשב טרם הצליח לבצע".

לדוגמא, קודם אנשים אמרו ש"צריך להיות יצור נבון כדי לנהוג באוטו", אבל עכשיו, כשזה הפך למשהו שמחשב יכול לעשות, אומרים, "לנהוג באוטו זאת בעצם משימה טכנית! לא צריך בשבילה בינה!". זאת מלכודת שלא מאפשרת לייצר מחשב שיתקבל בתור בינה מלאכותית.

במילים אחרות, איך אפשר לייצר בינה מלאכותית, בלי לדעת קודם מה זה "בינה"? ואיך אפשר לדבר על סימולציה ממוחשבת של ייצורים מודעים, בלי לדעת קודם מה זה "סימולציה ממוחשבת של המציאות" ומהי "מודעות"?

בבינה מלאכותית ניסו להתמודד עם זה בשתי דרכים. דרך אחת היא מה שתיארתי קודם, לוקחים משימה שחושבים שצריך תבונה בשבילה, ומנסים לגרום למחשב לעשות אותה. הדרך הזאת כאמור בעייתית.

הדרך השניה היא "מבחן טיורינג" המפורסם.  טיורינג באמת ניסה לענות על השאלה "האם מכונה יכולה לחשוב", בלי להגדיר מה זה "לחשוב" ומה היא "תבונה".

מבחן טיורינג הולך ככה: נותנים לאדם לדבר עם שתי יישויות, אחת אנושית תבונתית, והשנייה מכונה. אם האדם לא מצליח לאמר מי היא מי, אז המכונה עברה את מבחן טיורינג.

זאת גישה שמנסה לגלות תבונה, בלי להגדיר מהי תבונה. כלומר, יש אובייקט אחד (אדם אנושי) שאני יודע שהוא נבון. אם אני לא מצליח להבדיל בין האובייקט הזה לבין מכונה, אז הרי שגם המכונה נבונה. כלומר, לא משנה אם המכונה נבונה באמת או לא, מה שמשנה זה שהיא נראית לי נבונה.

לאורך השנים התברר שיש בעיה במבחן הזה. כי כשאתם מדברים עם אנשים אחרים, שאתם מניחים שהם תבונתיים, אתם נותנים להם "הנחות", גם אם הם אומרים משהו לא תבונתי. אולי האדם בצד השני עולה חדש? אולי הוא לומד את השפה? אולי יש לו מגבלה כלשהי? אולי הוא מסוממים? עייף? ברגע שהנחתם שהצד השני תבוני, תקבלו כמעט את כל מה שהוא אומר בתור אמירה תבונית.

אישית, אני לא יודע איך מגדירים "תבונה","תודעה" או "מציאות שהיא בעצם סימולצית מחשב". אבל אני כן יודע שיש בעיתיות במאמרים פילוסופיים על הנושאים האלה, שאומרים דברים על אובייקטים שהם לא מבינים בעצמם.

2. הכריכה של הגליון האחרון של הניו יורקר תופסת בצורה מושלמת את הרוח של שנת 2020.

3. ג'ורג' מרטין ממליץ על שני סופרים שגורמים לו להישאר ער עד אור הבוקר.

הראשון הוא ברנרד קורנוול, מחבר רומנים היסטוריים ולא פנטזיה. מרטין ממליץ פחות או יותר על כל הביביליוגרפיה שלו, אם כי בעיקר על הספרים הסקסוניים.

ההמלצה השניה היא על The City of Brass של ס.א. צ’קרבורטה [ביקורת]. אני אישית פחות עפתי על הספר, אבל כדי לתת עדות שמרטין הוא לא היחיד שהשתגע עליו, הנה שתי פסקאות הפתיחה בביקורת שלי עליו:

"ב-Paste Magazine פירסמו רשימה של 50 ספרי הפנטזיה הטובים ביותר במאה ה-21 (בינתיים). תשעת המקומות הראשונים הכילו ספרים פצצה אחד-אחד. והנה, פתאום במקום ה-10 היה שלא הכרתי: The City of Brass.

העורכים טענו שלמרות שזה הספר הכי חדש ברשימה, הוא כבר קנה מקום בליבם בתור אחד מספרי הפנטזיה הטובים ביותר שהם קראו אי פעם."

4. צפריר גרוסמן כותב:

"כפי שאתם בוודאי יודעים, אז לפטריק רותפס יש ארגון צדקה בשם Worldbuilders והוא משקיע את כל כולו בארגון הזה. אתמול הוא עשה סטרים של 14 שעות ברצף (!!) שבו הוא דיבר עם חברים שתרמו דברים, וגם עשה הפסקה קלה כדי לענות על שאלות בנוגע לכתיבה ולספר השלישי. אז למי שרוצה לדעת, אלו המסקנות החדשות על הספר"

את המסקנות תמצאו פה. יש המון מהן. זאת קריאה חובה למעריצי רותפס.

5. טבלת סרטוני האנימציה האינדי הכי פופולריים ביוטיוב. וואי וואי, כמה דברים טובים לראות יש שם.

6. הנה סרטון אנימציה אינדי ישראלי שלא יכנס לטבלה, כי יש לו רק 7000 צפיות. אממה, הוא מדהים לגמרי ושווה צפייה לדוברי העברית.

אגב, כל הערוץ של פוציםפוצים הוא כזה, ואתם אפילו יכולים לקנות את האלבום לילדים שלכם.

7. אפילו האפיפיור מחשיב עצמו כיום כמומחה לבינה מלאכותית. הברכה החודשים שלו לנובמבר 2020 הייתה:

" We pray that the progress of robotics and artificial intelligence may always serve humankind."