הסיפור המוזר של הוכחת בעית המילניום באישון הלילה

לא היה אח ורע במתמטיקה למה שקרה ב-48 השעות האחרונות. לפחות לא בזמן שאני בתחום, שזה עשרים שנה בערך. יכול להיות שדרמות דומות התרחשו כשפרלמן חשף את הוכחת בעית המילניום ב-3\2002 או כשאנדו ויילס פתר את המשפט האחרון של פרמה ב-5\1994, מי יודע? (כלומר, מישהו יודע, אבל לא אני).

הכותרת הייתה צריכה להיות שבעית המילניום של משוואות נאוויה סטוקס נפתרה. זאת לא הכותרת, בגלל שפתרון הבעיה הוא בערך הדבר האחרון שמעניין את הקהילה כרגע. כבר נראה למה.

בעית התנהגות הפתרונות של משוואות נאוויה סטוקס היא אחת משבע בעיות המילניום. הבעיות החשובות ביותר של מתמטיקה שמכון קליי זיהה בפתח המילניום הנוכחי. הבעיות האלה היו האתגרים הגדולים ביותר למין האנושי. פתרון של בעיה כזאת חייב לכלול רעיון או אבחנה גאוניים. משהו שיפתח תחום של של מחקר חדש; משהו שיקדם את האנושות עוד צעד קדימה.

בעית מילניום אחת נפתרה בתחילת המילניום ע"י גאורגי פרלמן (כתבתי על זה פה). בשנים האחרונות הייתה מין תחושה שהבעיה הבאה שתיפתר היא באמת משוואות נאוויה סטוקס. אני אומר את זה בגלל שהבעיה היא במקרה בתחום בו עשיתי דוקטורט, כך שהרבה יותר קל לי לעקוב אחרי התפתחות המחקר לאורך השנים.

[יצירת Fluids שמתאימה כי בעית המילניום היא בתחום דינמיקת נוזלים. נחלת הכלל]

מפה אני רוצה לחלק את הפוסט לשלושה חלקים שידונו בסיפור פתרון הבעיה בימים האחרונים. הראשון יהיה מנקודת המבט של שני חוקרים אנושיים שעבדו עליה. השני יהיה של ראש צוות ב-OpenAI שהוביל מאמץ לפתרון הבעיה. והשלישי? תגובות וסיכום ביניים על המתמטיקה בימינו.

באקמסטר ואלפוגי
לפני שנה, כמעט בדיוק, שלח לבנט אלפוגי הטורקי את ההודעה הבאה לטריסטן באקמסטר הבריטי:

אלפוגי שיתף שמסיבות אידיאולוגיות הוא חושש מעתיד בו הקרדיט להוכחות מתמטיות גדולות ילך קואופרטיבים גדולים במקום לבני אנוש. היות וטריסטן מומחה לבעית נאוויה סטוקס – אלפוגי הציע – בוא נעבוד עליה ביחד!בכלים מתמטיים מסורתיים! עם הראש שלנו!

מה באקמסטר ענה לאלפוגי? לא ידוע, אבל אפשר לשער שהתשובה הייתה חיובית. כי בשנה האחרונה, בשעות הפנאי שלהם, בלי מימון ובלי חברת ענק שתומכת בהם, עשה הצמד צעדי ענק לפתרון בעית נאוויה סטוקס.

ע"פ ההצהרה של טריסטן, הם כן השתמשו ב-AI. אפילו השתמשו בהרבה מודלים של AI. אז "שיטה מסורתית" לעבודה על מתמטיקה פה צריכה להיות במרכאות כפולות. אבל כן הבנתי שהבסיס הוא רעיון מקורי אנושי. ה-AI בעיקר פתר את שלל הבעיות הקטנות בדרך.

ב-22 לאוגוסט השנה הם ווידאו (ע"י כלים אוטומטיים, Lean) את נכונות ההוכחה שיצרו בעזרת AI, ומאז עבדו על לכתוב אותה בצורה ברורה. אלפוגי קצת רמז על זה בטוויטר; יכול להיות שהם גם סיפרו לחברים בפרטים. פשטה שמועה בקהילה שבעית נאוויה סטוקס נפתרה.

שני דגשים לפני שממשיכים. אחד, הפתרון השלם של הצמד הוא לבעיה אחרת: בעיית אוילר. זאת בעיה שקרוב לבעיית נאוויה סטוקס, אבל גם נחשבת יותר "קלה". שתיים, יש להם טיוטה, שעוד לא הושלמה, לפתרון בעית נאוויה סטוקס (או יותר מדויק: לפתרון מקרה קל שלה, שלדעתם יכול להיות מורחב לפתרון הבעיה כולם).

ל-LLM השונים, בעיקר אסטרה של OpenAI יש את טיוטות המאמרים של הצמד, בגלל שהם השתמשו בכלים האלה כדי לערוך את המאמרים. תזכרו את הפרט הזה, הוא עומד להפוך למאד חשוב.

OpenAI נכנסים לתמונה. ביום חמישי שעבר, ה-3 לספטמבר, החלה שמועה ש-OpenAI פתרו בעית מילניום. טריסטן, חשדן מאד בקשר לתיזמון, פנה ל-OpenAI וביקש לדבר שבוע הבא. ביום שישי הם ענו ולחצו עליו להיפגש על המקום. הוא ענה שוב, "שבוע הבא". ביום ראשון הם לחצו, "אולי היום?", ובסוף ניהלו שתי שיחות באותו היום.

עבדתי בסטארטאפ ועבדתי באקדמיה ואני מכיר את שני הלכי הרוח. בסטארטאפ הכל חשוב וחייבים להיפגש עכשיו ולעזאזל הצורך להיות עירני בשיחה, להתכונן או אילוצים אישיים. באקדמיה, בטח במתמטיקה, הדברים פחות בהולים. אני רוצה להדגיש שכל עניין ה-AI הביא נורמות עבודה לא בריאות לדעתי למחקר מתמטי.

לא אכנס פה לשרשרת האירועים המדויקת כפי שטריסטן תיאר אותה (אפשר לקרוא את הדיווח שלו פה). אבל בגדול מהשיחה, וכמה טקסטים נוספים, התברר ש:

👈️ OpenAI התחילו לעבוד על ההוכחה אחרי שטריסטן ואלפוגי סיימו את שלהם.
👈️ הם פתרו את נאוויה סטוקס בדיוק בשיטה שטריסטן ואלפוגי הציעו במאמר שעמדו לפרסם.
👈️ הם עובדים על פתרון נוסף לבעיה – בדיוק מה שטריסטן ואלפוגי הציעו במאמר שטרם הושלם.
👈️ בתשובה לשאלה, האם המודל אומן על טיוטות המאמרים של השניים לא התקבלה תגובה.

בצד השני של השיחה ייצג את OpenAI סבסטיאן בובק הצרפתי. היו קצרים בינו לבין טריסטן, שלדעתי נבעו מהבדלי תרבות בין התעשיה לאקדמיה. בסופו של דבר הם הגיעו למבוי סתום:

טריסטן רצה ש-OpenAI פשוט לא יפרסמו את הפתרון. מבחינתו לא רק שיש חשד שהם ניצלו את הטיוטות שלו, זה גם לא אתי להתחרות במשתמשים שלך.

בשביל בובק לא לפרסם את הפתרון לא הייתה אופציה. אתיקה או לא, הרי כל כך הרבה משאבים כספיים הושקעו בכך. הוא ניסה למצוא פשרה. הדברים ירדו לטונים צורמים, נאמרו דברים שאנשים אומרים בעת רתיחה. אני בכוונה לא כולל פה את כל ההאשמות לגבי התנהגות אישית, כי אני לא חושב שזה רלוונטי.

ביום שלישי בבוקר טריסטן ואלפוגי פירסמו את ההוכחה שלהם לפתרון בעית אוילר. זה הגיע עם הצהרה לגבי למה הפירסום החפוז (כשהמאמר עוד זקוק לשיפורים), מה שאר התוצאות הלא מפורסמות שלהם, והשתלשלות האירועים עם OpenAI.

בשלישי בערב פירסמו OpenAI את הפתרון שלהם לבעית המילניום. אז עכשיו זה זמן טוב לדבר עליהם.

OpenAI וסבסטיאן בובק
להלן השתלשלות העניינים מנקודת המבט של OpenAI כפי שהובאה לעיני עולם הטוויטר בידי החשבון הרשמי שלהם, פוסט בבלוג וסבסטיאן בובק – ראש הצוות  הפרוייקט לפתרון בעיית המילניום (נראה לי). הכתיבה? קואופרטיבית ומשפטית. זה יותר עמום מהכתיבה של שני המתמטיקאיים למעלה. לכן הוספתי פרשנות שלי לתיאור האירועים.

באחד הימים בסוף אוגוסט שורבבה שמועת טוויטר לאוזניה של OpenAI שאנתרופיק פתרה שתי בעיות מילניום. למה שתיים, מי יודע? אז OpenAI אמרה, ככה?! אנחנו נראה להם מי פותר קודם! וישר קפצו ברעל לבעיה.

רק שהייתה פה אי הבנה מסוימת. השמועה גרמה ל-OpenAI לחשוב שהתוצאות הן של המתחרים העסקיים שלהם. מבחינתם זאת הייתה תחרות עסקית בין שני ארגוני ענק, מה שאומר שאפשר לקפוץ לקרב בלהט, לזרוק אגרופים, לעשות פחות או יותר מה שבא כי יש מעט מאד אתיקה בתחרות בין שני ארגונים כאלה.

אבל לא. התחרות הייתה עם אלפוגי (וטריסטן). אלפוגי אולי עובד באנתרופיק, אבל את המחקר הזה הוא עשה לבד בלי קשר לחברה.

ברגע ש-OpenAI הבינו את הטעות שלהם הם עשו את המקסימום שביכולתם להיות נחמדים. ראשית, כשהם עוד חשבו שטריסטן ואלפוגי כבר הוכיחו את בעית המילניום בעצמם, הם הציעו לתת להם קרדיט מלא וקדימות וכו'.

אבל אז בשיחה הם הבינו שבעצם טריסטן ואלפוגי לא סיימו את העבודה עדיין. הם הוכיחו רק לגבי משוואות אוילר, אבל לגבי בעיית המילניום עצמה – למרות שהם היו בכיוון הנכון – הייתה חסרה להם כברת דרך מסוימת.

אז הם הציעו להם כל מיני פשרות אחרות. נגיד, שטריסטן יוביל את הצוות שיפרסם את פתרון בעיית המילניום ב-OpenAI (קשה יותר לשלב בזה את אלפוגי כי הוא עובד אצל המתחרים). או, לכאורה, ש-OpenAI יפרסמו את הפתרון, אבל הפרס הכספי ילך לצמד כי הם "בני האנוש שהכי התקרבו לפתרון".

רק שטריסטן ואלפוגי לא היו מעוניינים בפשרה. הם רצו ש-OpenAI יפסיקו לעבוד על הבעיה ויתנו להם לסיים את העבודה שלהם קודם. מפה, כמו שאמרתי, הדברים התפוצצו ויצאו לפומבי.

מה ש-OpenAI עשו  הוא לא אתי. אתם לא יכולים לתת לאנשים להשתמש במוצר שלכם, ואז כשהם קרובים לעשות איתו משהו גדול, לקפוץ פנימה במהירות, לזרוק מליוני דולרים וטכנולוגיות חדשות, כדי "לגנוב" את הקילומטר האחרון בתוצאה שלהם. לא יפה ולא אתי.

ואם אתם כבר עושים מחקר משלכם, אתם צריכים לוודא שהוא לא משתמש בתוצאות של משתמשים שלכם בצורה נסתרת. OpenAI אומרים שאין להם בשלב הזה דרך לדעת אם המודל השתמש בטויטות של טריסטן ואפולגי. אבל יש אפשרות כזאת, והיא לא מבוטלת, והתיזמון + דמיון הרעיונות לזה של הצמד גורם לחשוב שזה המצב. זה אולי חוקי, אבל אתי? פחחח.

יש נסיון של OpenAI לתרץ את ההתנהגות בזה שהם פעלו ע"פ שמועות (שהתגלו כשגויות). אבל אם נתחיל להצדיק כל התנהגות שלנו בצורה הזאת, אז זה יהיה סוף המוסר והאתיקה. יש אינסוף שמועות באינטרנט כיום, וכל אחד יכול למצוא את השמועה שתתן לו את התירוץ לעשות את מה שהוא רוצה.

מסקנות ומה הלאה
האם מי מבין המומחים בתחום קרא את 165 העמודים שניפקו OpenAI? מסופקני. הצוות של OpenAI בעצמו הרי לא קרא אותה. גם כי באמת לא היה זמן מרגע שהיא נכתבה ועד הפירסום. וגם כי, לפי הודאתם, אין להם מומחים לנושא בצוות.

המועמד האידיאלי לשפוט את ההוכחה הוא טרנס טאו, מגדולי המתמטיקאיים של דורינו. הוא כבר הודיע שאין לו עניין בזה; הוא יותר מעוניין לדון בשיטות של טריסטן ואלפוגי ובאבחנות המתמטיקה של השיטה שלהם. את דעתם של שאר המומחים בתחום אני לא יודע, כי לא לכולם יש מדיה חברתית. אבל באמת, מי רוצה לקרוא 165 עמודי מתמטיקה בלי שום רעיון חדש (אולי?) שלא עברו עריכה של בן אנוש?

מה שעוד קרה בעקבות הסיפור הזה הוא היפוך של גישת טרנס טאו למתמטיקה ו-AI. טאו היה הראשון לזהות ששיטות המחקר של עולם המתמטיקה ישתנו בעקבות ה-AI. והוא צודק, זה מאיץ עבודה בצורה כל כך ברורה שכמעט מגוחך כיום לעבוד בלי זה.

אבל לטאו נמאס בבירור מחברות ה-AI לאחרונה. בפוסט  מאד לא טיפוסי לטאו העדין, הוא הציע בסרקסטיות לחברות ה-AI להפסיק לפרסם הוכחות לבעיות מתמטיות, ובמקום זה לפרסם רעיונות מתמטיים חדשים. בתגובה אחרת הוא פרק את האכזבה שלו מהנעשה בתחום בצורה מפורטת.

מה הלאה? לא יודע.

שאלה גדולה אחת היא איך אפשר לעשות מתמטיקה חשובה עם כלים של חברות AI, כשאפילו שמועה על העבודה שלך גורמת להם "לגנוב" את הפתרון בחוסר אתיקה? אבל מצד שני, איך אפשר לעבוד בלעדיהם? כלי ה-AI הפכו לחשובים למתמטיקה מודרנית. פתרון לדילמה עוד אין.

מה שכן, רואים ירידה במעמד ההוכחה. הוכחות מתמטיות לא היו אף פעם המטרה של התחום (לפחות לא בדר"כ). בעיות נעשו מפורסמות לא כי רצינו להוכיח את הנכונות שלהן, אלא בגלל שחשבנו שהדרך להוכחה דורשת רעיונות חדשים שיכולים לעזור לאנושות. האם זה אומר שמעכשיו נראה עלייה במעמד הרעיון המתמטי המקורי? אולי. אם כי רעיון מקורי גם נשפט באם אפשר להשתמש בו להוכחות חדשות; זה מצב של ביצה ותרנגולת.

חשוב להדגיש ש-AI זה לא כלי קסם שיכול להוכיח כל בעיה אפשרית. זה ברור לגמרי, בגלל שקושי של בעיות יכול לעלות עד אינסוף, בעוד שיכולות פתרון הן סופיות. אפילו את בעית המילניום אנחנו לא יודעים אם AI פתר או גנב רעיון לבני אנוש.

לכן עולה השאלה, איזה בעיות מעניין לבני אנוש לעבוד עליהן בצוות עם AI? אלו צריכות להיות בעיות מספיק קשות כדי שלא יהיה אפשר לפתור אותן בצורה אוטומטית, אבל גם מספיק קלות שיהיה סיכוי לפתור אותן בכלים הנוכחיים.

אין תיאוריה של בעיות כאלה כרגע, וקשה מאד לבנות אותה בלי שיתוף פעולה של חברות AI. אבל החברות, נכון להיום, רק חושפות איזה בעיות ה-AI פתר, ולא איזה בעיות הוא ניסה לפתור ונכשל. הן לא חושפות את הלוג המלא של הלוגיקה שלו. לנסות לבנות תיאוריה במצב הנוכחי זה כמו לעבוד על עיוור.

מוקדם מדי לדעת לאיפה ילך התחום. אל תאמינו לכל מי שיודע, זה הכל ניחושים. אבל כן הייתי אומר שזאת אחת התקופות הכי מרגשות בתולדות המתמטיקה. אם יש לכם עניין בתחום תנסו להינות ממנה, ולא להיבהל מההתפתחות.