יומיות 31.08.2026: לזהות טקסטים של AI

לפני שלושה ימים עלה פוסט על המועמדים לפרס הוגו. בעצם, פוסט שדן במועמדים רק בפרס הרומן, כי זה הפרס שמעניין אותי. יש שישה מועמדים, קראתי רק ארבע ורבע מהם וזה לא הפריע לי בפוסט לחוות דעה על כל השישה. שלושה מהם מאד אהבתי; אחוזי פגיעה נהדרים לפרס.

הזוכים כבר הוכרזו מאז, ראו אייטם 6 למטה.

1. אנת'רופיק הודיעה שהם מתחילים לסמן טקסטים של AI. קוראים לזה watermark באנגלית או סימני מים בעברית.

צבי מובשוביץ', אחד הכותבים המובילים על AI כיום כתב על זה. ואז גם סקוט אהרונסון כתב, כי הוא אחד מהוגי השיטה בה משתמשים. הם מאד חיוביים היות והם שייכים לקבוצה שמתלהבת מ-AI. אבל אני, אדם AI-שלילי  שמתמקד בבעיות ולא בקסם, חייב לכתוב על הנושא בצורה קצת יותר חששנית.

בוא נתחיל בחיובי. אני נורא אשמח לדעת אם טקסט שמגיע אלי נוצר ע"י AI! נורא. ברגע שזה יהיה אפשרי אני יוצר פילטר אוטומטי שחוסם את כל הטקסטים האלה, ושולח תשובה ידידותית בנוסח "ניימן זיהה שההודעה ששלחת היא טקסט AI. המערכת שלו חסמה את זה אוטומטית. נסח מחדש במילותיך שלך ואז נשוב להיות חברים". דמיינו כמה זמן אחסוך בלא לקרוא טקסטים בינוניים של AI.

נמשיך בחיובי: מערכת סימני המים של אנת'רופיק לא גוזלת כמעט זמן או משאבים נוספים. לא מהחברה עצמה ולא מהמשתמש. זה אומר שקיבלנו משהו (סימני מים) עם תשלום מינימלי.

עכשיו לגבי השלילי. ראשית, כמעט טריוויאלי להוריד את סימני המים הללו. מספיק שתשימו טקסט AI בכל תוכנת תירגום מהדור הקודם ותבקשו לתרגם אותו מאנגלית לעברית. אתם גם יכולים להריץ AI מקומי שרק מנסח מחדש טקסטים (זה יחסית קל, נדמה לי) – והופ זה יוריד את סימני המים.

האם אפשר לעשות סימני מים לטקסט שאי אפשר להוריד? יש מאמר של בועז ברק ואחרים שאומרת את זה שאומר שלא. למאמר נתנו את השם הפיוטי, "סימני מים על החול".

אם המטרה של יצירת סימני מים היא למנוע מסטודנטים להגיש עבודות שנכתבו AI – זה לא יעבוד. תוך כמה שבועות הסטודנטים יבינו איך מסירים את סימני המים. עוד מעט יהיו אתרים שיעשו את זה בשבילם, אל תדאגו. בעידן של אוטומציה כמעט מידית דברים כאלה לא, הממ, מחזיקים מים. סליחה על משחק המילים הגרוע.

אבל יש עוד שלילי! בשביל לוודא אם טקסט מסוים נוצר ע"י ה-AI של אנתרופיק, צריך לשלוח אותו לאנתרופיק שיבדקו. זה אומר שגם טקסטים של סטודנטים שכתבו עבודות מקוריות וטובות בעצמם ישלח לחברות ה-AI. האם הן יבדקו סימן מים ואז ימחקו את הטקסט ולעולם לא ישתמשו בו בשביל לאמן AI? יש לי גשר למכור לכם אם אתם מאמינים שזה המצב.

2. אה כן, אפרופו גשר:

גשר קליפטון התלוי בבריסטול. חלפתי שם רק לרגע, אבל המראה נחרט במוחי. וגם במצלמתי למרבה המזל.

3. גדי אלכסנדר, שהוא עדיין כותב הטוב ביותר בעברית על מתמטיקה פירסם פוסט, אז מה הקטע עם מודלי שפה גדולים? הוא דווקא לא מדבר על AI ומתמטיקה, אלא על הרקע המתמטי של AI. במילים שלו:

מה איפשר את הקסם המטורף הזה. איך בינות מלאכותיות כאלו עובדות? ומה השתנה שהוביל לזינוק המטאורי של השנים האחרונות?

קריאה מומלצת.

אגב, איפה הדור הצעיר של כותבי המתמטיקה בעברית? אני רוצה לגלות אותו. האם הם עושים סרטוני טיקטוק? למתמטיקה מרגיש לי שזה פחות עובד. וזה גם לא מתאים לאיש המילה הכתובה כמוני.

4. קליף סטול, שבתור סטודנט עשה מבצע תפיסת האקרים מדהים, העביר על זה הרצאה ב-Defcon 34.

הספר שהוא כתב לפני כמעט 40 שנה על המאורעות – The Cuckoo's Egg – הוא ספר מדהים. המלצה חמה, הנה הביקורת שלי עליו. אבל למי שאין כוח לקרוא אותו, ההרצאה כנראה תספיק. חוץ מזה, מסתבר שהוא אדם שכיף לראות על במה.

5. תגובה של Tom ליומיות הקודמות הזכירה שהוא התחרה, בגיל 10, בתחרות הארצית של מבוכים ודרקונים. מה היו התחרויות האלה? הסתקרנתי והלכתי לבדוק.

יותר מדי מידע אין על תחרויות הענתיקה האלה. אבל בפורום הפונדק, דווקא בסקירת גליונות המגזין הישן WIZ, הזכירו שדובר על תחרות כזאת בגליון הראשון של המגזין מ-1990!

הנה הלינק לגליון המדובר. אני מצטט את הפוסט בפונדק:

כתבת משחקי התפקידים הבאה בגליון הזה מופיעה בעמ' 14 – אלו בעצם רשמים של אחד תומר כץ, שזכה במקום הראשון ב"אליפות הארץ בD&D" שנערכה "בקיץ האחרון" (כנראה של 1990) וזכה בפרס של מימון טיסה ושהייה בכנס ג'ן-קון וכעת מספר על איך היה שם.

הכנס המתואר נראה כמו משהו שבארץ עדיין חלקנו היו חולמים שיהיה גם יותר משלושים שנה אחרי – מבנה רב קומות עם פעילויות, דוכנים, סרטים ומכירות פומביות של אומנות משחקי תפקידים.

מכיוון שתומר כץ הוא ישראלי פרקטי, הוא גם מתאר כמה עלתה החוויה – במונחים של היום זה נראה ממש זול לשלם 2000 שקל על טיסה לארה"ב ו100 שקל ללילה במלון, אבל אנחנו מדברים על תקופה שבה משכורת של פועל תעשיה מיומן הייתה בסביבות 2300 שקל לחודש.

הגליון הספציפי הזה של WIZ השפיע על חיי קשות. ממנו למדתי על משחקי תפקידים, ממנו למדתי על קונסולות משחקי מחשב שלא הכרתי. קראתי אותו ואת שאר הגליונות הראשונים של WIZ עשרות פעמים באותה השנה. לדעתי יש לי אותם עדיין בבית.

6. פרסי ההוגו הוענקו. ובפרס הגדול זכה… The Everlasting של אליקס אי. הארו. ספר שלא הצלחתי לסיים יותר מרבע ממנו. טעם וריח וזה, אבל במקרה הזה הריח שלי ושל שאר מצביעות ומצביעי הפרס שונה עד כדי מסריח.

בפרס הסדרה זכה ג'ון סקאלזי על מלחמת האדם הזקן. אני מאד אוהב את הסדרה אבל הפסקתי לפני הרבה זמן לקרוא אותה אחרי הספר החמישי, כי זאת הייתה התקופה בה ירד לי מסקאלזי באופן כללי. בעשור הקודם הוא היה אחד הסופרים האהובים עלי אם לא ה-. אבל אז זה השתנה. השנה יצא הספר השמיני בסדרה, The Shattering Peace וזאת הסיבה שהסדרה היתה מועמדת להוגו השנה. אולי אשלים מתישהו מאיפה שהפסקתי.

אנטוניה הודג'סון, שלמרבה הצער לא זכתה בפרס הרומן על מלומדת העורב [ביקורת] כמו שרציתי, כן זכתה בפרס Astounding לסופרת חדשה. מגיעה לה, בחיי.

7. בונוס: ב-2014 דירג אורי מילשטיין פה באתר את כל תשעת הספרים של סקאלזי שהוא קרא אז. מאז סקאלזי פירסם עוד מלנתלפים ספרים, אבל ההכי טובים לדעתי הם עדיין אלו בדירוג מ-2014.