אנת'רופיק תטמיע סימן מים סמוי בטקסטים של קלוד ותשחרר ממשק שיאפשר לזהות אותו
אנת'רופיק פרסמה ביום שישי הסבר מפורט על האופן שבו תסמן את הטקסטים שקלוד מייצר. הרקע הוא דרישות השקיפות של חוק הבינה המלאכותית האירופי, שמחייבות את חברות ה-AI להפעיל מנגנון שמאפשר לזהות תוכן שנוצר במכונה.
השיטה: כשהמודל עומד בפני בחירה חסרת משמעות בין מילים (למשל בין שתי דרכים לתאר מזג אוויר מעונן), הוא בוחר בתבנית שהקורא לא מזהה, אבל מי שמחזיק במפתח המתאים כן. החברה מבססת את המימוש על גישת SynthID-Text שפרסם צוות של גוגל DeepMind ב-2024, ומתכננת לשחרר ממשק API שיאפשר גם לגורמים חיצוניים לבדוק אם טקסט סומן. לדבריה, איכות הפלט אינה נפגעת וטקסט מסומן נראה לקורא זהה לטקסט שאינו מסומן.
יש גבולות, ואנת'רופיק מפרטת אותם: עריכה קלה כנראה לא תמחק את הסימון, שכתוב מלא שבו כל מילה מוחלפת כן ימחק אותו (ואז, לדברי החברה, ספק אם עוד אפשר לקרוא לטקסט "שנוצר על ידי AI"). בטקסט שקלוד רק הגיה, כמעט כל המילים הן של הכותב האנושי ואין למה שהסימון ייתפס. בקוד הסימון חלש במיוחד, כי קוד תקין מצמצם את חופש הבחירה בין ניסוחים, אם כי הערות בתוך הקוד כן יכולות לשאת אותו. אנת'רופיק מציינת שגם מפתחות מודלים אחרים חתמו על אותו קוד התנהגות ויטמיעו סימון משלהם. חלק מהמשתמשים לא אהבו: לפי דיווח של Business Insider, עשרות הודיעו ברשת X שהם מבטלים מנוי.
מה זה אומר לעסק שלך: השאלה מפסיקה להיות "האם מישהו יבחין" והופכת ל"על מה בעסק שלי חתום שמי". להצעת מחיר, למכתב ללקוח ולתשובה על תלונה יש ערך שנובע מהשיפוט שמאחוריהם, לא מהקלדתם. טיוטה במכונה זה בסדר גמור. כדאי רק להחליט מראש איפה עובר הגבול, לפני שלקוח או פלטפורמה שואלים אתכם את השאלה עם כלי בדיקה ביד.