חבר פרלמנט הקריא בטעות את ההערה של ה-AI באמצע נאום
חבר הפרלמנט הקנדי ביל אוליבר עלה לנאום, והקריא בקול גם את מה שלא היה אמור להיאמר. במקום להמשיך לפסקה הבאה, הוא הקריא את ההערה שמודל השפה כתב על הטקסט עצמו: הסבר שזו גרסה זורמת יותר של הקטע, כזו שנשמעת כמו נאום ולא כמו רשימת נקודות. הוא הדביק לנאום את התשובה של הכלי, כולל ההסבר של הכלי על מה שהוא עשה.
גיקטיים מציינת שזה לא מקרה חריג. עורכי דין, שופטים ועיתונאים כבר נתפסו עם טקסט שהמודל ניסח ואיש לא עבר עליו לפני שיצא החוצה. הכלי עשה בדיוק את מה שביקשו ממנו. מה שחסר היה השלב שאחריו.
מה זה אומר לעסק שלך: כל טקסט שה-AI מנסח בשם העסק שלכם, בין אם זו הצעת מחיר, מייל ללקוח, תשובה בוואטסאפ או פוסט, צריך עין אחת נוספת לפני שהוא יוצא. לא כי המודל טיפש, אלא כי הוא לא יודע מה מביך אתכם ומה מחייב אתכם משפטית. בפועל זה אומר שלב אישור אחד בתוך התהליך: מי מאשר, מה נשלח ומה נשמר. אוטומציה שרצה בלי אף נקודת עצירה היא לא חיסכון בזמן, היא סיכון שנצבר בשקט עד שמישהו שם לב.