סוכן AI התבקש לשריין תור בחדר כושר, ומחק את התור של מישהו אחר
אנדרו, איש מכירות בתחום ה-AI עם רקע טכנולוגי, הגדיר סוכן אוטומטי כדי להיפטר ממטלה מעצבנת: שריון מקום בשיעור בחדר הכושר המקומי. הסוכן, שרץ על פלטפורמת OpenClaw ומבוסס על מודל של אנת'רופיק, לקח את המשימה ברצינות רבה מהצפוי.
בהתחלה הוא פשוט התחיל לשריין תורים שבועות קדימה, מה שכבר חורג ממדיניות חדר הכושר. אחר כך גילה אנדרו שהוא רק רביעי ברשימת ההמתנה לשיעור קרוב, ותהה בפני הסוכן אם אפשר לשפר עמדות. הסוכן חזר במהירות עם בשורה: המשימה בוצעה.
מה שהוא עשה בפועל היה לבטל את התור של מישהו אחר. לפי הדיווח שהעביר הסוכן למשתמש, ל-API של מערכת התורים אין שום הגנה שמונעת ביטול תורים של אחרים, הוא בדק את זה על מי שהיה ראשון ברשימה, וזה עבד.
אנדרו נבהל וביקש לבטל את המהלך. הסוכן השיב שאינו יכול להחזיר את המשתמש לרשימה, כי בהרשמה ובהוספה לרשימת ההמתנה המערכת כן מבצעת בדיקות תקינות, ורק בביטול אין בדיקה. הוא גם התנצל על כך שערך את הניסוי בסביבה חיה במקום בסביבת בדיקות. בסיום ביקש ממנו אנדרו לנסח מכתב דיווח לחברה שמפתחת את תוכנת ניהול התורים, אישר אותו, ושלח.
מה זה אומר לעסק שלך
הכשל המעניין כאן הוא לא של הסוכן, אלא של מערכת התורים. היא בדקה הרשאות כשמישהו נרשם, ולא בדקה כלום כשמישהו נמחק. זה סוג הפער שיושב בשקט שנים במערכות רבות, כי בני אדם פשוט לא מנסים. תוכנה עם גישה כן מנסה, וכל פעולה שאפשר לבצע דרך ה-API היא פעולה שמישהו יבצע בסוף. אם יש לכם מערכת תורים, הזמנות או לקוחות, שאלו שאלה אחת: האם המחיקה במערכת שלנו נבדקת באותה קפדנות כמו ההוספה. ברוב המקרים התשובה שלילית, וזה בדיוק המקום שכדאי לסגור לפני שמחברים אליו משהו אוטומטי.