עידן שריפת הטוקנים נגמר: החשבונות על ה-AI הגיעו
לפני חודשים ספורים חברות טכנולוגיה עודדו מפתחים לשרוף כמה שיותר טוקנים של AI, כאילו זו מדידה של פרודוקטיביות. חלקן אפילו ניהלו טבלאות של מי צורך הכי הרבה. לפי כתבה בגיקטיים, החגיגה נגמרה ברגע שהחשבונות הראשונים נחתו: מקרה אחד בארה"ב הסתכם בחצי מיליארד דולר על חודש שימוש אחד, וחברת ביטוח ישראלית גילתה שהיא בדרך להוציא מעל חמישה מיליון דולר בשנה על ספק AI יחיד, אחרי שנתנה למפתחים יד חופשית.
מה שהתברר הוא שהבזבוז לא נבע מהמחיר לטוקן, אלא מהשימוש עצמו: סוכנים שקוראים שוב ושוב את אותו מידע, לולאות ניסיון בלי תקרה, ומודלים יקרים למשימות פשוטות שאפשר היה לפתור בזול. מפתח מנוסה דווקא צורך פחות, כי הוא מכוון את המודל במדויק. עכשיו נולד שוק שלם שכל תפקידו לעשות סדר בהוצאות ה-AI.
מה זה אומר לעסק שלך: AI לא חייב להיות חור שחור בתקציב. הסכנה היא לא הטכנולוגיה אלא שימוש בלי גבולות. מערכת שבנויה נכון מגדירה מראש איזו משימה מריצה איזה מודל, שמה תקרה על ניסיונות חוזרים, ומודדת את התוצאה, כלומר משימות שהושלמו, ולא את הכמות. ככה משלמים על ערך אמיתי במקום על בזבוז.