חוקר AI במיקרוסופט, אדריאן דה-וינטר, פרסם מאמר משועשע אך רציני: הוא הראה שמשחק האסטרטגיה בן 30 השנה Age of Empires 2 הוא "טיורינג-שלם", כלומר תיאורטית הוא יכול לבצע כל חישוב שמחשב רגיל מבצע. כדי להוכיח זאת הוא בנה בתוך המשחק שערים לוגיים כשהעיזים משמשות כ"ביטים" (דשא כאפס, גשר כאחד), ואפילו הרכיב מהם יחידת רשת נוירונים בסיסית.
הנקודה שלו לא באמת על עיזים. אם אפשר להריץ מודל שפה גם דרך לוח משחק, אז התחושה שיש "מישהו" בצד השני של הצ'אט מגיעה מהעיצוב של הממשק, לא מהבנה או אכפתיות אמיתית. אנחנו מייחסים לצ'אטבוט תכונות אנושיות בגלל השיחה המלוטשת, לא בגלל שהוא באמת מבין אותנו. המסקנה שלו: כדאי שחברות יהיו שקופות לגבי מה המודל באמת עושה.
מה זה אומר לעסק שלך: קל להתאהב בצ'אטבוט שמדבר יפה ולהניח שהוא "מכיר" את העסק. אבל המודל לא מבין את הלקוחות שלכם, את המחירון או את התהליך - הוא מנחש את המילה הבאה. הערך האמיתי מגיע כשמחברים אותו לנתונים ולכללים של העסק: מחירים אמיתיים, מלאי אמיתי, נהלים ברורים. אל תסמכו על "קסם" של שיחה חלקה, אלא על מערכת שמזינה את ה-AI במידע הנכון ומשאירה בן אדם בנקודות שחשוב לדייק בהן.