‏הזיות AI: למה ChatGPT לפעמים ממציא תשובות, ואיך לזהות לפני שזה מגיע ללקוח

בקצרה: הזיה של AI היא מצב שבו ChatGPT או כלי דומה ממציא מידע ומגיש אותו בביטחון מלא, כאילו הוא נכון. זה קורה כי הכלי מנחש את המילה הבאה הסבירה, לא בודק אמת. בעסק קטן זה יכול להפוך למחיר שגוי או מדיניות שלא קיימת מול לקוח. הפתרון הוא הרגל בדיקה פשוט.

אחת השאלות שחוזרות אצל בעלי עסקים שמתחילים עם AI היא "אפשר בכלל לסמוך על מה שזה אומר?". זאת שאלה במקום. לפעמים ChatGPT נותן תשובה מדויקת ומועילה, ולפעמים הוא כותב משהו שנשמע משכנע לחלוטין אבל פשוט לא נכון. התופעה הזאת נקראת הזיה, ובלי להיבהל, נתחיל מההתחלה ונבין למה זה קורה ואיך מזהים את זה בזמן.

מה זה הזיית AI, במילים פשוטות

חשבו על זה כמו על מישהו שלא רוצה להישמע שלא יודע, אז הוא ממלא את החללים בניחוש שנשמע בטוח. במילים פשוטות, זה אומר שהכלי מייצר מידע שנשמע אמין אבל שגוי או מומצא, ומציג אותו כאילו הוא עובדה. הוא לא משקר בכוונה ולא מנסה להטעות. פשוט אין לו מנגנון שעוצר ואומר "רגע, אני לא בטוח".

למה זה קורה בכלל

כלי כמו ChatGPT בנוי לנחש את המילה הסבירה הבאה במשפט, על בסיס כמויות עצומות של טקסט שעליהן הוא אומן. הוא טוב מאוד בלהרכיב משפט שנשמע נכון, אבל זה לא אותו דבר כמו לדעת שהוא נכון. מי שרוצה הסבר בסיסי על מה זה ChatGPT ימצא שם את הרקע המלא.

OpenAI, החברה שמאחורי ChatGPT, הסבירה את זה בצורה פשוטה: המודלים מתוגמלים על כך שהם מנסים לענות, גם כשהם לא בטוחים. כלומר, ניחוש שנשמע טוב מקבל "ציון" גבוה יותר מאשר תשובה כמו "אני לא יודע". התוצאה היא שהכלי מעדיף לנחש בביטחון במקום להודות שחסר לו מידע. הנתונים שעליהם הוא אומן מגיעים מהאינטרנט, שכולל גם מידע מדויק וגם טעויות, וזה מוסיף עוד שכבה של אי ודאות.

למה זה חשוב דווקא לעסק קטן

בעסק גדול יש מי שבודק. בעסק קטן, מה שיוצא מ-ChatGPT לפעמים הולך ישר ללקוח. דמיינו ניסוח של מייל תשובה ללקוח שמכיל מחיר שהכלי "המציא", או תיאור של מדיניות החזרות שנשמע סביר אבל לא תואם למה שבאמת מציעים בעסק. דוגמה מפורסמת קרתה כשעורך דין בארצות הברית הגיש לבית משפט מסמך שהתבסס על ChatGPT, והתברר שהכלי המציא פסקי דין וציטוטים שמעולם לא היו קיימים. אצל בעל עסק קטן, אותו סוג טעות יכול לפגוע באמון של לקוח.

ארבעה הרגלים שמורידים את הסיכון

לא צריך שום רקע טכני בשביל להגן על העסק מהזיות. צריך כמה הרגלים קטנים:

חלק גדול מהבעיה מתחיל באופן שבו מנסחים את הבקשה. בכתבה על טעויות נפוצות בכתיבת פרומפט אפשר לראות איך ניסוח מדויק יותר מקטין את הסיכוי לתשובה מומצאת.

מאיפה מתחילים

הצעד הראשון קטן ממה שנדמה. בפעם הבאה שמשתמשים ב-ChatGPT למשהו שילך ללקוח, בחרו פרט עובדתי אחד מהתשובה, מחיר או שם או תאריך, ובדקו אותו במקור אמיתי לפני ששולחים. הרגל קטן אחד כזה כבר מספיק כדי לתפוס את רוב ההזיות בזמן.