פרומפט אחד שגורם ל-ChatGPT להישאר בפורמט טבלה קבוע לאורך כל השיחה
הבעיה מוכרת לכל מי שמשתמש ב-ChatGPT לעבודה - מבקשים טבלה, מקבלים אותה מסודרת, ואז הפורמט מתפרק בהודעה הבאה. פרומפט פתיחה אחד, ששומרים גם ב-Custom Instructions, פותר את זה לכל אורך השיחה.
הודעת פתיחה אחת יכולה לגרום ל-ChatGPT להישאר בטבלה עם אותן עמודות לאורך כל השיחה.
ואם הטבלה כבר התפרקה באמצע, יש דרך מהירה להחזיר אותה.
תוכן העניינים · 6 חלקים
למה הטבלה של ChatGPT נעלמת באמצע שיחה
מי שהשתמש ב-ChatGPT לעבודה בטח מכיר את זה: מבקשים טבלת השוואה בין שני ספקים, מקבלים תשובה מסודרת עם עמודות ברורות, וממשיכים בשיחה. אחרי כמה הודעות, שאלת המשך קצרה כמו "ומה לגבי המחיר של השלישי" מחזירה תשובה בפסקת טקסט רגילה, בלי טבלה בכלל. הפתרון לבעיה הזו הוא פרומפט פתיחה קבוע אחד, לא בקשה שחוזרת בכל הודעה.
יש לתופעה הזו הסבר טכני מוכר. ככל ששיחה מתארכת, המודל צריך "לזכור" יותר ויותר טקסט קודם, כולל ההנחיה המקורית לגבי הפורמט. מחקר בתחום (Liu ואחרים, "Lost in the Middle: How Language Models Use Long Contexts") מראה שמודלי שפה מנצלים פחות טוב מידע שנמצא באמצע טקסט ארוך, לעומת מידע שנמצא בהתחלה או בסוף. במילים פשוטות: ככל שהשיחה ארוכה יותר, ההנחיה המקורית עלולה "להישחק" ולאבד השפעה.
אין נתון מדויק לכמה הודעות בדיוק לוקח עד שזה קורה, וזה משתנה מבעל עסק לבעל עסק לפי אורך השיחה. אבל התופעה עצמה ידועה ומתועדת, וזו הסיבה שהפתרון לא יכול להיות "לבקש טבלה חזק יותר" בפעם הראשונה, אלא לחזק את ההנחיה לאורך כל השיחה.
הפרומפט שפותר את זה: הודעת פתיחה אחת
הפתרון הוא לא לבקש טבלה בתוך השאלה עצמה, אלא לפתוח את השיחה בהודעה נפרדת שמגדירה חוק קבוע. אפשר להעתיק את הנוסח הבא ולשלוח אותו כהודעה הראשונה, לפני שמתחילים לבקש מידע בפועל:
פרומפט לפתיחת שיחה:
"מהרגע הזה עד סוף השיחה, כל תשובה שכוללת יותר משני פריטי מידע צריכה להיות בפורמט טבלה, גם אם ההודעה הבאה היא שאלת המשך קצרה שלא מזכירה טבלה במפורש. לשמור על אותן כותרות עמודות שנקבעות בטבלה הראשונה, אלא אם מתבקש שינוי מפורש. במקרה של ספק אם להציג טבלה או טקסט רגיל, לבחור תמיד בטבלה."
ברגע שההודעה הזו נשלחת, ChatGPT מתייחס אליה כאל כלל קבוע לשיחה, ואפשר להמשיך לשאול שאלות המשך קצרות, כמו "תוסיף גם עמודת מחיר" או "מה עם ספק רביעי", כשההנחיה כבר נמצאת בשיחה כהקשר קבוע.
איפה זה שימושי לעסק קטן
כמה שימושים נפוצים שבהם עקביות בפורמט חוסכת זמן אמיתי:
השוואת ספקים או ציוד
כל שורה חדשה נשארת מסודרת מול אותן עמודות (שם, מחיר, זמן אספקה), גם אחרי כמה סבבי שאלות.
מעקב אחרי הזמנות או לידים
אפשר להוסיף פרטים בהדרגה בלי שהטבלה תתפרק לפסקאות בין עדכון לעדכון.
בניית טבלת תמחור
שינוי מחיר לשירות אחד לא הופך את כל התשובה לטקסט חופשי.
מה עושים אם הטבלה כבר נשברה באמצע שיחה
גם עם הודעת הפתיחה, לפעמים הפורמט עדיין נשבר בשיחה ארוכה במיוחד. הפתרון המהיר: לא צריך להסביר הכל מחדש, מספיק משפט קצר כמו "לחזור לפורמט הטבלה שהוגדר למעלה". המשפט הזה מחזיר את ההנחיה המקורית למרכז תשומת הלב, בלי לפתוח שיחה חדשה.
איך שומרים את ההרגל לכל שיחה חדשה
מי שמשתמש בטבלאות באופן קבוע (למשל לניהול מלאי או מעקב לקוחות) לא חייב להעתיק את הפרומפט בכל שיחה מחדש. ב-ChatGPT יש תכונה בשם Custom Instructions (בהגדרות, תחת Personalization בדפדפן או Customize ChatGPT באפליקציה לנייד), שמאפשרת לשמור הנחיה קבועה שחלה אוטומטית על כל שיחה חדשה. למשתמשי Free ו-Go יש מגבלה של 1,500 תווים להנחיה, ולמשתמשי Plus, Pro, Enterprise, Business ו-Education יש עד 5,000 תווים, כך שהפרומפט המלא נכנס בקלות. חשוב לדעת: לפי OpenAI, שינוי בהגדרות האלה חל מיד על כל השיחות, כולל שיחות קיימות שכבר נפתחו לפני העדכון.
למי שרוצה להעמיק בכתיבת פרומפטים בכלל, כדאי להסתכל על המדריך לכתיבת פרומפטים אפקטיביים, ועל הטעויות הנפוצות בפרומפטים שגורמות לתשובות לא עקביות.
מי שמשתמש בטבלאות בעיקר כדי להעביר נתונים לאקסל, שווה גם להציץ במדריך העבודה בין ChatGPT לאקסל וגוגל שיטס.
ולהרחבה על שמירת הגדרות קבועות בין שיחות, יש התייחסות גם במדריך ניהול הזיכרון וההגדרות של ChatGPT.
מאיפה מתחילים
הצעד הראשון: בפעם הבאה שנפתחת שיחה חדשה שדורשת טבלה, להעתיק את הפרומפט מלמעלה ולשלוח אותו לפני השאלה הראשונה. זה הרגל קטן שנבנה תוך שיחה אחת, ואם הוא מוכיח את עצמו, אפשר לשמור אותו כ-Custom Instruction קבוע ולא לחשוב על זה שוב.
ככל ששיחה מתארכת, המודל צריך לשקלל יותר טקסט קודם, כולל ההנחיה המקורית לגבי הפורמט. מחקר בתחום מראה שמודלי שפה מנצלים פחות טוב מידע שנמצא באמצע טקסט ארוך, כך שהנחיית פורמט שניתנה בתחילת השיחה עלולה להישחק ככל שהשיחה מתארכת.
זו הודעה אחת שנשלחת בתחילת השיחה, לפני שמתחילים לבקש מידע בפועל, ומגדירה שכל תשובה עם יותר משני פריטי מידע תוצג בטבלה עם אותן עמודות קבועות. ברגע שהיא נשלחת, ChatGPT מתייחס אליה ככלל קבוע לכל אורך השיחה.
פרומפט פתיחה חל רק על השיחה שבה הוא נשלח. Custom Instructions היא תכונה בהגדרות ChatGPT (תחת Personalization בדפדפן או Customize ChatGPT באפליקציה לנייד) ששומרת הנחיה קבועה שחלה אוטומטית על כל שיחה חדשה, בלי צורך להעתיק אותה כל פעם מחדש.
לא צריך לפתוח שיחה חדשה ולהסביר הכל מחדש. מספיק משפט קצר כמו לחזור לפורמט הטבלה שהוגדר למעלה, שמחזיר את ההנחיה המקורית למרכז תשומת הלב של המודל.
כן. למשתמשי Free ו-Go יש מגבלה של 1,500 תווים להנחיה, ולמשתמשי Plus, Pro, Enterprise, Business ו-Education יש עד 5,000 תווים. הפרומפט לשמירת פורמט טבלה נכנס בקלות בשתי המגבלות.
כן. גם משתמשי Free יכולים לשלוח את פרומפט הפתיחה בתחילת כל שיחה, וגם לשמור אותו כ-Custom Instruction קבוע, רק עם מגבלת תווים נמוכה יותר (1,500 לעומת 5,000 במסלולים Plus, Pro, Enterprise, Business ו-Education).



כתיבת תגובה