הגדרה קצרה
הזיה היא מצב שבו מודל AI מייצר מידע שנשמע סמכותי אך אינו נכון או לא קיים במציאות.
הרחבה
הזיות נובעות מכך שמודלי שפה מייצרים טקסט על בסיס הסתברות ולא על בסיס אמת מאומתת. הן שכיחות במיוחד בנושאים נישתיים, בציטוטים, בכתובות URL ובנתונים מספריים. הטכניקות המרכזיות להפחתה: RAG, grounding ל-Google Search, ואימות פוסט-הוק.
למה Hallucination חשוב לקידום ולשיווק?
הזיות הן בעיה כפולה לעסק. ראשית, כשמודל AI ממציא פרטים על העסק שלכם: שעות פתיחה שגויות, מחיר שלא קיים, שירות שאתם לא מספקים או כתובת ישנה. הלקוח לא יודע שזו הזיה; מבחינתו זה מידע מהאינטרנט. שנית, כשאתם מפרסמים תוכן שנוצר ב-AI בלי לבדוק, אתם מפרסמים את ההזיות בשם המותג שלכם: פסקי דין שלא קיימים, סעיפי חוק שגויים, נתוני שוק מומצאים.
בתחומי YMYL (משפט, בריאות, פיננסים) זה מסוכן במיוחד, גם מבחינת גוגל וגם מבחינת אחריות מקצועית. ומצד ה-GEO: מודלים מהזים יותר כשאין להם מקור ברור. אתר שמציג עובדות על העסק בצורה מובנית ועקבית הוא בדיוק המקור שהמודל יעדיף לצטט במקום להמציא. במילים אחרות, מניעת הזיות על העסק ועבודת GEO טובה הן אותה פעולה.
איך מודדים ומיישמים את זה בפועל?
בדיקת הזיות על העסק: שאלו את ChatGPT, Gemini ו-Perplexity על המותג שלכם, על המחירים, השירותים והמיקום, ותעדו שגיאות. לכל שגיאה חפשו את המקור: לרוב זה עמוד ישן באתר, פרופיל Google Business לא מעודכן, או מידע סותר בין האתר לרשתות החברתיות. תקנו את המקור, לא את התשובה. חזרו על הבדיקה כמה שבועות אחרי התיקון, כי המודלים מתעדכנים בקצב שונה, ושמרו תיעוד של השאלות והתשובות כדי להשוות לאורך זמן.
מניעה בתוכן שאתם מפרסמים: כל נתון, ציטוט, שם חוק או קישור בטיוטת AI נבדק מול מקור ראשוני לפני פרסום. בתחומים מקצועיים בעל המקצוע מאשר את הטיוטה. אמצו נוהל פשוט: טיוטת AI מסומנת כטיוטה עד שעברה בדיקת עובדות מתועדת. באתר עצמו, עובדות מבניות (כתובת, שעות, שירותים, מחירים) מסומנות בסכמה ומופיעות באופן זהה בכל מקום, כדי לתת למודלים מקור אחד וחד-משמעי.
טעויות נפוצות
- פרסום טיוטת AI עם ציטוטים, מספרים או סעיפי חוק בלי לבדוק אף אחד מהם במקור.
- הנחה שהמודל „יודע” את העסק שלכם; הוא מנחש על בסיס מה שמצא, ואם לא מצא הוא ממציא.
- מידע סותר על העסק בין האתר, Google Business ופייסבוק, שמוביל לתשובות שגויות של מנועי ה-AI.
- תגובה להזיה בפנייה לחברת ה-AI במקום בתיקון המקור שממנו המודל למד.
דוגמה מהשטח
לדוגמה, נניח שמשרד עורכי דין מפרסם מאמר על פיצויי פיטורים שנכתב ב-ChatGPT, כולל אזכור של „פסק דין” עם מספר תיק. לקוח שבודק מגלה שהתיק לא קיים ושואל על זה בפגישה. הנזק לאמינות גדול בהרבה מהחיסכון בכתיבה. הנוהל שהיה מונע את זה פשוט: כל טיוטת AI עוברת לעורך דין לבדיקה מול מקורות, וכל מאמר מסתיים ברשימת מקורות עם קישורים לחקיקה ולפסיקה אמיתית.
להמשך קריאה
שאלות נפוצות על Hallucination
מה זה הזיה של AI?
- מצב שבו מודל שפה מייצר מידע שנשמע נכון ובטוח אך אינו קיים: ציטוט, נתון, קישור או עובדה. זה קורה כי המודל מנבא טקסט סביר, הוא לא מאמת עובדות.
ChatGPT נותן מידע שגוי על העסק שלי, מה עושים?
- בדקו מאיפה המידע הגיע: עמוד ישן, פרופיל גוגל לא מעודכן או סתירה בין מקורות. תקנו ועדכנו את המקורות, הקפידו על מידע אחיד בכל מקום וסמנו עובדות על העסק בסכמה. שינוי בתשובות המודלים לוקח זמן.
איך מונעים הזיות בתוכן AI שאני מפרסם?
- תנו למודל את העובדות בפרומפט במקום לבקש ממנו להמציא אותן, בדקו כל נתון וקישור מול מקור ראשוני, ואל תפרסמו דבר בלי בדיקה של אדם שמכיר את התחום.