הזיה (Hallucination)

הרחבה

הזיות נובעות מכך שמודלי שפה מייצרים טקסט על בסיס הסתברות ולא על בסיס אמת מאומתת. הן שכיחות במיוחד בנושאים נישתיים, בציטוטים, בכתובות URL ובנתונים מספריים. הטכניקות המרכזיות להפחתה: RAG, grounding ל-Google Search, ואימות פוסט-הוק.

מונחים קשורים

• LLM (Large Language Model)
• RAG (Retrieval-Augmented Generation)
• Grounding
• ציטוט (Citation)