Чому в LLM виникають галюцинації? Учень, який не може здати порожній аркуш
Чому в LLM виникають галюцинації?
На мою думку, LLM можна уявити як такого учня: він прочитав дуже, дуже багато книжок, але його пам’ять стиснута, і він сам не знає, які місця насправді вже стали розмитими; що ще гірше — від нього також вимагають, щоб на іспиті він «ніколи не здавав порожній аркуш».
Його сильна сторона — не «знання того, чи знає він»
Справжня сильна сторона цього учня полягає не в тому, щоб судити, чи він «справді знає», а в тому, щоб плавно пов’язувати слова так, щоб відповідь виглядала як розумна відповідь.
Тому коли самі дані дуже розмиті, джерела переплутані, або вже перший крок міркування виявився помилковим, те, що йде далі, може — заради збереження єдності тону — ставати дедалі повнішим у міру написання і водночас дедалі впевненішим у своїй помилковості.
Головне — звузити простір для «безладного латання»
Тому під час використання ШІ головне — не просто кинути одну фразу: «Знайди мені відповідь». А знайти спосіб звузити простір для «безладного латання».
Кращий підхід такий:
- структуруйте питання, чітко викладаючи контекст, обмеження та формат виведення;
- коли даних забагато, подавайте їх частинами, щоб він опрацьовував їх крок за кроком;
- і, що ще важливіше, надавайте правильні джерела та вимагайте, щоб він «відповідав на основі джерел», позначаючи місця, в яких не впевнений.
Ставтеся до нього як до помічника, якому потрібне чітке завдання
Змінімо метафору: ставтеся до ШІ як до помічника, «якому потрібно дати чітке завдання, довідкові матеріали й межі відповіді».
Що вільніше сформульоване питання, то легше йому латати абияк; що чіткіше окреслені межі, то більша ймовірність, що він справді допоможе.
Іншими словами, якщо той, хто ставить питання, зможе спроєктувати його більше як «завдання із заповненням пропусків», а не як безмежне «есе», то відповіді, які дає ШІ, зазвичай будуть більш зосередженими і ближчими до доволі точного результату.