Те, що вам дає ШІ, — можливо, не відповідь, а гарно оформлена галюцинація

Сьогодні я попросив Gemini допомогти знайти монтажників кондиціонерів за умови, що він спиратиметься переважно на досвід користувачів PTT або Dcard (двох із найпопулярніших інтернет-форумів Тайваню).

Спочатку він перелічив кілька адрес, які виглядали доволі повними, але коли я переходив за ними, вони або не відкривалися, або вміст не збігався.

Щойно я вказав на це, він «зліпив» ще повніший список

Після того як я вказав, що з адресами щось не так, він знову склав «справжній список рекомендацій кондиціонерів від користувачів PTT», цього разу з назвами магазинів, PTT ID, причинами рекомендацій і навіть підказками, якими ключовими словами можна шукати.

На перший погляд, справді здавалося, що він серйозно все перевірив.

Але при глибшій перевірці проблема стала ще більшою: ті магазини майже неможливо знайти, а так звані пости на PTT і рекомендації користувачів мережі також не мали жодного відповідного джерела.

Це «генеративний ШІ», а не «ШІ, який відмовляється»

Цей випадок також нагадав мені ще про дещо: у ситуаціях, коли потрібно шукати дані, деякі ШІ, якщо не можуть знайти надійну інформацію, не обов’язково чесно скажуть вам «я не знайшов», а натомість якимось чином «зліплять» вміст, який виглядає цілком розумно.

Бо це «генеративний ШІ», а не «ШІ, який відмовляється».

Інакше кажучи, те, що вам дає ШІ, можливо, не відповідь, а гарно оформлена галюцинація.

Коли йдеться про реальний світ, не можна покладатися лише на ШІ

ШІ чудово підходить, щоб допомогти нам упорядкувати напрям пошуку, згенерувати ключові слова та узагальнити вже підтверджений вміст; але щойно йдеться про реальні магазини, ціни та відгуки, або про такі речі, як право, медицина чи інвестиції, аж ніяк не можна покладатися лише на відповідь ШІ.

ШІ може допомогти нам заощадити час на пошук, але не може замінити перевірку джерел. Те, що щось виглядає повним, не означає, що воно правдиве.