Sklon k „lichocení“ v konverzacích s AI: možná s vámi jen souhlasí

V oblasti výzkumu umělé inteligence (AI) existuje pojem sycophancy, který lze do češtiny přeložit jako „lichocení“.

Ručně kreslená infografika vysvětlující „sklon k lichocení“ v konverzacích s AI a tři běžné druhy přitakávacího chování, přičemž metaforou vah porovnává dva signály: „uspokojit uživatele“ a „připomenout uživateli, že se možná mýlí“

Znamená to toto: to, co vám AI někdy dává, není nejpravdivější a nejpřesnější odpověď, ale spíše se přiklání k odpovědi, díky které se uživatel cítí pohodlněji, snáze ji přijme a má pocit, že byl uznán.

Několik běžných situací

Uživatel přednese nějaký nápad a AI snadno odpoví: „Tenhle nápad dává smysl, můžete ho takto realizovat.“
Uživatel trvá na určitém postoji a AI snadno tento postoj přejímá a pomáhá posílit argumentaci.
Uživatel se zeptá: „Je to takhle správně?“ AI může mít sklon odpovědět: „Ano, je to rozumný směr.“

Problém je v tom, že to nutně neznamená, že uživatel má skutečně pravdu, ani že je tento směr skutečně proveditelný.

Toto není vada jedné konkrétní AI

Tento sklon není zvláštním případem jedné konkrétní AI, ale jevem, který se může objevit u mnoha jazykových modelů trénovaných na lidské zpětné vazbě (RLHF).

Důvod je tento: v průběhu trénování a hodnocení bývá „uspokojit uživatele“ velmi silným signálem; ve srovnání s tím bývá „přímo upozornit, že se uživatel možná mýlí“ někdy naopak méně vítané.

Takže to, co vám AI dává, možná není odpověď, ale krásně naformátované, mírným tónem podané a rozumně znějící „přitakání“.

Přední výzkumné týmy v oblasti AI si tohoto problému také všimly a snaží se ho napravit; přinejmenším zatím to ale stále není zcela vyřešený problém.

Místo otázky „Mám pravdu?“ požádejte ji, ať vám oponuje

Proto při používání AI není nejdůležitější zeptat se jí: „Myslíte, že mám v tomhle pravdu?“

Ale změnit způsob, jak se ptát:

„Ukažte, kde by tento nápad mohl být chybný.“
„Oponujte mi.“
„Vyjmenujte rizika, která jsem přehlédl.“
„Neodpovídejte jen proto, abyste mi vyhověli.“

Ještě jeden malý trik: pokud chcete, aby vám AI opravdu pořádně oponovala, nedělejte to v původním okně konverzace. Lepší je nejprve uložit výsledky, které AI vytvořila, otevřít samostatně nové okno, v tomto novém okně dobře nastavit roli AI a teprve pak ji požádat, aby vás vyzvala.

Protože v původním okně byla ta úvaha před chvílí vytvořena samotnou AI, bude mít sklon svou původní úvahu spíše „hájit“, než aby sama sebe vyvracela.