Amit az MI ad, lehet, hogy nem válasz, hanem gondosan megformázott hallucináció

Ma megkértem a Geminit, hogy segítsen légkondicionáló-szerelőket találni, azzal a feltétellel, hogy elsősorban a PTT-n vagy a Dcardon (Tajvan két legnépszerűbb internetes fóruma) található felhasználói tapasztalatokra támaszkodjon.

Eleinte felsorolt néhány nagyon teljesnek tűnő webcímet, de amikor rákattintottam, vagy nem nyíltak meg, vagy a tartalom nem stimmelt.

Alighogy szóltam neki, még teljesebbre „tákolta” össze

Miután jeleztem neki, hogy a webcímekkel probléma van, újra összeállított egy „a PTT-felhasználók valódi légkondicionáló-ajánlásainak listája” című dokumentumot, amelyben szerepeltek boltnevek, PTT-azonosítók, ajánlási indokok, sőt még azt is megtanította, milyen kulcsszavakkal kereshetek.

Első pillantásra tényleg úgy tűnt, mintha komolyan leellenőrizte volna.

De ha tovább néztem utána, a probléma csak nagyobb lett: azok a boltok szinte sehol sem voltak megtalálhatók, és az úgynevezett PTT-hozzászólásoknak és felhasználói ajánlásoknak sem volt fellelhető forrása.

Ez „generatív MI”, nem „elutasító MI”

Ez az eset arra is emlékeztetett: olyan helyzetekben, amikor adatokat kell keresni, néhány MI, ha nem talál megbízható adatot, nem feltétlenül vallja be őszintén, hogy „nem találtam”, hanem inkább megpróbál „összetákolni” egy egészen ésszerűnek tűnő tartalmat.

Mert ez „generatív MI”, nem „elutasító MI”.

Más szóval, amit az MI ad, lehet, hogy nem válasz, hanem egy gondosan megformázott hallucináció.

Ha valós világbeli dologról van szó, nem elég csak az MI-re hagyatkozni

Az MI nagyon jól alkalmas arra, hogy segítsen rendszerezni az irányt, keresési kulcsszavakat generálni, és összegezni a már megerősített tartalmat; de amint valódi üzletekről, árakról, értékelésekről, vagy olyan dolgokról van szó, mint a jog, az orvoslás vagy a befektetés, semmiképp sem szabad kizárólag az MI válaszára hagyatkozni.

Az MI segíthet nekünk időt spórolni a keresésnél, de nem helyettesítheti a források ellenőrzését. Az, hogy valami teljesnek tűnik, nem jelenti azt, hogy igaz is.