dokonalá lež od AI: AI a dokonalá lež: blud, který už nevypadá…

Dokonalá lež od AI není věta s překlepem, směšný nesmysl ani robotické blekotání, které člověk pozná po třech slovech. To byla stará éra. Ta pohodlná. Dnes se problém tváří jinak: jako uhlazený odstavec, přesná formulace, klidný tón a sebevědomý závěr. Neřve, nekoktá, nečervená se. Přijde v obleku.

A právě v tom je nová nebezpečnost umělé inteligence. Ne v tom, že se plete. Lidé se pletou odjakživa. Nové je, že stroj dokáže omyl zabalit do jazyka, který připomíná autoritu. Umí vyrobit odpověď, která na první pohled vypadá líp než poctivá nejistota.

Dokonalá lež od AI není chyba v textu. Je to chyba v důvěře

Neohrabaná pravda má jednu výhodu: často je poznat, že se lopotí. Člověk váhá, opravuje se, dohledává, přizná mezeru, řekne „nevím“. V dobré redakci je to známka práce, ne slabosti.

Jenže digitální prostředí dlouho vychovávalo publikum k opačnému reflexu. Kdo mluví rychle, hladce a jistě, působí silněji. Kdo pochybuje, vypadá slabě. AI tenhle kulturní zlozvyk nevymyslela. Jen ho dotáhla do profesionální podoby.

Stroj nemá stud. Nemá paměť ve smyslu lidské odpovědnosti. Nemá vnitřní brzdu, která by ho pálila v žaludku, když si není jistý. Umí napsat větu, která se tváří jako výsledek práce, i když je někdy jen výsledkem pravděpodobnosti.

Tomu se říká halucinace. Slovo je trochu měkké, skoro poetické, ale ve skutečnosti jde o tvrdý problém: systém sebevědomě vyrobí tvrzení, které není pravda. Ne vždy ze zlé vůle. Ne proto, že by chtěl lhát jako člověk. Ale proto, že jeho hlavní schopností je pokračovat v řeči tak, aby měla tvar. A tvar není totéž co pravda.

Stroj neumí nést ostudu

Novinář, právník, lékař, učitel nebo úředník může udělat chybu. Rozdíl je v tom, že za ni někdo konkrétní stojí. Má jméno, podpis, šéfa, instituci, profesní pravidla, někdy i soud.

U AI se odpovědnost často rozpustí mezi modelem, platformou, uživatelem, daty, promptem a drobným upozorněním někde pod oknem. To je pohodlné pro firmy a nebezpečné pro veřejnost.

Když falešnou informaci napíše člověk, ptáme se: kdo to napsal, proč to napsal, kde to vzal, kdo to pustil ven? Když ji vyrobí AI, příliš často slyšíme: systém může dělat chyby. Jenže upozornění, že nástroj může chybovat, není náhrada za odpovědnost. Je to cedule u stroje, který už běží uprostřed náměstí.

Nejhorší není výstup, který vypadá špatně. Nejhorší je výstup, který vypadá až příliš dobře. Pěkný rytmus vět, rozumně působící odstavce, falešně přesná čísla, jména, citace a odkazy. Vzniká jazyková kulisa věrohodnosti. Čtenář nevidí práci. Vidí hotový povrch.

Když se blud opře o značku

Další problém začíná ve chvíli, kdy AI pracuje se jmény zavedených médií. Když chatbot shrnuje zprávy a odkazuje na známou redakci, půjčuje si její váhu. I když odpověď překroutí, špatně ocituje nebo spojí starý kontext s novým, v očích části publika pořád svítí aura zdroje.

To je pro žurnalistiku zákeřné. Média už dnes bojují s únavou publika, politickým tlakem, sociálními sítěmi, dezinformačním provozem a vlastními selháními. AI do toho přidává další vrstvu: prostředníka, který dokáže zprávu rozžvýkat, přeuspořádat, zkrátit, uhladit a někdy i poškodit, aniž by čtenář vůbec vstoupil na původní web.

Vypadá to jako služba. Ve skutečnosti to může být výměna vztahu. Dřív čtenář věděl, že čte konkrétní médium. Pak začal číst útržky na sociálních sítích. Teď se může ptát stroje a dostat odpověď, která zní jako souhrn světa. Jenže svět není souhrn. A žurnalistika není jen výdej hotových vět.

Pravda bývá pomalejší než stroj

Skutečná novinařina je často nepohodlná práce s odporem reality. Někdo nezvedá telefon. Dokument je neúplný. Číslo nesedí. Výpovědi si odporují. Odborník odpoví až zítra. Archiv mlčí. Úřad pošle tabulku, která vypadá přesně, ale neříká to hlavní.

AI tenhle odpor umí esteticky odstranit. Když něco chybí, doplní hladkou přechodovou větu. Když je téma rozbité, sjednotí ho. Když je realita špinavá, vyčistí ji do přehledného odstavce. Jenže někdy právě nepořádek je důkazem, že text narazil na skutečnost. Příliš dokonalá odpověď může být známkou toho, že se nikde nezadrhla o svět.

Proto je nebezpečné hodnotit text jen podle toho, jak dobře se čte. Dobrá věta může nést špatnou informaci. Elegantní odstavec může krýt prázdné místo. Sebevědomý tón může být jen make-up na nejistotě.

AI v redakci ano. Autopilot ne

Rozumná odpověď není technologická panika. AI v redakci smysl má. Může pomáhat s rešeršní mapou, kontrolními otázkami, přepisem, tříděním podkladů, vysvětlením složitého tématu nebo hledáním slepých míst. Jenže nesmí se z ní stát tichý šéfredaktor bez jména.

Základní pravidlo je jednoduché: stroj může pomoci, člověk musí ručit. Ne obráceně. Jakmile redakce pustí ven text, číslo, citaci, shrnutí nebo titulek, odpovědnost neleží na modelu. Leží na redakci. Na autorovi. Na editorovi. Na procesu. Na tom, jestli někdo opravdu zvedl kapotu a podíval se, co uvnitř běží.

Transparentnost také nestačí, pokud je jen dekorace. Věta „při tvorbě byla použita AI“ sama o sobě neříká skoro nic. Byla použita na přepis rozhovoru? Na jazykovou korekturu? Na rešerši? Na celý text? Kontroloval někdo fakta? Byly ověřené citace? Byl výstup porovnán s původními zdroji? Bez těchto otázek je transparentnost jen další uhlazená plocha.

Nová gramotnost: nevěřit hladkosti

Čtenář se bude muset naučit nový reflex. Neptat se jen, jestli text zní chytře. Ptát se, odkud to ví. Neobdivovat plynulost. Hledat původ. Nezaměňovat styl za práci. Nevěřit větě jen proto, že se nebojí sama sebe.

Tohle je možná největší kulturní změna. Dlouho jsme lidi učili poznávat lež podle primitivnosti. Podle vykřičníků, překlepů, špatné grafiky, podezřelých webů a opilého tónu. Jenže nová faleš může být tichá, čistá a přiměřená. Může mít dobrý rytmus. Může být bez hrubek. Může znít jako někdo, kdo ví.

V digitálním století proto nebude stačit ptát se, jestli je text hezký. Budeme se muset ptát, jestli je odpracovaný. Kdo za něj ručí. Z čeho vychází. Co přiznává. Kde si nechává prostor pro nejistotu.

Protože neohrabaná pravda má pořád jednu velkou přednost. Dá se s ní pracovat. Dá se opravit, doplnit, zpochybnit a podepsat. Dokonalá lež od AI je horší právě v tom, že se na první pohled nechce nechat chytit. Přijde hladká, vstřícná a sebejistá. A čeká, že člověk udělá to nejjednodušší: přestane se ptát.

Kam dál

Zdroje a rešerše

Text je autorský komentář magazínu Ostrej Úhel. Faktická tvrzení vycházejí z uvedených zdrojů.

AI a dokonalá lež: blud, který už nevypadá jako blud