Umělá inteligence a kritické myšlení: nový luxus bude umět…

Umělá inteligence a kritické myšlení spolu nevedou válku. Válku vede pohodlí s odpovědností. A člověk, jak známo, má pro pohodlí slabost.

Nová generace AI nástrojů nám neslibuje jen rychlejší práci. Slibuje úlevu. Nemusíme hledat první formulaci. Nemusíme se trápit s osnovou. Nemusíme držet v hlavě deset souvislostí najednou. Stačí se zeptat. Model odpoví. Hladce, sebejistě, s tónem člověka, který právě přišel z porady budoucnosti.

Jenže právě v tom je problém. Umělá inteligence nemusí být zlá, aby nás poškodila. Stačí, když je příliš ochotná.

Umělá inteligence a kritické myšlení: problém není chyba, ale odevzdání volantu

O AI se často mluví přes její omyly. Halucinace, vymyšlené citace, sebevědomé nesmysly, špatné právní rady, nepřesná medicína, historické bláboly v akademickém kabátě. To všechno je reálné. Jenže hlubší riziko neleží v tom, že se model někdy splete.

Hlubší riziko je, že člověk přestane cítit povinnost poznat, kdy se model plete.

To je mnohem horší než jednotlivá chyba. Chybu jde opravit. Odevzdaný reflex se opravuje těžko. Když si zvykneme, že první odpověď z AI vypadá dost dobře, mozek začne šetřit přesně tam, kde by měl zabrat. Neptá se: odkud to víš? Neptá se: co tady chybí? Neptá se: komu tahle odpověď vyhovuje? Jen vezme hotový tvar a udělá z něj vlastní názor.

A tady začíná nenápadná proměna. Člověk se netváří jako hlupák. Naopak. Působí efektivně. Má shrnutí, argumenty, návrh, plán, e-mail, prezentaci. Jenže uvnitř se může dít něco nepříjemného: myšlení se přesouvá z dílny do výdejního okénka.

AI nás neučí nevědět. Učí nás přeskočit nepohodlí

Kritické myšlení není elegantní stav duše. Je to nepříjemná práce. Člověk musí chvíli nevědět. Musí snést rozpor. Musí si připustit, že první nápad je slabý, že oblíbený argument má díru a že krásná věta ještě není pravda.

AI tenhle nepříjemný prostor okamžitě zaplní. A protože ho zaplní plynule, vzniká iluze hotového myšlení. Jenže hladkost není hloubka. Dobře napsaná odpověď není totéž co dobře ověřená odpověď.

Výzkum Microsoftu mezi znalostními pracovníky ukazuje důležitý vzorec: čím víc lidé důvěřují generativní AI, tím méně podle vlastních výpovědí zapojují kritické myšlení. Naopak vyšší důvěra ve vlastní schopnost úkolu rozumět souvisí s větší ochotou AI kontrolovat, upravovat a vést.

To je zásadní rozdíl. AI není nejnebezpečnější v rukou člověka, který jí nerozumí. Je nejnebezpečnější v rukou člověka, který jí věří víc než vlastnímu úsudku.

Kognitivní dluh: dnes ušetříš námahu, zítra splácíš prázdno

Preprint vedený výzkumníky z MIT Media Lab popsal při psaní esejí něco, co autoři nazvali kognitivním dluhem. Je potřeba číst ho s brzdou: nejde o definitivní rozsudek nad mozkem celé generace, ale o zajímavý a varovný experiment. Účastníci pracovali buď bez nástrojů, se search enginem, nebo s LLM. Výzkumníci sledovali mimo jiné mozkovou aktivitu pomocí EEG, podobnost textů, paměť a pocit autorství.

Výsledek není třeba prodávat jako apokalypsu. Je zajímavější než strašení. Lidé s AI mohli rychle vyrobit použitelný text. Jenže jejich zapojení, paměť i pocit vlastnictví textu byly slabší než u těch, kteří museli víc myslet sami. Největší varování není v tom, že AI píše za nás. Varování je v tom, že po chvíli už ani přesně necítíme, co z výsledku je naše.

Tohle se netýká jen škol. Týká se práce, médií, politiky, byznysu i obyčejných osobních rozhodnutí. Když člověk zadá AI, aby mu sepsala stanovisko, ještě se nic hrozného neděje. Když ale podle toho stanoviska začne cítit vlastní názor, aniž prošel cestu k němu, ztratil víc než čas.

Ztratil tření.

A bez tření není úsudek. Jen skluz.

Nejhorší uživatel AI je poslušný člověk

Dobré použití AI nevypadá jako poslušnost. Vypadá jako hádka.

Uživatel, který myslí, se ptá dál. Chce zdroje. Ověřuje pojmy. Hledá protiargument. Nechává si vypsat slabiny. Nutí model rozlišit jistotu od odhadu. Přepisuje. Škrtá. Vrací do textu vlastní zkušenost, vlastní rytmus, vlastní pochybnost.

Špatný uživatel AI přijde k hotové odpovědi jako k autoritě. Vezme ji, uhladí, podepíše se pod ni a ještě má pocit, že pracoval chytře. Jenže chytrost není schopnost rychle získat výstup. Chytrost je schopnost poznat, jestli výstup unese realitu.

Halucinace nejsou porucha na okraji. Jsou vlastnost systému, se kterou musíme počítat

Část veřejné debaty pořád čeká, že halucinace AI prostě zmizí. Že přijde další model, větší model, chytřejší model, a problém bude pryč. Jenže výzkum publikovaný v Nature připomíná nepříjemnou věc: způsob, jakým modely hodnotíme a odměňujeme, může sebevědomé chybování dokonce podporovat.

To neznamená, že AI je k ničemu. Znamená to, že ji nesmíme používat jako kněze pravdy. AI je silný pracovní nástroj. Není to svědomí, editor reality ani náhradní rozum.

Prakticky to znamená jednoduchou věc: čím vážnější rozhodnutí, tím menší právo má AI být poslední instancí. U textu může pokazit odstavec. U právní rady může pokazit život. U zdravotní otázky může pokazit víc než reputaci. U voleb, propagandy a veřejné debaty může pokazit společný smysl pro skutečnost.

Budoucnost nebude patřit těm, kdo AI nepoužívají

Romantická představa, že řešením je AI odmítnout, je pohodlná z druhé strany. Jen další útěk. Budoucnost nejspíš nebude patřit lidem, kteří AI ignorují. Bude patřit lidem, kteří ji používají bez podřízenosti.

Nová gramotnost nebude znít: umím promptovat. To je málo. Nová gramotnost bude znít: umím poznat, kdy mi stroj usnadňuje práci, a kdy mi bere úsudek.

Ve škole to znamená nenechat děti jen generovat referáty, ale učit je rozebrat odpověď, najít chybu, ověřit tvrzení, obhájit vlastní postup a přiznat nejistotu. V práci to znamená nezaměňovat AI výstup za rozhodnutí.

AI nám nastavuje zrcadlo. Neukazuje jen technologii. Ukazuje, jak moc jsme ochotni vyměnit nepohodlí vlastního myšlení za hladký pocit hotové odpovědi.

A možná právě tady bude hranice mezi člověkem, který s AI vyroste, a člověkem, kterého AI tiše zmenší.

Ne v tom, kdo bude mít lepší nástroj.

V tom, kdo si nechá vlastní hlavu zapnutou i ve chvíli, kdy už by ji vypnout bylo tak strašně snadné.

Kam dál

Zdroje a rešerše

Sledujeme celé téma: další texty o AI, práci, přemýšlení a odpovědnosti najdete v rozcestníku Umělá inteligence.

Umělá inteligence a kritické myšlení: nový luxus bude umět nesouhlasit