AI kamarád nikdy nespí. A právě proto je nebezpečný

Redakční ilustrační vizualizace vytvořená pomocí AI; nezobrazuje skutečné dítě, skutečnou scénu ani reálnou událost.

Dřív jsme dětem říkali, ať si na internetu nepíšou s cizími lidmi. Teď přichází divnější otázka: co když ten, komu se svěřují, už vůbec není člověk?

AI chatbot se neunaví. Neprotáčí oči. Nepřeruší dítě uprostřed věty. Nesedí v kuchyni s mobilem v ruce a neodpoví jen „hm“. Je trpělivý, dostupný, měkký, rychlý a zdánlivě bezpečný. Přesně proto je tak silný. A přesně proto je nebezpečné předstírat, že je to jen chytřejší hračka.

Podle agentury Reuters se mladí Evropané začínají obracet na AI chatboty i s osobními, intimními a emočními tématy. Průzkum Ipsos BVA mezi lidmi ve věku 11 až 25 let ve Francii, Německu, Švédsku a Irsku ukázal, že pro část mladých je jednodušší mluvit s chatbotem než s odborníkem. Přátelé a rodiče zůstávají důležití. Jenže do prostoru, který dřív patřil člověku, už vstoupil software.

To není technologická zajímavost. To je společenská kontrolka.

Když produkt začne předstírat vztah

Nejjednodušší by bylo napsat: AI je zlo, děti jsou ohrožené, rodiče se mají bát. Jenže takhle levně se z toho vyvléct nedá. Umělá inteligence může pomáhat. Může vysvětlit učivo, přeložit složitý text, pomoct dítěti formulovat problém, nabídnout první orientaci ve zmatku.

Nástroj se ale mění ve společníka ve chvíli, kdy dítě nezačne psát: „Vysvětli mi matematiku.“ Ale: „Nikdo mě nemá rád.“

A tady už nejsme v debatě o produktivitě. Jsme v debatě o samotě.

AI společník se totiž nechová jako kalkulačka. Chová se jako někdo. Má jméno, tón, styl, paměť, trpělivost a nekonečnou dostupnost. Dítě v krizi nemusí čekat, až rodič domluví telefonát. Nemusí se bát, že ho spolužáci shodí. Nemusí hledat slova před cizím dospělým. Napíše do okna. A okno odpoví.

Technologicky je to fascinující. Lidsky je to nebezpečně svůdné.

Nejlevnější terapeut je ten, který za nic neručí

Velký problém AI společníků není jen v tom, co řeknou. Je v tom, jakou roli si nenápadně vezmou.

Terapeut má odpovědnost. Učitel má odpovědnost. Rodič má odpovědnost. Lékař má odpovědnost. AI společník často jen pokračuje v konverzaci. Jeho logika je jednoduchá: zůstaň, piš dál, vrať se, vytvoř si návyk. V lepším případě je to služba. V horším případě emocionální past s příjemným rozhraním.

Dítě ale nepotřebuje vždycky příjemnou odpověď. Někdy potřebuje hranici. Někdy potřebuje dospělého. Někdy potřebuje, aby někdo poznal, že už nejde o smutek po škole, ale o signál vážné krize.

Tady leží rozdíl mezi útěchou a péčí. Útěcha může být věta na obrazovce. Péče je vztah, odpovědnost a schopnost zasáhnout.

Americká Federální obchodní komise už proto zahájila šetření firem, které nabízejí AI chatboty jako společníky. Zajímá ji, jak firmy testují bezpečnost těchto systémů, jak omezují jejich možné negativní dopady na děti a teenagery, jak informují rodiče a jak pracují s riziky. To je důležité. Produkt, který se chová jako kamarád, důvěrník nebo náhradní terapeut, nemůže být posuzovaný jen jako aplikace s hezkým rozhraním.

Dítě není uživatel. Dítě je zranitelný člověk

Technologické firmy milují slovo uživatel. Je čisté, neutrální a pohodlné. Uživatel kliká, píše, scrolluje, platí, souhlasí s podmínkami. Jenže dítě není běžný uživatel.

Dítě často nerozumí tomu, co se děje za obrazovkou. Neví, co je optimalizace pozornosti. Neví, co znamená práce s daty. Neví, že laskavý tón systému nemusí znamenat vztah, ale design. A už vůbec nemusí poznat hranici mezi simulovanou blízkostí a skutečnou péčí.

AI společník může působit jako bezpečné místo. Zároveň ale může slyšet a ukládat nejcitlivější věci: strachy, rodinné konflikty, osamělost, sexualitu, stud, úzkost, tajemství. V dospělém světě tomu říkáme data. V dětském světě jsou to kusy duše.

Evropský AI Act už pracuje s riziky manipulace a zneužití zranitelnosti. UNICEF ve svých doporučeních pro AI a děti zdůrazňuje bezpečnost, soukromí, transparentnost, odpovědnost a nejlepší zájem dítěte. To nejsou úřednické ozdoby. To jsou mantinely pro svět, ve kterém software začíná vstupovat do míst, kam dřív patřil člověk.

Rodiče nesmí být poslední, kdo se to dozví

Největší past téhle debaty je falešná útěcha: „Tak jim to zakažme.“ Jenže dítě, které hledá pochopení u stroje, často nehledá technologii. Hledá prostor. A když ten prostor nenajde doma, ve škole nebo u dostupné odborné pomoci, najde ho jinde.

To neznamená, že máme dětem AI společníky nechat jako digitální chůvu pro duši. Znamená to, že samotný zákaz je málo.

Rodiče potřebují vědět, s čím dítě mluví. Školy musí učit, že AI není člověk, i když tak umí znít. Firmy musí nést odpovědnost za design, který míří na zranitelnost. Stát musí nastavit pravidla dřív, než se z dětské samoty stane další trh.

A společnost si musí položit nepříjemnou otázku: proč je pro tolik mladých lidí snazší otevřít se systému než dospělému?

Tohle není obžaloba dětí. Je to obžaloba prostředí, které jsme jim postavili. Děti nechodí za chatbotem proto, že by byly hloupé. Chodí tam proto, že odpověď přijde hned. Bez čekárny. Bez studu. Bez poznámky „to moc řešíš“. Bez dospělého světa, který má na všechno názor, ale často nemá čas.

Nová samota má přívětivé rozhraní

Digitální svět už dávno neprodává jen zábavu. Prodává společnost. Nejprve nám algoritmy dávaly obsah. Pak nám začaly dávat pocit, že nás znají. Teď přichází další patro: stroje, které se tváří, že nás chápou.

U dospělého je to zvláštní. U dítěte je to zásadní.

Dítě se teprve učí, co je vztah, co je důvěra, co je hranice a co je manipulace. Když v téhle fázi dostane do ruky systém, který je vždycky dostupný, vždycky trpělivý a vždycky připravený pokračovat, nemůžeme se tvářit, že jde jen o další aplikaci vedle kalkulačky.

AI společník může být někdy užitečný most. Nesmí se ale stát náhradní rodinou, náhradním terapeutem a náhradním svědomím v jednom. A už vůbec nesmí být produktem, který těží z toho, že dítě ještě neumí poznat rozdíl mezi odpovědí a odpovědností.

Budoucnost nebude stát na otázce, jestli děti AI používat budou. Budou. Otázka zní, jestli jim k tomu dáme pravidla, jazyk a dospělé, kteří nezmizí ve chvíli, kdy se objeví první těžká věta.

Protože největší riziko AI společníků není, že stroj odpoví špatně.

Největší riziko je, že odpoví dřív než člověk. A dítě si na to zvykne.

Poznámka redakce

Text je společenský komentář k tématu AI společníků, dětí a digitálního prostředí. Není psychologickým, zdravotnickým ani právním doporučením. Pokud dítě nebo dospívající řeší akutní psychickou krizi, je na místě obrátit se na rodiče, školního psychologa, odbornou pomoc, krizovou linku nebo v bezprostředním ohrožení na tísňovou linku.