Dvanáct let po Hawkingově varování už AI pomáhá vyvíjet další AI

Stephen Hawking a umělá inteligence patří k varováním roku 2014. V roce 2026 už podle dat OpenAI AI zrychluje vývoj další AI.

Stephen Hawking a umělá inteligence — Dvanáct let po Hawkingově varování už AI pomáhá vyvíjet další AI
Dvanáct let po Hawkingově varování už AI pomáhá vyvíjet další AI. AI ilustrační vizualizace.

Začátkem září 2026 se v bezpečnostní kartě GPT-6 Astra objevila nenápadná, ale dost užitečná hranice. Nejschopnější model OpenAI dosáhl kritické úrovně v kybernetice, jenže v kategorii AI Self-Improvement podle firmy stále nedosahuje prahu High.

O tři dny později zveřejnila OpenAI druhou polovinu obrazu. Podle vlastních měření už ve výzkumné organizaci používá tolik agentů, že jejich celkový runtime přepočtený na osmihodinové pracovní dny odpovídal v polovině srpna 3,1 agentního pracovního dne na každý pracovní den člověka. Firma zároveň oznámila, že splnila svůj zářijový cíl vytvořit „automatického výzkumného stážistu“ schopného pod lidským vedením řešit vymezené úkoly, které by zkušenému výzkumníkovi zabraly několik dní.

Stephen Hawking a umělá inteligence se dodnes spojují především s jeho výrokem z roku 2014, že plná AI by mohla znamenat konec lidstva. Po dvanácti letech je zajímavější důvod, kterým to tehdy vysvětloval: dostatečně schopný systém by se mohl podílet na vlastním zdokonalování stále rychlejším tempem, zatímco člověk zůstane omezen pomalou biologickou evolucí.

Takový autonomní stroj dnes doložený nemáme. Máme ovšem něco, co v roce 2014 existovalo převážně jako hypotéza. AI už pracuje uvnitř procesu, kterým vzniká další AI.

Stephen Hawking a umělá inteligence — problém byla rychlost dalšího kola

Hawkingovo varování mělo v prosinci 2014 skoro absurdně vhodnou kulisu. V Londýně právě představoval nový komunikační systém ACAT vyvinutý Intelem. Predikce slov snížila množství znaků, které musel fyzik sám zadat, na méně než pětinu a jeho rychlost psaní se podle Intelu zdvojnásobila.

Technologie mu pomáhala dělat něco, co by bez ní dělal podstatně pomaleji. Ve stejný den mluvil o možnosti, že jednou vznikne technologie, u níž právě rychlost přestane být lidskou výhodou.

Hawking svůj názor nevytáhl jen pro televizní rozhovor. Už v květnu téhož roku podepsal se Stuartem Russellem, Maxem Tegmarkem a Frankem Wilczekem text o dlouhodobých důsledcích pokročilé AI. Autoři připomínali starší úvahu matematika I. J. Gooda o stroji schopném podílet se na návrhu stále schopnějších strojů. Pokud by se další kola zrychlovala, lidský výzkumník by postupně přestal určovat tempo.

Hawking tím nepředpověděl ChatGPT, dnešní AI agenty ani konkrétní modelovou architekturu. Neuvedl rok, kdy má podobný zlom přijít, a nepřiřadil katastrofě pravděpodobnost. Mluvil podmíněně o budoucí „plné“ umělé inteligenci a z hypotetického mechanismu odvozoval krajní možné následky.

Po dvanácti letech už lze oddělit části, které tehdy ležely v jednom balíku. AI prokazatelně pomáhá s prací, z níž vznikají další AI systémy. Veřejná data ale zatím nedokládají, že by tento proces převzala, sama určovala jeho směr a spustila nekontrolovanou inteligentní explozi.

V OpenAI už na další AI pracují agenti

OpenAI 6. září 2026 popsala, jak coding agents změnili každodenní práci jejích výzkumníků. Firma tvrdí, že lidé rychleji přispívají kódem, spouštějí více experimentů a delegují agentům postupně složitější úkoly. V srpnu dosáhl počet experimentů na aktivního experimentátora nejvyšší hodnoty od začátku sledování v lednu 2025.

Číslo 3,1 agentního pracovního dne na jeden lidský den zní skoro jako okamžik, kdy stroje převzaly laboratoř. Není. OpenAI počítá runtime agentů přepočtený na standardní osmihodinový den. Sama upozorňuje, že taková čísla se obtížně převádějí na skutečnou rychlost vědeckého pokroku a že současně výrazně rostlo i množství dostupného výpočetního výkonu.

Přesto se oproti roku 2014 změnilo něco podstatného. Vývojář už nepoužívá AI jen jako produkt, který testuje. Agent píše výzkumný kód, hledá chyby v experimentech, pomáhá s infrastrukturou a vykonává části práce, jejichž výsledky mohou skončit v další generaci modelů.

OpenAI tomu už dala i pracovní metu. Podle zveřejněného textu dosáhla v září 2026 úrovně automatického výzkumného stážisty: systému, který pod vedením člověka zvládá dobře vymezené výzkumné úlohy o rozsahu několika dní lidské práce. Dalším veřejně oznámeným cílem je automatický AI výzkumník v březnu 2028.

Slovo „automatický“ je tady potřeba držet na krátkém vodítku. Ve stejných datech OpenAI stojí, že u více než poloviny úspěšných úloh odpovídajících čtyřem až osmi hodinám lidské práce musel během posledního půlroku člověk alespoň jednou zasáhnout. Vysokoúrovňové plánování navíc tvoří jen malou část toho, co agenti podle analýzy firmy dělají. Lidé dál určují výzkumné priority, vybírají výsledky, rozhodují, které experimenty škálovat a co naopak zastavit.

Hawkingova představa stroje, který se sám přepracovává stále rychleji, tedy ještě nesedí na dnešní OpenAI. Vznikla však mezivrstva, kterou v roce 2014 nebylo možné ukázat na provozních datech: člověk zadá výzkumný směr, AI vykoná rostoucí kus práce na AI výzkumu a výsledek se vrací do procesu, z něhož vznikají schopnější modely.

Bez člověka se Hawkingova smyčka zatím nezavírá

Nejčerstvější veřejný údaj OpenAI je v tomto směru docela střízlivý. GPT-6 Astra je mimořádně schopný systém a v kybernetické kategorii jako první model firmy dosáhl úrovně Critical. V AI Self-Improvement ale podle systémové karty z 3. září 2026 nedosáhl ani úrovně High.

OpenAI definuje AI Self-Improvement jako schopnost systému urychlovat výzkum AI, včetně zvyšování vlastní schopnosti. Je to už sledovaná kategorie Preparedness Frameworku, nikoli volná filozofická úvaha. Existence kategorie ale není důkazem, že sledovaná událost nastala. U Astry veřejné hodnocení říká pravý opak: hranice High překročena nebyla.

Podobně postupuje Anthropic. Jeho Responsible Scaling Policy obsahuje práh pro automatizovaný výzkum a vývoj AI. V únoru 2026 firma uvedla, že Claude Opus 4.6 nepřekročil její hranici AI R&D-4. V červenci definici automatizovaného R&D znovu upravila, aby lépe odpovídala scénáři, který chce sledovat.

Obě informace mají jeden háček: OpenAI i Anthropic hodnotí vlastní systémy a současně mají obchodní zájem na jejich dalším vývoji. Jejich bezpečnostní dokumentace je zásadní primární zdroj toho, co testují a co naměřily, nikoli nezávislé razítko, že mají budoucí riziko pod kontrolou.

International AI Safety Report 2026, zveřejněný v únoru, nabízí širší protiváhu. Podle tehdy dostupných důkazů systémy neměly kombinaci schopností nutnou pro skutečnou ztrátu kontroly: dlouhodobě udržet složitý autonomní plán, obcházet protiopatření a spolehlivě si zajistit pokračování vlastní činnosti. U delších úloh agenti ztráceli přehled, naráželi na nečekané překážky a robustní sebe-replikace zůstávala daleko za laboratorními dílčími ukázkami.

Únorová zpráva pochopitelně nehodnotí zářijovou Astru. Nelze ji proto používat jako potvrzení, že se za sedm měsíců nic nezměnilo. Je užitečná jinak: ukazuje, jak vysoká je laťka mezi „AI pomáhá vyvíjet AI“ a „AI se vymkla lidské kontrole“. Ty dvě věty nejsou synonyma.

Co z Hawkingova varování zůstává po dvanácti letech

Nejpřesnější změna od roku 2014 možná není v inteligenci samotných modelů, ale v jejich místě ve výrobním procesu. Tehdy byla AI především předmětem výzkumu. Dnes je zároveň nástrojem, který část výzkumu AI skutečně vykonává.

Tohle Hawkingovi nedává zpětně status proroka. Jeho katastrofický závěr se nepotvrdil a veřejně dostupná hodnocení zatím neukazují systém schopný samostatného, dlouhodobého a nekontrolovaného sebezdokonalování. Stejně nepřesné by ale bylo jeho úvahu odložit mezi staré strašidelné výroky o robotech.

Mechanismus, na který ukazoval, získal technické názvy, benchmarky a bezpečnostní prahy. Firmy, které stavějí nejvýkonnější modely, dnes samy měří, nakolik AI dokáže urychlit vývoj AI, a jedna z nich už zveřejňuje provozní data z laboratoře, kde agenti na tomto vývoji skutečně pracují.

V roce 2014 byla otázka, zda jednou AI pomůže vytvářet lepší AI. V září 2026 OpenAI zveřejňuje grafy o tom, kolik výzkumné práce agenti odvádějí, a ve stejné době systémovou kartu, podle níž práh High pro AI Self-Improvement ještě nepřekročili.

Přesně mezi těmito dvěma dokumenty dnes Hawkingovo varování leží.

Kam dál

Zdroje a rešerše

Štítky