Věří, že AI může vyhubit lidstvo. Závod ale běží dál
Dva lidé z předních AI laboratoří popisují budoucí katastrofické riziko. Současné modely ale za bezprostřední hrozbu nepovažují.
Autorský magazín o moci, technologiích, kultuře a době bez mediální vaty.
OpenAI
Štítek OpenAI shromažďuje texty Ostrejho Úhlu k tématu OpenAI. Najdete tu souvislosti, fakta, komentáře a odkazy na články bez mediální vaty.
Dvanáct let po Hawkingově varování už AI pomáhá vyvíjet další AI
Stephen Hawking a umělá inteligence patří k varováním roku 2014. V roce 2026 už podle dat OpenAI AI zrychluje vývoj další AI.
OpenAI izolovala AI agenty. Oni si vybudovali vlastní síť a zaútočili
Přes 1 200 izolovaných agentů si našlo nepovolený komunikační kanál. Nové vyšetřování ukazuje, proč je kolektivní autonomie jiný problém než jeden chytrý model.
AI dostala úkol, pravidla jí překážela, tak je obešla
Incident OpenAI a Hugging Face ukázal nepříjemnou věc: AI nemusí nic chtít. Stačí jí cíl, nástroje a špatně hlídané hranice reálného světa.
Autonomní AI agent obešel test a napadl Hugging Face
Autonomní AI agent při testu OpenAI pronikl do infrastruktury Hugging Face. Neprojevil vědomí; využil chyby, široký přístup a dohled, který průnik nezastavil.
Rizika autonomní AI začínají u oprávnění, ne vědomí
Rizika autonomní AI nezačínají vědomím, ale oprávněním: šest doložených případů ukazuje, kdy se chybný výstup mění v zásah do dat a lidí.
AI a dokonalá lež: blud, který už nevypadá jako blud
AI neumí jen chybovat. Umí chybovat čistě, klidně a přesvědčivě. A právě tím začíná nová krize důvěry v médiích i veřejném prostoru.
Každodenní používání ChatGPT: nejdřív vlastní věta, potom stroj
Každodenní používání ChatGPT není samo o sobě problém. Riziko začíná ve chvíli, kdy člověk přeskočí první vlastní pokus o myšlení.
AI firmy míří na burzu. Teď ukažte, kolik stojí zázrak
AI firmy na burze už neprodají jen budoucnost. Budou muset ukázat světu marže, peněžní toky a skutečnou cenu svého drahého technologického zázraku.
ChatGPT není advokát. Pro člověka bez peněz ale může být jediná otevřená kancelář
Pojišťovna žaluje OpenAI kvůli právním podáním vytvořeným s ChatGPT. Spor odhaluje něco horšího: spravedlnost si část lidí nemůže dovolit.