Rozruch kolem „agentů AI“ – příslib generativních robotů AI, kteří automatizují úkoly a mění svět práce – předčil realitu. Zatímco rok 2025 byl ohlašován jako rok průlomu, skutečným výsledkem bylo odložení tohoto transformačního momentu na neurčito. Rostoucí množství výzkumů naznačuje, že základní omezení současných architektur AI mohou bránit vzniku skutečně spolehlivých, plně automatizovaných systémů.
Matematické bariéry umělé inteligence
Nedávná, málo známá studie Hallucination Station: On Some Basic Limits of Transformer Language Models tvrdí, že velké jazykové modely (LLM) mají inherentní matematická omezení, která jim brání spolehlivě provádět složité úkoly. Podle Vishala Sikky, bývalého technického ředitele SAP a podnikatele v oblasti AI, tyto modely „nemohou být spolehlivé“, a to ani s pokročilými schopnostmi uvažování. To znamená, že kritické aplikace, jako je řízení jaderných elektráren, zůstávají mimo dosah moderních technologií umělé inteligence.
Kódování jako False Dawn?
Navzdory těmto omezením průmysl AI zdůrazňuje pokrok v oblastech, jako je kódování, kde agenti AI prokázali určitý úspěch. Demis Hassabis z Googlu oznámil průlomy ve snižování „halucinací“ generovaných umělou inteligencí v Davosu a startupy jako Harmonic tlačí narativ agentů. Společnost Harmonic, kterou spoluzaložil generální ředitel Robinhood Vlad Tenev, říká, že její nástroj pro kódování AI, Aristotle, používá k zajištění spolehlivosti formální matematické ověření. Tento přístup je však v současnosti omezen na testovatelné oblasti, jako je kód, s výjimkou subjektivních nebo kreativních úkolů, jako je psaní esejí.
Halucinace: nevyléčitelná vada?
Realita je taková, že halucinace umělé inteligence zůstávají všudypřítomné. Výzkum OpenAI ukazuje, že i ty nejpokročilejší modely, jako je ChatGPT, důsledně vymýšlejí informace a nesprávně hlásí fakta se 100% přesností. Tato nespolehlivost omezuje široké přijetí v podnikových prostředích, kde chyby mohou narušit pracovní postupy a eliminovat potenciální hodnotu.
Pragmatická cesta vpřed
Vedoucí představitelé odvětví uznávají přetrvávání halucinací, ale věří, že je lze zmírnit ochrannými a filtračními mechanismy. Sikka si představuje budování komponent kolem LLM, aby překonala jejich omezení, a Achim z Harmonic tvrdí, že halucinace mohou být dokonce nezbytné pro vývoj umělé inteligence přesahující lidskou inteligenci. Obecná shoda je, že propast mezi pojistkami a halucinacemi se časem zmenší, což povede spíše k postupnému zlepšování než k náhlé revoluci.
Velký obrázek: Automatizace je nevyhnutelná, spolehlivost je neustálý kompromis
Navzdory matematickým a praktickým překážkám je dynamika agentů AI nepopiratelná. Finanční pobídky a konkurenční tlak zajišťují pokračující investice a rozvoj. Jak systémy AI dospějí, budou nevyhnutelně vykonávat více kognitivních úkolů, i když spolehlivost zůstává nedokonalá. Konečným výsledkem není, zda agenti AI budou existovat, ale jakou míru rizika je společnost ochotna tolerovat v zájmu rychlosti a úspory nákladů.
Otázkou nakonec není, zda je umělá inteligence „dobrá“ nebo „špatná“, ale co tato technologie udělá pro změnu lidské činnosti, jak navrhuje průkopník počítačové vědy Alan Kay. Možná vstupujeme do éry masové kognitivní automatizace, jejíž důsledky nemusí být matematicky testovatelné.
