Kouzelná síla Ai: Přínosy, bezpečnost a výzvy regulace

Generativní modely jsou součástí běžné práce, deepfake podvody mají skutečné oběti a Evropa má první komplexní zákon o AI na světě. Ten už platí, i když ne přesně tak, jak se původně očekávalo. Tady je, co se za tři roky reálně změnilo a co z toho vyplývá pro praxi.

Přínosy: posun od slibů k provozu

Seznam přínosů AI se za poslední roky obsahově příliš nezměnil: automatizace rutiny, podpora diagnostiky v medicíně, optimalizace dopravy, personalizace nebo urychlení výzkumu. Změnila se míra, do jaké jsou tyto přínosy reálně nasazené, a tím i povaha otázky.

Před třemi lety zněla otázka: „Dá se to vůbec použít?“ Dnes zní spíše: „Vyplatí se to?“ Generativní nástroje se přesunuly z dema do každodenní praxe v psaní, kódu, zákaznické podpoře a zpracování dokumentů. To je skutečný posun.

Zároveň se ukázaly i limity. Úspora času u rutinních úkolů je měřitelná, ale přínos se rychle ztrácí tam, kde musíte výstup důkladně kontrolovat. Náklad nezmizel, pouze se přesunul z tvorby do ověřování.

Při zavádění AI do procesu proto nedává smysl měřit jen to, kolik času ušetří model. Důležitější je, kolik času zabere celý cyklus včetně kontroly a oprav. Bez tohoto čísla je ROI nasazení AI odhad, ne fakt.

zdroj: pixabay

Když se to vymkne kontrole: co z obav zůstalo

Původní koncept zmiňoval superinteligenci, autonomní zbraně, narušování soukromí, nezaměstnanost a zaujatost. Tři roky dat nám dnes umožňují seřadit tyto obavy podle toho, co se reálně děje, a co zůstává spíše spekulací.

Největší a nejlépe zdokumentovaný posun představuje zneužití AI k podvodům. Mezinárodní zpráva o bezpečnosti AI z roku 2025 řadí mezi reálná, nikoli hypotetická rizika rozsáhlé podvody, kybernetické útoky a tvorbu sexualizovaných deepfaků. Ty nejtvrději zasahují zejména ženy, děti a další zranitelné skupiny.

Zpráva dělí rizika pokročilých systémů do tří kategorií: zneužití, technická selhání a systémová rizika. Varuje také před manipulací veřejného mínění během voleb prostřednictvím cílených dezinformačních kampaní.

Kybernetická bezpečnost se mezitím posunula z teoretického rizika na ekonomický problém prvního řádu. V roce 2026 se kybernetická nejistota zařadila mezi nejvýznamnější globální rizika v dvouletém horizontu, i když ne mezi prvních pět. Pro firmy to znamená, že nejde jen o IT problém, ale o provozní a finanční riziko.

Deepfake už není okrajový jev. Začátkem roku 2026 několik států dočasně zablokovalo přístup ke generátoru Grok kvůli nekonsenzuálním deepfakům. Indonésie, Malajsie i Filipíny omezily přístup v lednu 2026, přičemž samotná společnost xAI omezila generování obrázků jen na platící uživatele. To je konkrétní příklad rizika, které před třemi lety existovalo hlavně jako varování.

Naopak superinteligence a autonomní zbraně zůstávají tématy diskuse bez jasně měřitelného dopadu na běžný provoz většiny organizací. Nezaměstnanost způsobená automatizací je zatím spíše lokální než plošná. AI dokáže automatizovat část vstupní práce, ale technické, procesní a právní překážky stále brzdí plošné nasazení. Hrozba tedy existuje, její rozsah je však otevřená otázka, ne hotový fakt.

Nejčastější zneužití: realita místo seznamu

Původní text uváděl dezinformace, phishing, škodlivý software, manipulaci dat a porušování soukromí jako potenciální způsoby zneužití. O tři roky později jsou první tři z nich doložené reálnými případy.

Falešné reklamy s celebritami na investiční podvody způsobily měřitelné škody. Australský regulátor už v roce 2024 varoval před deepfake videi veřejných osobností jako návnadou na podvodné obchodní platformy. Brazilské úřady v roce 2025 rozbily schéma, které využívalo deepfake reklamy s celebritami.

Phishing poháněný generativními modely je dnes levnější, rychlejší a přesvědčivější než v minulosti. I proto se kyberriziko dostalo mezi významné globální hrozby.

Pro praktickou obranu z toho plyne jednoduchý závěr: největší návratnost dnes nepřináší sledování spekulativních rizik, ale základní hygiena proti phishingu a deepfake podvodům poháněným AI. Ověřujte identitu při finančních transakcích jiným kanálem, buďte skeptičtí vůči „celebritním“ investičním nabídkám a školte lidi, aby dokázali rozpoznat sofistikovanější útoky.

Regulace: největší změna za poslední roky

Ještě před třemi lety jsme o regulaci uvažovali jako o abstraktní možnosti. Evropská unie mezitím přijala AI Act, vůbec první komplexní právní rámec pro AI na světě. Formálně jej Rada EU přijala 21. května 2024, účinnosti nabyl 1. srpna 2024 a jeho povinnosti se zavádějí postupně.

Důležitý je však obrat, který přišel v letech 2025–2026 a který šel proti původnímu očekávání. Mnozí čekali zpřísňování; místo toho přišlo odložení části termínů. Do konce roku 2025 bylo zřejmé, že implementace naráží na praktické a časové limity. Evropská komise proto 19. listopadu 2025 předložila návrh Digital Omnibus on AI, který přinesl zjednodušení a odklad části povinností pro vysoce rizikové systémy.

Konkrétně to znamená tyto posuny:

• Vysoce rizikové systémy podle přílohy III (biometrie, kritická infrastruktura, vzdělávání, zaměstnanost, migrace, prosazování práva): povinnosti se posunuly z 2. srpna 2026 na 2. prosince 2027, tedy o 16 měsíců.

• Systémy zabudované do produktů (výtahy, hračky a podobně): pravidla se začnou uplatňovat od 2. srpna 2028.

• Transparentnost (článek 50): povinnost označovat syntetický obsah strojově čitelným způsobem se u systémů uvedených na trh před 2. srpnem 2026 posunula na 2. prosince 2026, tedy jen o čtyři měsíce. Samotná pravidla transparentnosti nabývají účinnosti v srpnu 2026.

Přibyl také nový zákaz systémů, které generují nekonsenzuální sexuálně explicitní obsah nebo materiál zobrazující sexuální zneužívání dětí, například „nudifikační“ aplikace. To přímo reaguje na deepfake případy popsané výše.

Pokuty nejsou symbolické. Pokud AI systém pracuje s osobními údaji v rozporu s GDPR, zejména při biometrii nebo rozpoznávání emocí, sankce mohou dosáhnout až 483 000 000 Kč nebo 4 % celosvětového ročního obratu.

Co z toho vyplývá pro praxi

Odklad termínů není důvod přestat se připravovat. Je to spíše prostor udělat přípravu pořádně. Skutečné riziko není v tom, že by se pravidla zmírnila. Nezmírnila se, hlavně se posunula. Riziko spočívá v tom, že odklad ukolébá organizace k nečinnosti a v roce 2027 je termín zastihne nepřipravené.

První praktický krok je inventura. Zmapujte, které AI systémy organizace používá, kdo je vlastní, k jakým účelům slouží a zda některý z nich nespadá do vysoce rizikové nebo zakázané kategorie.

Měřitelný výstup této fáze je jednoduchý: seznam systémů s přiřazenou rizikovou kategorií a datem, od kterého se na ně vztahuje konkrétní povinnost. Bez takového seznamu se příprava na AI Act snadno změní v obecnou debatu bez vlastníka a termínu.

Závěr

Za tři roky se debata o AI posunula z roviny „co by mohlo být“ do roviny „co už je a co s tím“. Přínosy jsou reálné, ale jejich návratnost je třeba měřit na celém pracovním cyklu, ne na izolovaném úkonu.

Nejvážnější rizika se ukázala být ta nejpřízemnější: podvody, phishing a deepfaky, ne superinteligence. Regulace, která byla v roce 2023 jen tématem k diskusi, je dnes platným zákonem s odloženými, nikoli zrušenými termíny a s pokutami ve stovkách milionů korun.

Kouzelná síla AI zůstává. Jenže kouzlo má dnes návod k použití, datum účinnosti a sankci za porušení.