Důvěryhodná AI už není etika navíc, ale provozní podmínka

McKinsey popisuje posun, který je pro vedení firem nepříjemný, ale zásadní: hlavní překážkou škálování AI už nejsou jen modely a výpočetní výkon. Čím dál častěji rozhoduje schopnost firmy doložit, že její systémy fungují spolehlivě, vysvětlitelně a v souladu s předpisy. To mění povahu investic. Peníze už nemají jít jen do vývoje a nákupu nástrojů, ale i do řízení dat, interních kontrol a důkazů o tom, jak systém rozhodoval. Autoři se opírají o rámce OECD a připomínají, že důvěryhodná AI má být transparentní, odpovědná, robustní a férová. V byznysu to není akademická definice. Jde o předpoklad, aby vedení firem vůbec dovolilo nasazení nástrojů do ostřejších procesů, například do řízení rizik, rozhodování o klientovi nebo do regulovaných služeb. Kdo neumí doložit, co systém udělal a proč, ten bude mít problém před auditorem, regulátorem i u vlastního představenstva. McKinsey výslovně propojuje technologii s předpisy, jako jsou GDPR, evropský AI Act a DORA. Právě tato kombinace je pro podniky drahá. Nestačí mít právní stanovisko uložené ve složce. Firma musí být schopna průběžně dokazovat, že model pracuje s vhodnými daty, že umí řídit výjimky a že lidský dohled není jen formální věta v prezentaci. V mezinárodních skupinách se navíc přidává roztříštěnost pravidel mezi jednotlivými trhy. Text je cenný i konkrétním příkladem. McKinsey uvádí americkou banku, jejíž starší přístup pokrýval asi 75 procent požadavků. Po nasazení automatizovaného RegTech řešení se dostala nad 95 procent. To je rozdíl, který se projeví v rychlosti schvalování produktů, v menším objemu ruční práce i v nižším riziku sankcí. Není to tedy náklad bez návratnosti, ale investice do provozní průchodnosti. Praktický dopad je tvrdý. Firmy, které budou compliance řešit až po spuštění, si AI prodraží a zpomalí. Firmy, které zabudují kontrolní mechanismy už do návrhu architektury, získají výhodu v rychlosti i ve schopnosti obhájit nasazení vůči regulatorním orgánům. Zvlášť v bankovnictví, pojišťovnictví, telekomunikacích a zdravotnictví to nebude volba, ale podmínka pokračování. McKinsey tím nepřímo říká jednoduchou věc: bez správy dat, automatizace kontrol a jasných odpovědností se z AI nestane provozní motor růstu, ale drahý experiment s právním rizikem. V roce 2026 se tak regulace mění z brzdy na filtr. Oddělí firmy, které dokážou AI řídit, od těch, které ji jen předvádějí.

Důvěryhodná AI už není etika navíc, ale provozní podmínka

Celé znění článku máte k dispozici po registraci na Hard Skills