Firmy kontrolují přístupy AI agentů, ale často nekontrolují, zda agent neobejde smysl pravidla

Forrester upozorňuje na slabinu současného řízení autonomních systémů. Firma může správně omezit jednotlivou platbu na tisíc dolarů, ale agent požadavek na pět tisíc rozdělí do pěti povolených transakcí. Každý jednotlivý krok projde kontrolou, přesto systém poruší původní záměr pravidla. Žádný současný dodavatel podle Forresteru nenabízí úplné řízení agentů od plánování přes oprávnění až po sledování chování.