Systém AI může kontrolovat docházku, rozdělovat směny nebo doporučovat personální opatření. Jakmile však jeho výstup zasáhne do kariéry člověka, nestačí formální lidské potvrzení. Nedávný případ ukazuje, že výsledek AI může výrazně ovlivnit způsob, jakým manažer položí otázku. Firma proto musí určit nejen pravomoci systému, ale i odpovědnost člověka za způsob jeho použití.

Představa „manažera AI“ přestává být čistě teoretická. Systémy už mohou pomáhat s rozdělováním směn, kontrolou docházky, vyhodnocováním provozních údajů nebo doporučením dalšího personálního kroku. Právě poslední oblast ukazuje, kde končí běžná automatizace a začíná manažerská odpovědnost.

Forbes popisuje případ experimentu společnosti Andon Labs, v němž systém založený na Claude pomáhal řídit zaměstnance. Jeden pracovník přišel pozdě na 17 z 23 směn. AI původně navrhovala formální varování, ale po doplnění dalších informací a po otázce lidského manažera, zda je zaměstnanec skutečně vhodný pro danou práci, následně doporučila ukončení pracovního vztahu. Nešlo tedy o autonomní rozhodnutí systému bez lidského vstupu. Právě naopak: případ ukázal, jak významně může člověk ovlivnit závěr formulací dotazu a výběrem předaného kontextu.

To je pro management podstatnější než samotný technologický mezník. Pokud systém připraví podklad pro závažné personální rozhodnutí, firma musí zpětně rozlišit minimálně tři věci: jaká fakta systém získal, jaké instrukce dostal a která část konečného úsudku patřila člověku.

Formální „člověk v rozhodovacím procesu“ totiž nemusí znamenat skutečnou kontrolu. Manažer může výstup systému pouze potvrdit, může mu nevědomky dodat jednostranný kontext nebo může formulovat otázku tak, že předpokládaný výsledek prakticky naznačí. V takovém případě se AI nestává nezávislým rozhodovatelem, ale zesilovačem postoje svého uživatele.

U personálních rozhodnutí proto nestačí logovat pouze výsledný verdikt. Smysl má uchovávat také významné vstupy, doporučení systému před lidským zásahem a důvody, proč člověk doporučení přijal nebo změnil.

Stejně důležité je oddělit administrativní a hodnotící úlohy. AI může poměrně bezpečně upozornit na překročení předem stanoveného počtu pozdních příchodů. Podstatně citlivější je rozhodnutí, zda toto chování ospravedlňuje výpověď. Do něj vstupují okolnosti případu, předchozí komunikace, jednotnost uplatňování pravidel a právní i organizační souvislosti.

Firma by proto měla u každého personálního použití AI určit hranici autonomie předem. Čím větší dopad rozhodnutí na člověka, tím méně přijatelné je, aby manažer přenesl vlastní odpovědnost na systém jen proto, že doporučení vygeneroval algoritmus.

KLÍČOVÉ POJMY

• Automatizovaná manažerská podpora: AI připravuje podklady nebo doporučení pro rozhodnutí, za které dál odpovídá člověk.
• Navádějící zadání: Formulace otázky, která předem naznačuje očekávaný nebo preferovaný výsledek.
• Významné personální rozhodnutí: Rozhodnutí s podstatným dopadem na pracovní postavení člověka, například výpověď nebo sankce.
• Audit rozhodnutí: Záznam faktů, instrukcí, výstupu AI a lidského odůvodnění konečného kroku.

AI can already recommend firing an employee. But responsibility cannot be hidden behind an algorithm’s decision

An AI system can monitor attendance, allocate shifts or recommend personnel measures. Once its output affects a person’s career, however, formal human confirmation is not enough. A recent case shows that the outcome produced by AI can be strongly influenced by the way a manager asks the question. A company therefore has to define not only the system’s authority but also the human responsibility for how it is used.

The idea of an “AI manager” is no longer purely theoretical. Systems can already help allocate shifts, monitor attendance, evaluate operational data or recommend the next personnel step. It is this last area that shows where ordinary automation ends and managerial responsibility begins.

Forbes describes an experiment by Andon Labs in which a Claude-based system helped manage employees. One worker arrived late for 17 of 23 shifts. The AI initially proposed a formal warning, but after additional information was supplied and a human manager asked whether the employee was genuinely a good fit for the job, it subsequently recommended terminating the employment relationship. This was therefore not an autonomous system decision made without human input. On the contrary, the case showed how strongly a person can influence the conclusion through the wording of a prompt and the choice of context supplied to the system.

For management, that is more important than the technological milestone itself. If a system prepares input for a serious personnel decision, the company must be able to distinguish at least three things afterwards: what facts the system received, what instructions it was given and which part of the final judgment belonged to the human.

A formal “human in the decision process” does not necessarily mean genuine control. A manager may simply approve the system’s output, may unintentionally give it one-sided context, or may phrase the question in a way that practically signals the expected result. In such a case, AI does not become an independent decision-maker but an amplifier of its user’s position.

For personnel decisions, therefore, logging only the final verdict is not enough. It also makes sense to retain important inputs, the system’s recommendation before human intervention and the reasons why the person accepted or changed the recommendation.

It is equally important to separate administrative and evaluative tasks. AI can relatively safely flag that a predefined threshold for late arrivals has been exceeded. Far more sensitive is the decision on whether that behavior justifies dismissal. That judgment involves the circumstances of the case, previous communication, consistency in applying the rules, and legal as well as organizational context.

A company should therefore define the boundary of autonomy in advance for every personnel use of AI. The greater the impact of a decision on a person, the less acceptable it is for a manager to transfer their own responsibility to the system merely because an algorithm generated the recommendation.

KEY TERMS

• Automated management support: AI prepares evidence or recommendations for a decision for which a human remains responsible.
• Leading prompt: Wording of a question that signals the expected or preferred outcome in advance.
• Significant personnel decision: A decision with a substantial impact on a person’s employment status, such as dismissal or a sanction.
• Decision audit: A record of facts, instructions, AI output and the human reasoning behind the final action.