AI agenti ve firmách: přínos, EU AI Act a bezpečný provoz

Praktická odborná snídaně o byznysovém přínosu AI agentů, požadavcích EU AI Act a jejich bezpečném nasazení ve firmách.

AI agenti už nejsou pouze experimentální technologií. Dokážou samostatně pracovat s firemními daty a systémy, provádět vícekrokové úkoly, připravovat podklady pro rozhodování nebo automatizovat celé části procesů. S jejich rostoucí samostatností ale vznikají nové otázky týkající se odpovědnosti, kontroly, bezpečnosti a souladu s regulací.

EU AI Act zavádí pro používání AI systémů pravidla založená na jejich účelu, míře rizika a roli konkrétní organizace. Firma proto musí vědět nejen to, kde AI používá, ale také zda vystupuje jako její uživatel, nebo se například úpravou systému, změnou jeho účelu či používáním pod vlastní značkou může stát jeho poskytovatelem. Vedle AI Actu je zároveň potřeba zohlednit související požadavky vyplývající například z NIS2, Cyber Resilience Actu nebo DORA.

Samotný soulad s regulací ale nestačí. Úspěšné nasazení AI agenta vyžaduje realistický business case, jasně stanovenou odpovědnost, lidský dohled a kontrolu nad tím, k jakým datům a systémům má agent přístup. Firma musí řešit také dokumentaci rozhodnutí, smluvní vztahy s dodavateli, ochranu dat, řízení změn modelu a postup pro případ, že systém začne fungovat jinak, než se očekávalo.

Akce proto propojí právní a regulatorní pohled s praktickými otázkami provozu, bezpečnosti a skutečného ekonomického přínosu AI agentů. Účastníci získají konkrétní rámec, podle kterého mohou posoudit připravenost své organizace a bezpečně převést AI řešení z pilotního projektu do běžného firemního provozu.

Co vám účast na akci přinese?

• Získáte přehled o tom, jak se na firemní používání AI vztahuje EU AI Act a související regulace, například NIS2, Cyber Resilience Act nebo DORA.
• Pochopíte rozdíl mezi rolí uživatele neboli deployera a poskytovatele AI systému a zjistíte, ve kterých situacích se může role a odpovědnost firmy změnit.
• Naučíte se rozpoznat, kde mohou AI agenti přinést skutečnou hodnotu a kde naopak náklady, rizika a nutná kontrolní opatření převáží nad očekávaným přínosem.
• Seznámíte se s rizikovými oblastmi, jako jsou HR, nábor, hodnocení klientů, cenotvorba nebo rozhodnutí s přímým dopadem na konkrétní osoby.
• Získáte přehled o technických, regulatorních, organizačních, smluvních a provozních opatřeních potřebných pro bezpečné nasazení AI.
• Dozvíte se, jak nastavit lidský dohled, odpovědnost managementu, evidenci rozhodnutí, přístupová oprávnění a kontrolu nad změnami systému.
• Ujasníte si, co by firma měla udělat během prvních 60 minut incidentu souvisejícího s provozem AI agenta.
• Odnesete si konkrétní otázky a doporučené kroky, podle kterých můžete vyhodnotit připravenost vlastní organizace.

Komu je akce určena?

Akce je určena členům vedení společností, zejména CEO, COO, CRO, CIO a CISO, dále AI officerům, právním a compliance týmům, specialistům na kybernetickou bezpečnost a řízení rizik, interním auditorům a vedoucím pracovníkům odpovědným za konkrétní AI use cases.

Relevantní je také pro firmy, které již AI řešení testují nebo používají a chtějí je převést do běžného provozu, stejně jako pro organizace, které teprve nastavují pravidla, odpovědnosti a interní governance pro bezpečné využívání AI.

Obsah je vhodný pro společnosti z oblasti výroby, energetiky, retailu a e-commerce, dopravy a logistiky, telekomunikací, zdravotnictví, finančních služeb i veřejného sektoru.