4IT550 - Competitive Intelligence Shrnutí

Created by Jan Alexandr Kopřiva

Implementace AI agentů pro práci s externími daty ve firmě

4IT550 – Competitive Intelligence

Vysoká škola ekonomická v Praze, Fakulta informatiky a statistiky

Bc. Ondřej Lux, Bc. Martin Panýrek, Bc. Martin Krejčí, Bc. Jan Alexandr Kopřiva

03-12-2025

Obsah prezentace

1. Úvod a kontext trhu
2. Metodologie 
3. Architektura AI agentů
4. Strategická hodnota AI agentů
5. Rizika a bezpečnost AI agentů
6. Reálná ukázka AI agenta
7. Závěr

Úvod a kontext trhu

Oblast umělé inteligence prochází zásadní transformací.

Posouváme se od pasivních velkých jazykových modelů (LLM), které fungují jako statické znalostní báze, k dynamickým agentním systémům.

.

Tyto systémy disponují schopností samostatného plánování, rozhodování a exekuce kroků v komplexním prostředí.

Tržní realita

88 % manažerů v USA plánuje navýšit rozpočty na AI primárně kvůli agentním řešením.

2/3 firem s integrovanými agenty již vykazují měřitelnou hodnotu v podobě zvýšené produktivity.

Zdroj: PwC (Priest, 2025)

Metodologie práce

Analýza akademických studií (Google Scholar, arXiv) a průmyslových reportů (PwC, IBM, Workday).

AI nástroje

NotebookLM: Extrakce faktů a ověřování citací pro minimalizaci chyb.

Gemini 3 & ChatGPT 5.1: Syntéza poznatků, strukturace a stylistická úprava.

! Na konec finální lidská supervize pro zajištění koherence výstupů.

Architektura AI agenta

Agent se dá rozdělit na pět částí:

• Percepce
• Paměť
• Plánovací jádro
• Exekutiva
• Reflexe

Percepce

Vstupní brána transformující nestrukturovaná data na vektory

Zdroj: (Karunanayake, 2025).

Paměť

• Krátkodobá: Kontext relace.
• Dlouhodobá: Vektorová databáze (RAG).
• Epizodická: Učení se z interakcí bez nutnosti fine-tuningu

Zdroj: (He et al., 2024; Google Cloud, 2025).

Plánování

Různé technik pro dekompozici úloh a simulaci scénářů, například Chain-of-Thought / ReAct / Tree-of-Thoughts

Zdroj: (He et al., 2024).

Exekutiva

Schopnost volat API a ovládat software (např. scraping obchodních rejstříků pro CI)

Zdroj: (Boinodiris & Parker, 2025)

Reflexe

Zpětnovazební smyčka pro validaci výstupů a sebekorekci, např. revize hypotézy po získání nových dat

Zdroj: (Karunanayake, 2025).

Kde to zatím funguje nejvíc?

• Vývoj SW: 87 % respondentů potvrzuje využití. Posun od generování kódu k autonomní údržbě repozitářů (Langbase, 2025).
• Kyberbezpečnost: 53 % firem využívá agenty ke zkrácení reakční doby SOC center (PwC, 2025).
• Info Management: Validace dat (např. Dun & Bradstreet) a audit firemního know-how propojením izolovaných systémů (Korolov, 2025; Krishnan, 2025).

Specifické mezioborové use-cases

• Finance & Právo: Model human-in-the-loop. Zvýšení marží o 45 % díky automatizaci transakční práce v právním sektoru (Korolov, 2025).
• Retail: Walmart (systém Always-On Inventory) autonomně optimalizuje zásoby → růst tržeb z e-commerce o 22 % (Varghese, 2025).
• Zdravotnictví: Filtr pro záznamy snižující kognitivní zátěž a zvyšující přesnost diagnostiky (Karunanayake, 2025).

Co se může pokazit?

Studie Security of AI Agents (He et al., 2024) identifikuje tři problémy podle bezpečnostní triády:

Dostupnost (Infinite Loops)

Vyčerpání prostředků a API limitů uvíznutím v rozhodovací smyčce.

Integrita (Data Poisoning)

„Otrávení modelu“ podsouváním zkreslených dat do tréninkové sady.

Důvěrnost (Prompt Injection)

Útok přes externí data (např. v e-mailu), který donutí agenta odeslat citlivá data.

Rizika + etické problémy

• Funkční halucinace: Agent nehalucinuje jen text, ale chybnou akci (např. smazání souboru) (Gomstyn & Jonker, 2024).
• Právní vakuum: Nejasná odpovědnost (vývojář vs. uživatel) při škodě způsobené autonomním rozhodnutím (Hadfield & Koh, 2025).
• Lidský faktor: Riziko ztráty kompetencí a otupení pozornosti operátorů při přehnané důvěře v automatizaci (Cañas, 2022).

Jak správně pracovat a agenty?

Bezpečnost musí stát na třech pilířích:

• Human-in-the-loop: Kritická rozhodnutí podléhají schválení člověkem.
• Sandboxing: Izolace prostředí, která omezuje přístup agenta k souborovému systému (He et al., 2024).
• Red Teaming: Ofenzivní testování odolnosti před nasazením.

Jak to vypadá v praxi?

.

Reálná ukázka

Let's build your agent!

Závěr

Agentní AI představuje logický evoluční krok, který umožňuje integrovat externí data přímo do rozhodovacích procesů. Nejde o teorii – firmy již nyní hlásí měřitelný růst produktivity.

Závěr

Úspěšná implementace však neleží v nekontrolované automatizaci. Aby se agenti stali konkurenční výhodou, musí firmy investovat nejen do technologie, ale především do robustní governance a adaptace zaměstnanců na spolupráci s autonomními systémy.

Zdroje

Boinodiris, P., & Parker, J. (2025, březen 21). The evolving ethics and governance landscape of agentic AI | IBM. https://www.ibm.com/think/insights/ethics-governance-agentic-ai

Cañas, J. J. (2022). AI and Ethics When Human Beings Collaborate With AI Agents. Frontiers in Psychology, 13. https://doi.org/10.3389/fpsyg.2022.836650

Gomstym, A., & Jonker, A. (2024, prosinec 23). New Ethics Risks Courtesy of AI Agents? Researchers Are on the Case | IBM. IBM. https://www.ibm.com/think/insights/ai-agent-ethics

Google. (b.r.). Google Scholar. Google Scholar. Získáno 30. listopad 2025, z https://scholar.google.com/

Google. (2024). NotebookLM [Large language model]. In Google. https://notebooklm.google.com/

Google. (2025a). Gemini 3 [Large language model]. https://gemini.google.com/app?hl=cs

Google. (2025b). What are AI agents? Definition, examples, and types. Google Cloud. https://cloud.google.com/discover/what-are-ai-agents

Hadfield, G. K., & Koh, A. (2025). An Economy of AI Agents (No. arXiv:2509.01063). arXiv. https://doi.org/10.48550/arXiv.2509.01063

He, Y., Wang, E., Rong, Y., Cheng, Z., & Chen, H. (2024). Security of AI Agents (No. arXiv:2406.08689). arXiv. https://doi.org/10.48550/arXiv.2406.08689

Karunanayake, N. (2025). Next-generation agentic AI for transforming healthcare. Informatics and Health, 2(2), 73–83. https://doi.org/10.1016/j.infoh.2025.03.001

Korolov. (2025, březen 19). 5 top business use cases for AI agents. CIO. https://www.cio.com/article/3843379/5-top-business-use-cases-for-ai-agents.html

OpenAI. (2025). 5.1 [Large language model]. In OpenAI. https://chatgpt.com/?model=gpt-4o

Priest, D. (2025). PwC’s AI Agent Survey. PwC. https://www.pwc.com/us/en/tech-effect/ai-analytics/ai-agent-survey.html

Reddy, A. (2025). AI agent [Obrázek]. https://www.copilotkit.ai/blog/agents-101-how-to-build-your-first-ai-agent-in-30-minutes

Scott. (2025, květen 30). Top AI Agent Examples and Industry Use Cases | Workday. https://blog.workday.com/en-us/top-ai-agent-examples-and-industry-use-cases.html

Varghese, B. E. (2025, květen 26). 5 Real-World AI Agent Case Studies Driving ROI | SearchUnify. SearchUnify | Enterprise Agentic Platform for Customer Support. https://www.searchunify.com/resource-center/blog/ai-agents-useful-case-studies-from-around-the-world

Whiting, K. (2024, prosinec 16). What are the risks and benefits of ‘AI agents’? World Economic Forum. https://www.weforum.org/stories/2024/12/ai-agents-risks-artificial-intelligence/