Ultimate Guide to AI Compliance with Agent ID

Právní realita: Článek 9 EU AI Act nařizuje nepřetržitý, zdokumentovaný \"systém řízení rizik\". Nemůžete jen postavit AI, držet palce a doufat, že neporuší zákon. Musíte proaktivně identifikovat, co by se mohlo pokazit, vypočítat, jak špatné by to bylo, a dokázat, že jste to napravili.

Vítejte v registru rizik v Agent ID. Toto je vaše velitelské centrum pro sledování každé hrozby pro váš systém AI.

Nejlepší zkratka: „Automatická detekce rizik“ s umělou inteligencí

Nevíte, jaká rizika hledat? Nechte agenta ID udělat brainstorming za vás.

Klikněte na tlačítko Auto-Detect Risks.

Agent ID analyzuje popis vašeho systému a automaticky vygeneruje seznam vysoce pravděpodobných hrozeb přizpůsobený vašemu konkrétnímu případu použití.

Může například navrhovat \"Data Privacy\" (vystavení údajů o pacientech) nebo \"AI Bias\" (předpojaté tréninkové údaje vedoucí k chybné diagnóze).

Dokonce za vás předem vypočítá závažnost a pravděpodobnost. Stačí zkontrolovat návrhy a kliknout na Přidat.

Ruční zadání: Jak \"Přidat riziko\"

Když identifikujete jedinečnou hrozbu, klikněte na Přidat riziko.

Abychom vyhověli požadavku EU AI Act na \"nepřetržitý iterativní proces\", rozdělili jsme tento formulář do tří logických záložek: Scénář (Hrozba), Zmírnění (Oprava) a Kontrola (Probíhající důkaz).

Zde je přesně to, co vyplnit:

Karta 1: Scénář (Identifikace nebezpečí)

Tato karta dokazuje, že jste přemýšleli o tom, jak by vaše umělá inteligence mohla selhat nebo být zneužita.

Typ scénáře: Zákon o AI vyžaduje, abyste se podívali na dvě věci: jak se má AI používat, a \"rozumně předvídatelné zneužití\".

Příklad: Vyberte \"Zamýšlené použití\", pokud váš HR-bot náhodně diskriminuje životopisy. Pokud se zaměstnanec pokusí použít vaši finanční umělou inteligenci ke generování phishingových e-mailů, vyberte možnost \"Předvídatelné zneužití\".

Kategorie: Jaký je technický vektor tohoto rizika?

Příklad: Vyberte \"Prompt Injection Attack\".

Popis: Jednoduché anglické vysvětlení hrozby.

Příklad: \"Útočník manipuluje s výzvami k obcházení bezpečnostních pravidel."

Závažnost (1-5) & Pravděpodobnost (1-5): Musíte odhadnout a vyhodnotit riziko. Agent ID je vynásobí, aby vám poskytlo skóre rizika.

Příklad: Závažnost 4 x Pravděpodobnost 3 = Počáteční skóre 12. Poznámka: Skóre nad 12 je označeno jako vysoké riziko vyžadující okamžitou pozornost.

Karta 2: Zmírnění (oprava nebezpečí)

Identifikace rizika nestačí; Článek 9 vyžaduje \"cílená opatření k řízení rizik\" k jeho snížení.

Stav zmírnění: Jedná se o známý problém nebo jste jej vyřešili?

Kroky ke zmírnění: Jaké technické nebo procesní změny jste provedli?

Příklad: \"Zapnuli obvodový jistič Agent ID a zapnuli přísné filtrování regulárních výrazů, aby se blokovaly škodlivé výzvy."

Zbytkové riziko: Zákon o AI uvádí, že riziko, které zbyde po vašich opravách, musí být \"přijatelné\". Toto je vaše nové skóre.

Příklad: Protože jste zapnuli jistič, pravděpodobnost klesne ze 3 na 1. Vaše nové skóre zbytkového rizika je 4.

Karta 3: Kontrola (udržování zákonnosti)

Zákon o AI vyžaduje \"pravidelné systematické přezkoumání\". Statický list Excelu z doby před dvěma lety neprojde auditem.

Životní cyklus recenze (Poslední kontrola / Další recenze): Nastavuje jasnou časovou osu. Například \"Poslední kontrola: 24. 2. 2026. Další kontrola: 25. 5. 2026."

Tlačítko Označit jako zkontrolované: Když přijde 25. května, zkontrolujete systém, ujistěte se, že zmírnění stále funguje, a klikněte na toto tlačítko. Vytváří neměnný protokol auditu, který dokazuje regulačním orgánům, že aktivně monitorujete AI.

Mail vlastníka: Pokud se auditor zeptá: \"Kdo je odpovědný za to, že tato umělá inteligence neuniká data?", potřebujete odpověď. Přiřaďte e-mail (např. zabezpečení@vašespolečnost.com), aby bylo vlastnictví vždy jasné.

Vítejte v centru Data Governance v Agent ID. Zde vytvoříte \"Pass datové sady\" pro každý kus dat, který napájí vaši AI.

Chcete-li propojit datovou sadu s vaším systémem, klikněte na Přidat datovou sadu. Zde je přesně uvedeno, jak vyplnit formulář, pole po poli a proč je to pro regulační orgány důležité.

1Základy a kategorizace

Regulátoři chtějí přesně vědět, jaká data používáte a odkud pocházejí.

Název a verze datové sady: Udržujte v ní pořádek (např. \"Sada prověřování CV v1.0\").

Popis: Rychlé shrnutí toho, co data obsahují.

Původ a provenience: Odkud tato data fyzicky pocházejí? Článek 10(2)(b) vyžaduje, abyste sledovali původ údajů.

Interní: Data z vašich vlastních firemních databází (např. historické záznamy o prodeji).

Veřejný web: Data stažená z internetu (Varování: Vysoké riziko problémů s autorskými právy soukromí).

Zakoupeno: Data zakoupená od dodavatele třetí strany.

Vygenerováno uživatelem: Živá data zadaná aktuálními uživateli aplikace.

Syntetické: Falešná data generovaná jinou AI pro simulaci skutečných scénářů.

Typ použití: Jak AI používá tato data?

Školení: Používá se k výuce modelu AI od nuly.

Validace / Testování: Používá se k testování, zda se AI naučila správně bez podvádění.

RAG / Retrieval: I když model "netrénujete", pokud vaše AI prohledává databázi firemních dokumentů, aby odpověděla na otázky (Retrieval-Augmented Generation), tato databáze musí být zde zaznamenána.

2Shoda a kvalita – strojovna

Zde prokážete, že jste do algoritmu jen nevložili nezpracovaná data.

\"Potvrzuji, že tento soubor dat byl analyzován z hlediska zkreslení...\" (zaškrtávací políčko): Toto je přímá odpověď na článek 10(2)(f). Musíte aktivně kontrolovat, zda vaše údaje nespravedlivě diskriminují.

Ověřovací cyklus: Data jsou zastaralá. Nastavte, jak často váš tým kontroluje tuto datovou sadu (např. každých 90 dní).

Poznámky ke zpracování a čištění: Článek 10(2)(c) vyžaduje, abyste zdokumentovali, jak jste data připravili.

Příklad: \"Odstraněny všechny řádky s chybějícími hodnotami, normalizovány data do formátu ISO a pomocí skriptu byly před školením odstraněny e-mailové adresy a telefonní čísla."\"

3Compliance & Governance (The Deep Dive)

Zde zmapujete kontext dat, abyste zajistili, že jsou skutečně vhodné pro váš konkrétní případ použití.

Účel sběru: Podle GDPR a článku 10 nelze data shromážděná z jednoho důvodu magicky použít pro jiný bez kontrol.

Příklad: \"Původně shromážděno pro zpracování mezd.\" (Pokud nyní používáte mzdová data k výcviku umělé inteligence k propouštění lidí, regulační orgány s tím budou mít obrovský problém).

Předpoklady a omezení: Článek 10(2)(d) vyžaduje, abyste byli upřímní ohledně slepých míst vašich dat.

Příklad: \"Tato datová sada obsahuje pouze lékařské záznamy z městských nemocnic; předpokládá se, že metriky zdraví venkovských pacientů se řídí přesně stejnými vzory."

Kroky ke zmírnění předsudků: Pokud jste našli předpojatost, jak jste ji napravili? Čl. 10 odst. 2 písm. g) vyžaduje zdokumentované zmírnění.

Příklad: \"Původní datový soubor technických životopisů byl z 80 % muž. Použili jsme techniky převzorkování, abychom synteticky posílili životopisy žen před tréninkem na rovnováhu 50

Cílová geografie Článek 10(4) říká, že data musí odpovídat prostředí, kde bude AI používána.

Příklad: \"Dospělí 18-65 s bydlištěm v České republice a na Slovensku." (Pokud je vaše AI používána v Japonsku, ale trénována na českých datech, nevyhovuje).

Velikost datové sady: Jen rychlá metrika (např. \"50 000 záznamů / 10 GB\").

4Soukromí a metadata (nakládání s radioaktivními látkami)

Zaškrtávací políčka ochrany osobních údajů: Věnujte zvýšenou pozornost \"Obsahuje osobní údaje\" a \"Obsahuje zvláštní kategorie osobních údajů\" (např. zdravotní údaje, rasa, politické názory).

Past podle čl. 10 odst. 5: Zákon o umělé inteligenci přísně omezuje používání údajů zvláštní kategorie. Můžete jej použít pouze k detekci a nápravě zkreslení, musí být vysoce zabezpečený a musí být odstraněn okamžitě po opravě zkreslení. Zaškrtnutím tohoto políčka dáváte auditorům najevo, že dodržujete tato přísná pravidla.

Licence a zásady uchovávání: Prokažte, že máte právo data používat a víte, kdy je smazat.

Příklad licence: \"Proprietární / Interní\" nebo \"CC-BY-4.0\".

Příklad uchování: \"180 dní, poté automatické smazání.\"

Evidenční adresa URL: Jednoduše vložte odkaz na \"papírování\" pro tato data. Může se jednat o soukromý odkaz na firemní Disk Google, Notion, SharePoint nebo OneDrive. Pokud se objeví auditor, může kliknout na tento odkaz a okamžitě zobrazit vaši podepsanou smlouvu o nákupu dat nebo vaši interní analýzu soukromí (DPIA), která prokazuje, že máte zákonné právo tato data používat.

Vyplněním této jediné stránky přeměníte chaotický \"datový bažinu\" na vysoce strukturovaný, plně kompatibilní registr AI Data Governance.

Právní realita: Článek 15 EU AI Act nařizuje, že vysoce riziková umělá inteligence musí dosáhnout odpovídající úrovně \"přesnosti, odolnosti a kybernetické bezpečnosti\". Zákonně to nařizuje, že váš systém musí mít \"bezpečné plány\" pro řešení chyb a musí být odolný proti hackerům, kteří se snaží manipulovat s AI pomocí škodlivých vstupů (jako je rychlé injekce nebo otrava dat).

Nestačí napsat bezpečnostní politiku. Potřebujete technické vymáhání. Vítejte v sekci Guardrails, aktivní runtime ochraně vaší AI.

Zde je postup, jak nakonfigurovat štít, krok za krokem:

1Aktivní ochrana (výstrahy a stabilita)

Regulátoři očekávají, že budete vědět, kdy je váš systém ve stresu nebo útoku.

Notification Channels: Connect a Slack Incoming Webhook or an Alert Email (e.g., alerts@example.com). Pokud váš systém narazí na limit nebo dojde k aktivaci bezpečnostního štítu, váš tým dostane okamžitě proaktivní varování.

Ochrana služeb (limity rychlosti): Článek 15(4) vyžaduje odolnost proti poruchám. Nastavením maximálního počtu požadavků za minutu (např. 120) a limitu denního požadavku (např. 10 000) zabráníte škodlivým aktérům (nebo nefunkčním skriptům) přetížit váš systém a vyčerpat rozpočet na rozhraní API.

2AI Firewall / Security Shield (Kybernetická obrana)

Zde Agent ID překračuje základní shodu a poskytuje zabezpečení DevOps na podnikové úrovni. Článek 15(5) konkrétně vyžaduje ochranu před třetími stranami, které se snaží \"změnit jejich použití, vstupy nebo výkon\".

Režim Active Guard vs. Shadow: * Pokud právě testujete, použijte režim Shadow. Provoz není blokován, ale hrozby jsou protokolovány, takže můžete vidět, co by se stalo.

Pro produkci povolte Active Guard aktivně blokovat a maskovat hrozby dříve, než je AI vůbec zpracuje.

Strict Security (Fail-Closed): Pokud je zapnuto, vaše AI bude blokovat provoz, pokud selže závislost protokolování. To zaručuje, že žádná výzva nebude nikdy zpracována bez auditní stopy.

Ukládání zašifrovaných dat: Bezpečně ukládá zašifrovaný vstup a výstup vašeho modelu AI. Pokud dojde k bezpečnostnímu incidentu, umožní to vašemu týmu provést úplnou forenzní kontrolu, aniž by byla citlivá data ve formátu prostého textu vystavena neoprávněnému personálu.

Povolit analýzu zabezpečení AI: Aktivuje sémantickou analýzu úrovně 2 a asynchronní hodnocení rizik. Namísto spoléhání se na těžkou deterministickou infrastrukturu to využívá AI k pochopení kontextu výzvy, což vám pomůže zachytit sofistikované, vícevrstvé útoky.

Povolit AI Audit (Async): Spouští průběžné sémantické kontroly zachycených událostí na pozadí. Tím je zajištěno, že vám bude na pozadí tiše běžící hluboké monitorování dodržování předpisů, aniž by došlo ke zpomalení skutečné doby odezvy vašich koncových uživatelů.

Blokování obsahu (The Core Shields): Zapněte je, abyste okamžitě splnili požadavky zákona o kybernetické bezpečnosti proti manipulaci se vstupy:

Block Prompt Injection: Zabraňuje hackerům používat \"útek z vězení\" k potlačení bezpečnostních pravidel vaší AI.

Blokovat přístup k databázi a spouštění kódu: Zabraňuje tomu, aby umělá inteligence byla podvedena ke generování škodlivých SQL dotazů nebo spustitelných skriptů (RCE).

Blokovat toxicitu a vulgární výrazy: Blokujte výzvy nenávistnými projevy a obtěžováním.

Blokovat osobní údaje / citlivá data (přísná): Ve výchozím nastavení Agent ID automaticky maskuje a rediguje osobní údaje, takže jsou před dosažením LLM skryta. Přepnutí tohoto přísného režimu jde však ještě o krok dále: okamžitě zablokuje a zahodí celý požadavek, pokud je detekován jakýkoli PII, čímž vznikne firewall s absolutní nulovou tolerancí proti únikům dat.

3Jistič (právní zabezpečení proti selhání)

V čl. 15 odst. 4 se výslovně uvádí, že odolnosti lze dosáhnout pomocí \"technicky nadbytečných řešení... nebo plánů zabezpečených proti selhání\".

Povolit automatický jistič: Pokud vaše AI začne rychle selhávat (např. základní model OpenAI se zhroutí nebo začnou halucinující chyby), tato funkce automaticky blokuje provoz, aby se zabránilo \"kaskádovým selháním\".

Můžete nastavit přísný Error Threshold, například: blokovat veškerý provoz, pokud se během 5 minut vyskytne 10 chyb.

4Historie hrozeb (váš důkaz pro auditory)

Mít štít je skvělé, ale auditoři chtějí důkaz, že to funguje.

V dolní části stránky zábradlí najdete historii hrozeb. Toto je váš protokol auditu všech možných útoků v reálném čase.

Ukazuje přesně, kdy k útoku došlo (např. \"před 37 minutami\").

Typ hrozby (např. \"Heuristická injekce\" nebo \"Bezpečnostní hrozba\") a vizuální skóre rizika (např. 60% zvýšené).

Bezpečně anonymizovaný úryvek výzvy.

Stav dokazující, že váš firewall splnil svou úlohu (např. BLOKOVÁNÍ nebo ZJIŠTĚNO

Tento seznam můžete snadno filtrovat a exportovat, abyste ukázali týmům podnikových zakázek nebo regulačním orgánům EU, že se vaše umělá inteligence aktivně brání.

Vítejte v modulu Systémová hodnocení. Agent ID nenahrazuje vaše testovací prostředí (CI GitHub Actions atd.). Místo toho funguje jako vaše neměnná kniha shody. Otestujete kód; vygenerujeme právně závazný důkaz.

Zde je návod, jak jej budou používat vaše týmy inženýrů a dodržování předpisů společně:

1Definujte svá kritéria úspěchu (benchmark)

Před spuštěním testů ve vašem vlastním prostředí musíte regulátoru sdělit, jak vypadá \"bezpečná\" aktualizace.

Vytvořte nové hodnocení (např. \"Migrace na GPT-4o\").

Definujte svá kritéria pomocí jednoduché logiky: metrika + operátor + cílová hodnota.

Příklad: \"Míra halucinací < 2 %\" a \"Přesnost >= 95 %\".

Vyhodnocení zůstává ve stavu Nevyřízeno, dokud nedorazí skutečná data.

2Výsledky zpracování (API nebo ruční záložní uživatelské rozhraní)

Váš technický tým spouští své standardní testy (pomocí nástrojů jako LangSmith, promptfoo nebo vlastních skriptů Python) a přenáší konečné metriky do Agent ID. Máte dva způsoby, jak to udělat:

Automatizované (API): Váš kanál CI přenáší konečné užitečné zatížení výsledků JSON přímo do našeho koncového bodu API.

Ruční: Pokud váš tým ještě nepoužívá automatizované testovací kanály, technik může jednoduše otevřít Vyhodnocení na řídicím panelu a ručně zadat naměřené metriky do vygenerovaných polí formuláře.

Přísné ověřování a bodování:

Falešně pozitivní ochrana: Ať už prostřednictvím rozhraní API nebo ručního zadání uživatelského rozhraní, Agent ID vynucuje absolutní integritu dat. Pokud necháte požadovanou metriku prázdnou, systém odeslání okamžitě odmítne. Nikdy nevyhodnocujeme neúplná data.

Automatizované hodnocení: Po odeslání kompletních dat je systém okamžitě porovná s vašimi kritérii. Pokud všechny metriky splňují prahové hodnoty, stav se změní na Úspěšně. Pokud i jeden selže, je označen jako Neúspěšný.

3Neměnný trezor (Anti-Audit-Washing)

Toto je nejkritičtější vlastnost pro absolvování auditu EU AI Act. Historii nelze změnit.

Kryptografický zámek: V okamžiku, kdy je hodnocení hodnoceno jako úspěšné nebo neúspěšné, záznam je trvale uzamčen. Uživatelské rozhraní se stane pouze pro čtení a API odmítne jakékoli další úpravy (403 Zakázáno).

Historie pouze připojení: Naše databázová architektura fyzicky zabraňuje smazání minulých hodnocení. Pokud se hodnocení nezdaří nebo byl test chybný, nemůžete jej jednoduše smazat a předstírat, že se to nestalo. Musíte vytvořit nový. To vytváří transparentní, forenzní důkazní stopu, které auditoři slepě důvěřují.

4Milník dodržování (\"Schválení výroby\")

Zde se technický test mění v právní schválení.

Pokud (a pouze pokud) hodnocení dosáhne stavu Úspěšně, tlačítko Schválit pro produkci se stane aktivním.

Váš pověřenec pro ochranu osobních údajů (DPO), CISO nebo technický vedoucí klikne na toto tlačítko, aby se právně odhlásil z aktualizace.

Výsledek: Stav se změní na Schváleno. Agent ID generuje nesmazatelný protokol auditu s nejvyšší prioritou: \"Uživatel [Jméno] formálně schválené nasazení na základě úspěšného vyhodnocení [ID].\".

Váš technický tým má nyní právně zelenou k nasazení kódu.

QMS je rozdělen do tří základních pracovních postupů: Zásady, Evidence Registry a Change Requests. Aby byly splněny přísné podnikové standardy, celá tato část prosazuje princip 4 očí, což znamená, že osoba, která vytváří dokument nebo požaduje změnu, nemůže být stejná osoba, která jej schvaluje.

Zde je návod, jak spravovat QMS:

1Zásady (vaše interní pravidla)

Článek 17(1) vyžaduje systematické, písemné zásady pro věci, jako je správa dat, frekvence testování a odpovědnost. Poznámka: Zatímco Agent ID poskytuje zabezpečenou kryptografickou infrastrukturu (\"vazač a zámek\"), vaše společnost (nebo právní zástupce) musí vytvořit skutečná pravidla (\"papír uvnitř\"). Musíte definovat své vlastní provozní standardy, například \"Jak naše společnost komunikuje s národními úřady v případě incidentu\" nebo \"Jak naše personální oddělení zpracovává přístup k datům."\"

Návrh zásady: Klikněte na Vytvořit zásady. Zadejte název a verzi (např. \"AI Data Handling Policy v1.0\") a napište svůj přizpůsobený obsah přímo v našem editoru Markdown.

Schválení 4 očima (provedení na řídicím panelu): Jakmile koncept uložíte, nemůže okamžitě nabýt účinnosti. Aby byly splněny přísné standardy odpovědnosti, musí se druhý oprávněný správce (jako váš CISO nebo Compliance Officer) přihlásit do řídicího panelu Agent ID, zkontrolovat navrženou politiku a ručně kliknout na 'Schválit'. Systém fyzicky brání stejnému správci vytvářet i schvalovat vlastní zásady.

Neměnnost: Po schválení druhým administrátorem se politika stane neměnnou. Pokud jej potřebujete příští rok aktualizovat, nemůžete tajně přepsat starý text, musíte vytvořit nový řádek verze (např. v1.1) a znovu projít schvalovacím procesem 4 očí. To auditorům přesně dokazuje, jaká pravidla byla v daném okamžiku platná.

2Registr důkazů (kryptografický důkaz)

Ne všechny dokumenty o shodě lze napsat v Markdown. Budete mít externí soubory PDF, hodnocení dopadu na ochranu dat (DPIA), smlouvy s dodavateli nebo diagramy architektury.

Nahrát důkaz: Klikněte na záložku Evidence Registry a vyberte Upload Evidence. Vyberte Typ dokumentu, pojmenujte jej a nahrajte soubor.

Ochrana proti neoprávněným zásahům (SHA-256): Když nahrajete soubor, Agent ID automaticky vypočítá kryptografický hash SHA-256 na straně serveru.

Uzamknout: Po ověření soubor uzamknete. Pokud auditor požádá o důkaz, že vaše hodnocení rizik před dvěma lety nebylo včera tajně upraveno, aby zakrylo chybu, tento kryptografický hash poskytuje absolutní matematický důkaz.

3Požadavky na změnu (uvolnění)

Článek 17(1)(a) nařizuje přísné postupy pro \"řízení úprav\" systému vysoce rizikové umělé inteligence. Nemůžete jen tak protlačit aktualizaci do výroby, protože to tak cítil inženýr.

Tento pracovní postup přímo navazuje na hodnocení, která jste dokončili v kroku 5.

Vytvořit požadavek: Když chce technik nasadit nový model nebo výzvu, přejde na kartu Požadavky na změnu a klikne na Vytvořit požadavek na změnu.

Propojit důkaz: Vyplní název a popis, a co je nejdůležitější, musí zadat ID propojeného hodnocení testu, který již dosáhl stavu Úspěšně. Mohou také připojit Config Snapshot Hash pro větší technickou přesnost.

4-Eyes Release Gate: Inženýr odešle požadavek. Jeho nasazení je nyní výslovně zablokováno. Stejně jako u zásad se druhý určený schvalovatel musí přihlásit do řídicího panelu, zkontrolovat propojené úspěšné hodnocení a kliknout na „Schválit“. To dokonale splňuje požadavek EU AI Act na odpovědnost managementu a kontrolu úprav.

Vítejte v modulu Hlášení incidentů. Zde váš technický tým překlenuje mezeru s vaším právním týmem a zajišťuje, že kritická selhání budou okamžitě eskalována, forenzně zdokumentována a připravena pro regulační hlášení.

Here is how you handle incidents in Agent ID:

1Zaznamenejte incident

Když vaše monitorování zjistí anomálii nebo uživatel nahlásí kritické selhání, váš tým to musí okamžitě zdokumentovat.

Klikněte na Nahlásit incident.

Zadejte jasný název a podrobně popište přesnou časovou osu v poli Popis (Co se stalo? Jaký to mělo dopad? Jaké jsou kroky ke zmírnění?).

2Link the Forensic Evidence

Nemůžete jen tak říct regulátorovi: "AI měla halucinace." Požádají o důkaz.

Pomocí pole Linked Event ID připojte přesné UUID transakce z vašich protokolů aktivit Agent ID.

To přímo spojuje písemnou zprávu o incidentu s neměnnými telemetrickými daty (přesná výzva, získaný kontext a výstup modelu), což dává auditorům přesnou hlavní příčinu během několika sekund.

3Příznak pro eskalaci podle článku 73

Ne každá chyba je legální incident.

Vaši inženýři mohou přiřadit standardní úroveň závažnosti (nízká, střední, vysoká) pro interní sledování.

Pokud však porucha porušuje základní práva, způsobuje fyzickou újmu nebo vážně narušuje provoz, technik zaškrtne políčko \"Závažné / podléhající hlášení (článek 73)\".

To okamžitě označí incident pro vašeho Compliance Officer nebo DPO, což signalizuje, že zákonné odpočítávání začalo a vnitrostátní orgány musí být informovány v zákonné lhůtě.

Zatímco vaše základní aplikace zvládá každodenní uživatelské úkoly, Agent ID poskytuje sledování kryptografické identity a nouzový \"Circuit Breaker\", aby prokázal regulačním orgánům, že lidský dohled je přísně vynucován.

Zde je návod, jak spravovat Human Oversight v Agent ID:

1Přiřaďte odpovědné operátory

Regulátoři vyžadují, abyste výslovně určili, kdo je odpovědný za monitorování systému AI.

Přejděte na kartu Přístup k systému.

Modul Human Oversight použijte k přiřazení konkrétních, autorizovaných členů týmu (např. vašeho hlavního operátora nebo Compliance Officer) k systému.

Tito přidělení operátoři jsou automaticky zaznamenáni ve vaší oficiální dokumentaci shody s přílohou IV.

Okamžité zrušení: Pokud operátor opustí společnost, jeho odstranění zde okamžitě zruší jeho přístup.

2Neměnná identita požadavku

Abyste prokázali lidský dohled, musíte být schopni forenzně propojit každou akci AI s jejím oprávněným vlastníkem. Na backendu to řešíme automaticky. Každý transakční protokol přísně zaznamenává identitu požadavku a vytváří tak nefalšovatelnou stopu, která zahrnuje:

Název a předpona klíče: např. sk_live_... / Dokumentovaný klíč pro správce vlastníka

Prostředí: např. prod

Štítek vlastníka: např. ondasukac@seznam.cz

Created By: Přesné UUID lidského nebo servisního účtu, který vygeneroval klíč.

To zajišťuje, že žádný agent AI nemůže podvrhnout jeho identitu. Vždy přesně víte, která konfigurace, v jakém prostředí, pod kterou konečnou odpovědností člověka vznikl konkrétní výstup.

3Nouzový jistič (tlačítko \"Stop\")

Článek 14 odst. 4 písm. e) výslovně stanoví, že lidé musí být schopni systém přerušit.

Agent ID obsahuje výrazné, globální tlačítko STOP přímo na systémovém panelu.

Pokud vaši operátoři zjistí vážné anomálie, halucinace nebo únik dat, mohou zasáhnout tento nouzový jistič. Okamžitě přeruší přístup AI na úrovni infrastruktury a systém přejde do bezpečného režimu, dokud nebude incident vyšetřen a vyřešen.

Vítejte v modulu dokumentace. Digitalizovali jsme brutální požadavky přílohy IV do zjednodušeného pracovního prostoru přátelského pro vývojáře. Místo boje s prázdnými dokumenty aplikace Word může váš tým použít naše šablony a generátory automatického vyplňování k vytvoření vyhovující dokumentace během hodin, nikoli měsíců.

Zde je návod, jak vyplnit oficiální technickou dokumentaci přílohy IV:

1Volič zásobníku a automatické vyplňování

Začněte definováním základní DNA vašeho systému.

Pomocí výběru zásobníku zaškrtněte své základní poskytovatele LLM (např. OpenAI, Anthropic, Self-Hosted) a svůj vzor architektury (např. RAG s vektorovou DB).

Kliknutím na tlačítko Auto-Fill Details (Automatické vyplnění podrobností) se okamžitě vyplní základní strukturní linie pro vaši dokumentaci, což vám ušetří hodiny psaní standardních dokumentů.

2Obecná a architektura

Tato část mapuje přímo přílohu IV, odstavec 1 (Obecný popis) a odstavec 2 (Podrobná architektura).

Verze a datum vydání: Sledujte konkrétní iteraci vašeho systému.

Formulář pro umístění na trhu: Popište, jak uživatel získá AI (např. SaaS, API, vestavěný hardware).

Metriky výkonu: Definujte své základní prahové hodnoty (přesnost, latence, četnost chyb, SLA).

Architektura a logika: Vysvětlete, jak se komponenty vzájemně ovlivňují. Použijte naši vestavěnou šablonu Insert RAG nebo šablonu Insert Chatbot Template k rychlému zmapování toku dat.

Návod k použití: Poskytněte provozní varování a pokyny pro koncového uživatele.

3Rozvoj a infrastruktura

Tento oddíl splňuje přílohu IV, odstavce 1 a 2, pokud jde o fyzické nasazení a interakci uživatele.

Metodologie vývoje: Uveďte podrobně své předem vyškolené modely, kroky ověření a metody zpracování dat.

Infrastruktura a hardware: Popište své výpočetní prostředky (např. AWS, Azure) a hardwarovou stopu.

Uživatelské rozhraní a životní cyklus: Popište uživatelské rozhraní operátora a způsob, jakým plánujete řídit budoucí aktualizace.

Změny životního cyklu: Zákon o umělé inteligenci vyžaduje, abyste přesně zdokumentovali, jak se bude váš systém v průběhu času vyvíjet. Pomocí tohoto pole můžete popsat své postupy řízení změn, frekvenci aktualizací a jakékoli předem určené změny chování modelu. To přímo souvisí s formálními požadavky na změnu ve vašem QMS.

Pro-Tip: Pomocí tlačítka Generovat koncept vedle každého pole nechte Agent ID navrhnout právně nezávadný základ založený na telemetrii vašeho systému.

4Soulad a právní předpisy

Tento poslední oddíl pokrývá nejpřísnější regulační aspekty (příloha IV, odstavce 2, 7, 8, 9).

Ověřovací protokoly: Popište datové sady a postupy používané při vašem testování.

Opatření pro kybernetickou bezpečnost: Zaškrtněte své standardní ovládací prvky (TLS RBAC, protokoly auditu, šifrování) a poskytněte přehled v jednoduchém jazyce.

Aplikované normy: Uveďte všechny harmonizované normy (např. ISO 42001, ISO 27001), kterými se vaše společnost řídí.

Prohlášení o shodě a monitorování po uvedení na trh: Navrhněte své oficiální prohlášení EU a popište svůj plán průběžného monitorování podle článku 72.

5Exportujte balíček Compliance Bundle

Jakmile jsou všechna pole vyplněna, jednoduše klikněte na Export Bundle (umístěný v horní části řídicího panelu). Agent ID zkompiluje vaše technické texty, připojí vaše neměnná hodnocení a připojí váš registr kryptografických důkazů do jediného, ​​krásně formátovaného PDF připraveného pro audit.