Annex 22 és a generatív AI: a várható irány az EMA workshop-jelentése alapján

Az Annex 22 tervezete ma még kizárja a generatív AI-t és a nagy nyelvi modelleket a kritikus GMP-alkalmazásokból. Az EMA workshop-jelentése szerint a szövegezők azt vizsgálják, engedhetők-e ezek szigorú, dokumentált kockázatkezeléssel. Döntés még nincs, a jelentésből a várható irány olvasható ki.

Megjelenés: 2026. november 4.

Az EU GMP-útmutató készülő Annex 22 melléklete a mesterséges intelligenciáról szól. A tervezet szerint az Annex 11-et (számítógépes rendszerek) egészíti ki azokra a rendszerekre, amelyekbe AI-modell épül. Az EMA 2026. október 2-án közzétette annak a szakértői workshopnak a jelentését (keltezése 2026. június 30.), ahol a melléklet szövegezői az EMA-nál nyilvántartott iparági érdekképviseletek szakértőitől kértek tapasztalati alapú véleményt (EMA/156789/2026).

Fontos előre rögzíteni: ez nem új szabály, és nem hatósági döntés. A jelentés a workshopon elhangzott ipari álláspontot és a szövegezők kérdéseit foglalja össze. A végleges Annex 22 szövege még nem ismert. Amit a jelentésből ki lehet olvasni, az a várható irány.

A kiindulópont

A tervezet szövege a jelentés idézete szerint jelenleg kimondja, hogy a dokumentum nem vonatkozik a generatív AI-ra és a nagy nyelvi modellekre (LLM), a valószínűségi kimenetű, a dinamikus és a működés közben alkalmazkodó modellekre, és hogy ilyen modelleket kritikus GMP-alkalmazásban nem szabad használni. Nem kritikus GMP-alkalmazásban a tervezet (1. pont) szerint a generatív AI és a nagy nyelvi modell kimenetéért megfelelő képzettségű munkatársnak kell felelnie (human-in-the-loop), és a tervezet elvei figyelembe vehetők, ahol alkalmazhatók.

A nyilvános konzultáción viszont sok észrevétel azt támogatta, hogy a gyártók ezeket a modelleket is használhassák GMP-alkalmazásokban, kritikusakban és nem kritikusakban egyaránt. A szövegezőcsoport ezért megvitatta, hogy kiterjessze-e a melléklet hatókörét ezekre a modellekre, azzal a feltétellel, hogy megfelelnek a melléklet követelményeinek, és teljesen dokumentált, megbízható, kockázatalapú ellenőrzési stratégia támasztja alá őket. Hogy egy ilyen stratégiának mi legyen a tartalma, abban maradt kérdés. Ezért kérték a workshopot.

Hat téma, egy közös üzenet

A workshopon hat témát vettek sorra: a szabályozási utat, a kockázatkezelés határait, az emberi felügyeletet, a műszaki megbízhatóságot, a validálást és az életciklust, valamint a kiberbiztonságot és a kiszervezést. A jelentés szerint az ipari résztvevők mindegyik témában ugyanazt az irányt képviselték. Az ipar üzenete: ne a technológia neve döntsön, hanem a felhasználási cél, a kockázat és a kontrollok hatásossága.

A jelentés összegzése szerint a résztvevők következetesen kockázatalapú, technológiasemleges megközelítést kértek. A zárás óvatosan fogalmaz: megfelelő kontrollokkal és erős kockázatalapú kerettel „there may be viable pathways" (lehetnek járható utak) az alkalmazkodó, valószínűségi és generatív AI használatára GMP-környezetben.

A várható irány, témánként

1. Nem tiltás, hanem bizonyítás. Az ipar szerint nincs olyan döntési kör, amely pusztán a technológia vagy a kritikusság címkéje miatt eleve kizárt. A jelentés ugyanakkor azt is leírja: a kockázatkezelés érvényes eredménye lehet az is, hogy „ne használjuk", ha a bizonytalanság nem kontrollálható, és ezt a döntést dokumentálni kell. A jelentés szerint a mellékletet egy teljesítményalapú elfogadhatósági keret felé terelheti a vita: felhasználási cél, a döntés következménye, a modell befolyása, bizonytalanság, összetettség és észlelhetőség értékelése, majd kontrollok, ellenőrzés, a maradék kockázat figyelése és dokumentált igen/nem döntés.

2. Az észlelhetőség (detectability) számít. A workshop moderátora felvetette, hogy alkalmazkodó vagy generatív AI-nál épp az lehet a fő kockázat, ha a hiba nem vehető észre. A jelentés szerint a vita támogatta, hogy az észlelhetőséget figyelembe vegyék, de egyetlen kockázatpontozási módszert sem írna elő. Az ipari válasz szerint az olyan jelenségeket, mint a hallucináció vagy a kitalált adat, a fejlesztés és a validálás során azonosítani kell. Az ipari álláspont szerint ha a gyártó ezek ismeretében nem tudja igazolni, hogy a rendszer alkalmas a célra, a felhasználás nem indokolható.

3. Rétegzett kontrollok. A műszaki szekció a „svájci sajt" modellt használta: bemeneti (megelőző), modellen belüli (észlelő) és kimeneti (megfékező) kontrollok, amelyek külön-külön tökéletlenek, együtt viszont csökkentik a kockázatot. A szekció azt is kiemelte, hogy az ismert hibákra tervezett kontroll nem fedi le automatikusan az előre nem látott hibát. A résztvevők szerint a melléklet törzsébe elvek kerüljenek (megelőzés, észlelés, megfékezés), a konkrét technikai módszerek inkább frissíthető mellékletbe vagy kérdés-felelet dokumentumba. A „guardrail" szó helyett a „control mechanisms" kifejezést javasolták.

4. Emberi felügyelet, de nem jelképesen. A jelentés különválasztja az emberi felügyeletet (a teljes életcikluson átívelő irányítás) és a „human in the loop" megoldást (a folyamat megvárja az ember döntését). A résztvevők szerint az utóbbi egy lehetséges kontroll, nem minden AI-felhasználás alapkövetelménye. A jelentés szerint a felügyeletnek a kockázattal arányosnak, valódinak és bizonyíthatónak kell lennie: a felülvizsgálónak értenie kell a modell elveit, a folyamatot és a döntési helyzetet, hogy vitatni tudja az AI kimenetét. A jelentés azt is kiemeli, hogy az emberi felügyelet nem pótolhatja a hiányos validálást.

5. A validálás életciklus, nem egyszeri esemény. A jelentésben összefoglalt álláspont szerint a validálás mélységét a felhasználási cél, a bizonytalanság, a fontosság, az összetettség, az önállóság és az alkalmazkodóképesség határozza meg. A résztvevők szerint a validáláshoz és teszteléshez használt adat maradjon független a fejlesztési és tanítóadattól. A folyamatosan tanuló rendszereknél ennek módja még tisztázásra vár. Az életciklusba beletartozik a figyelés, a változáskezelés, az incidens- és problémakezelés, a CAPA és a beszállító felügyelete.

6. Az AI is számítógépes rendszer. Kiberbiztonság és kiszervezés tekintetében az ipar szerint az Annex 11 elvi szinten elegendő keret; a jelentés külön az Annex 11 kiszervezett tevékenységekről szóló 7. fejezetét említi. Ez a számozás az Annex 11 átdolgozási tervezetével egyezik (7. fejezet: Supplier and Service Management), a ma hatályos 2011-es szövegben a beszállítókról a 3. pont szól. A jelentés szerint ez abba az irányba hathat, hogy az Annex 22 az Annex 11-re hivatkozzon, és csak AI-specifikus szempontokkal egészítse ki. A jelentés szerint a felelősség akkor is a szabályozott felhasználónál marad, ha a modellt, a platformot vagy a felhőt harmadik fél adja. A résztvevők szerint ha egy külső modell vagy API nem ad elég bizonyítékot (kimenet, indoklás, napló) a kontrollhoz, a gyártó nem tudja megfelelően mérni és igazolni a rendszert.

A következő lépés

A jelentés szerint a szövegezőcsoport most értékeli a workshopon elhangzottakat, és ezek alapján dolgozik tovább az Annex 22 átdolgozásán. Határidőt a jelentés nem közöl. Az EMA GMP/GDP inspektori munkacsoportjának 2026-2028-as munkaterve 2026 negyedik negyedévére tűzte ki, hogy a végleges szöveget átadja a Bizottságnak; ez nem közzététel és nem hatálybalépés; ezek időpontja nem ismert. Hogy a hatókör ténylegesen kibővül-e, és milyen feltételekkel, azt csak a következő szövegváltozat fogja megmutatni.

Amit már most meg lehet tenni

Bármilyen lesz a végleges szöveg, a jelentés minden témájában visszatérő elemek jó kiindulópontot adnak:

Legyen leltár arról, hol használ a cég AI-t GMP-hez kapcsolódó folyamatban, a kísérleti projekteket és a beszállítói rendszerekbe épített AI-funkciókat is beleértve. Minden felhasználásnál legyen írásban rögzített felhasználási cél és kockázatértékelés, amely a hiba észlelhetőségét is vizsgálja. Legyen végiggondolva, ki és hogyan felügyeli az AI kimenetét, és ez hogyan bizonyítható egy inspekción. A külső AI-szolgáltatóval kötött szerződésben legyen benne a változások láthatósága, a bizonyítékokhoz való hozzáférés és a felelősségek megosztása.

Ezek a lépések a mai Annex 11 és ICH Q9 alapján is indokoltak, ezért nem vesznek kárba, akárhogy alakul az Annex 22.

Ha az Annex 22-re most kezdene felkészülni, ingyenes kötetünk, „Az AI és a gépi tanulás a GxP szürke zónájában" ebben segít: ingyen megrendelhető itt.

Forrás: EMA/156789/2026, „Multistakeholder workshop on expert contributions to artificial intelligence guidance development (Annex 22)", 2026. június 30. https://www.ema.europa.eu/en/documents/report/report-multistakeholder-workshop-expert-contributions-artificial-intelligence-guidance-development-annex-22_en.pdf - A cikk a jelentésben leírt ipari álláspontot és a várható irányt foglalja össze, nem hatósági döntést. Nem helyettesíti az eredeti dokumentumot és a szakmai tanácsadást.