Neue Anforderungen an Künstliche Intelligenz in der GMP-Fertigung
Mit Annex 22 erhält die EU-GMP-Richtlinie erstmals ein eigenes Kapitel für KI- und Machine-Learning-Modelle in GxP-kritischen Anwendungen. Er ergänzt Annex 11 (Computerisierte Systeme) um spezifische Anforderungen an KI- und ML-Modelle, die in GMP-kritischen Prozessen eingesetzt werden, also überall dort, wo eine KI-Entscheidung direkten Einfluss auf Patientensicherheit, Produktqualität oder Datenintegrität hat. Für Hersteller in der pharmazeutischen Industrie bedeutet das: Bestehende und geplante KI-Systeme müssen jetzt auf den Prüfstand.
Was Annex 22 konkret verlangt
Noch ist Annex 22 im Entwurf, er soll aber zeitnah finalisiert werden, so dass eine Umsetzung demnächst notwendig wird. Der Entwurf beschreibt einen risikobasierten Lebenszyklus-Ansatz für KI-Modelle in GxP-Anwendungen, von der Entwicklung über die Validierung bis zum laufenden Betrieb.
Die wichtigsten Bausteine im Überblick:
Intended Use & Risikoanalyse
Verwendungszweck, Anwendungsgrenzen und Fehlerfolgen müssen vor Testbeginn dokumentiert und von Fachexperten freigegeben werden.
Validierung mit unabhängigen Testdaten
Trainings-, Validierungs- und Testdaten müssen strikt getrennt sein (Vier-Augen-Prinzip), um Bias und Overfitting auszuschließen.
Erklärbarkeit & Konfidenzwerte
Verfahren wie SHAP oder LIME sowie protokollierte Konfidenzwerte je Vorhersage, inkl. Kennzeichnung „unentschieden" bei geringer Sicherheit.
Human Oversight
Qualifiziertes Personal muss KI-gestützte Entscheidungen nachvollziehbar prüfen und dokumentieren – abgestuft nach Kritikalität.
Change Control & Drift-Monitoring
Jede Änderung an Modell, System oder Prozess wird bewertet; die Modellleistung wird im Betrieb kontinuierlich überwacht.
Lückenlose Dokumentation
Von der Datencharakterisierung über Testpläne bis zu Abweichungen integriert in bestehende Annex-11 und GAMP-5 Prozesse.
Bestandsaufnahme statt Abwarten
„Bestehende GxP-kritische KI-Systeme müssen nach Inkrafttreten des Annex 22 im Nachhinein überprüft und an die neuen Anforderungen angepasst werden."
Auch wenn der finale Text von Annex 22 noch nicht verabschiedet ist: Der aktuelle Entwurf sieht keine Übergangsfrist für bereits produktiv eingesetzte KI-Systeme vor. Wer heute ein KI-gestütztes Prüfsystem in der GMP-Fertigung einsetzt, sollte davon ausgehen, dass eine rückwirkende Gap-Analyse und Anpassung an die neuen Anforderungen notwendig wird, sobald Annex 22 in Kraft tritt.
Zudem gilt schon heute: Bestehende GMP-Verpflichtungen (u. a. Annex 11) erlauben es Inspektoren bereits jetzt, den Einsatz von KI-Systemen zu hinterfragen. Frühzeitige Vorbereitung verhindert kurzfristigen Anpassungsdruck, Produktionsunterbrechungen und Nachdokumentation unter Zeitdruck.
Schon heute Annex-22-konforme KI-Lösungen aus Hamburg
Als langjähriger Partner der pharmazeutischen Industrie entwickelt und validiert Krempien+Petersen KI-basierte Bildverarbeitungslösungen, die bereits auf die Anforderungen von Annex 22 ausgelegt sind, inklusive lückenloser Prüfdatenerfassung, statischer, validierter Modelle und durchgängiger Rückverfolgbarkeit.
Glasbruchkontrolle
Optische Inspektion von Vials und Spritzen mit Deep Learning erkennt Risse, Sprünge und Abplatzungen am Glaskörper zuverlässig bei bis zu 650 Teilen/Minute. Erfüllt bereits heute die Vorgaben von EU GMP Annex 22 sowie FDA 21 CFR Part 11.
Zur Produktseite GlasbruchkontrolleDeep Learning / KUPvision
Statische, trainierte Deep-Learning-Modelle für OCR, Montageprüfung, Oberflächenfehler und Klassifikation integriert in die KUPvision-Software mit vollständiger Dokumentation für Validierung und Change Control.
Zur Produktseite Deep LearningPharmazeutische Industrie
Prüf- und Identifikationslösungen für Etikettierung, Füllstand, Blister, OCR/OCV, Codelesung und Glaskontrolle abgestimmt auf die strengen Qualitäts- und Sicherheitsanforderungen der Pharmabranche.
Zur Branchenseite PharmaQualifizierung & Validierung
Unterstützung bei Testplan, Testdaten-Unabhängigkeit, Dokumentation und Qualifizierung Ihrer bestehenden oder neuen KI-Systeme als Vorbereitung auf Annex 22.
Zur Seite Dokumentation und Qualifizierung
In 5 Schritten zur Annex-22-Konformität
Alle GxP-kritischen KI-/ML-Systeme im Einsatz erfassen, inklusive Legacy-Systemen und Fremdsoftware.
Abgleich der bestehenden Validierung mit den Anforderungen des Annex-22-Entwurfs (Intended Use, Testdaten, Erklärbarkeit, Oversight).
Fehlende Nachweise, z. B. Testdaten-Unabhängigkeit, Konfidenzwerte, Risikoanalysen nachrüsten.
Verantwortlichkeiten, Schulungen und Prüfprotokolle für KI-gestützte Entscheidungen festlegen.
Change Control und laufendes Drift-Monitoring implementieren, um Modellleistung dauerhaft nachzuweisen.
