Halconia.
Kontakt
Zurück zum Blog

Wie Sie prüfen, ob ein industrieller Prozess bereit für den Einsatz von KI ist

Ein industrieller Prozess ist bereit für den Einsatz von KI, wenn seine Daten, Risiken, menschliche Aufsicht, Qualität, Cybersicherheit und technische…

Andrés Naves ·

Wie Sie prüfen, ob ein industrieller Prozess bereit für den Einsatz von KI ist

Ein industrieller Prozess ist bereit für den Einsatz von KI, wenn seine Daten, Risiken, menschliche Aufsicht, Qualität, Cybersicherheit und technische Dokumentation vor der Inbetriebnahme ausreichend belegt sind. Die Leitfäden der AESIA dienen als Referenzliste, um diese Bereiche zu prüfen, auch wenn sie nicht verbindlich sind. Die Leitfäden haben keinen verbindlichen Charakter und ersetzen oder konkretisieren die geltenden Vorschriften nicht.

Was prüfe ich bei einem industriellen Prozess, bevor ich entscheide, dass er bereit für den Einsatz von KI ist?

Die Leitfäden der AESIA sind nicht verbindlich und ersetzen oder konkretisieren die Vorschriften nicht, bieten aber praktische Empfehlungen, die mit den regulatorischen Anforderungen übereinstimmen. Die Leitfäden der AESIA haben keinen verbindlichen Charakter, ersetzen oder konkretisieren die geltenden Vorschriften nicht und sind in drei Blöcke gegliedert.

Der erste Bereich sind die Daten. Sie müssen prüfen, dass die für Training, Validierung und Test verwendeten Daten angemessen, relevant und ausreichend repräsentativ sind und die Qualitäts- und Vollständigkeitsanforderungen des Artikels 10 der KI-Verordnung erfüllen.

Der zweite ist das Risikomanagementsystem mit Maßnahmen zur Identifizierung, Analyse, Bewertung und Minderung der möglichen Risiken eines KI-Systems. Die Risiken des Systems müssen identifiziert, analysiert, bewertet und gemindert werden, wie es der Leitfaden der AESIA zum Risikomanagementsystem beschreibt, der mit Artikel 9 verknüpft ist.

Der dritte ist die menschliche Aufsicht. Personen müssen autonome Entscheidungen mit Sachkenntnis treffen können, und die menschliche Überwachung muss im Betrieb des Systems eine zentrale Rolle einnehmen, gemäß Artikel 14.

Der vierte ist das Qualitätsmanagement, das organisatorische und technische Maßnahmen gemäß Artikel 17 verlangt. Der fünfte ist die Cybersicherheit: Der Leitfaden der AESIA weist darauf hin, dass sie in ein umfassenderes Cybersicherheitskonzept integriert werden muss, im Einklang mit Artikel 15.

Schließlich muss die technische Dokumentation vor dem Inverkehrbringen oder der Inbetriebnahme erstellt, aktuell gehalten und als Nachweis der Einhaltung der Anforderungen vorgelegt werden. Ein Bereich ohne Nachweis ist eine Lücke, die vor Projektbeginn geschlossen werden sollte.

Die Leitfäden der AESIA richten sich an Entwickler oder Implementierer von KI-Systemen mit hohem Risiko, nicht an jede KI-Nutzung in der Anlage.

Anforderungen der KI-Verordnung, die Hochrisikosysteme erfüllen müssen

Prüfpunkt

Verweis

Was umfasst er

Daten-Governance

Artikel 10 KI-VO

Angemessene, relevante und ausreichend repräsentative Trainings-, Validierungs- und Testdaten mit Qualität und Vollständigkeit

Risikomanagement

Artikel 9 KI-VO

Maßnahmen zur Identifizierung, Analyse, Bewertung und Minderung der möglichen Risiken des KI-Systems

Menschliche Aufsicht

Artikel 14 KI-VO

Personen müssen Entscheidungen in Kenntnis der Sachlage über das KI-System treffen können

Qualitätsmanagement

Artikel 17 KI-VO

Organisatorische und technische Maßnahmen zur Erfüllung der Anforderungen an das Qualitätsmanagement

Cybersicherheit

Artikel 15 KI-VO

KI-spezifische Cybersicherheitsmaßnahmen, integriert in ein umfassenderes Cybersicherheitskonzept

Was muss ich einplanen, wenn das System bereits im Prozess läuft?

Sobald das System läuft, ist der entscheidende Punkt, dass es seine Leistung nicht verschlechtert. Der Leitfaden der AESIA zur Genauigkeit enthält Maßnahmen, damit das System nach der Inbetriebnahme seine Leistungs- und Genauigkeitsspezifikationen nicht verliert.

Für Hochrisikosysteme verlangt die Verordnung einen Plan zur Beobachtung nach dem Inverkehrbringen: Tätigkeiten, mit denen Anbieter und Betreiber Erfahrungen sammeln und auswerten, um zu entscheiden, ob Maßnahmen nötig sind. Der Leitfaden der AESIA zur Meldung schwerwiegender Vorfälle beschreibt das Verfahren des Artikels 73 und die Maßnahmen zu dessen Anwendung.

Die Quelle spricht davon, die Vorschrift eines harmonisierten Plans zur Beobachtung nach dem Inverkehrbringen zu streichen, um Unternehmen mehr Flexibilität zu geben. Eine der genannten Änderungen besteht darin, die Vorschrift eines harmonisierten Plans zur Beobachtung nach dem Inverkehrbringen zu streichen und Unternehmen so mehr Flexibilität zu geben. Diese Streichung der Vorschrift eines harmonisierten Plans zur Beobachtung nach dem Inverkehrbringen erscheint in der Passage als geplante Maßnahme, zusammen mit der Verringerung der Registrierungspflicht für KI-Systeme, die in Hochrisikobereichen für Aufgaben eingesetzt werden, die nicht als hochriskant gelten.

An wen richten sich diese Anforderungen und ab wann gelten sie?

Die Einhaltung des KI-Gesetzes richtet sich an die ihm unterliegenden Akteure, insbesondere an Anbieter und Betreiber von KI-Systemen sowie an Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Das KI-Büro, der Europäische Datenschutzbeauftragte und die zuständigen nationalen Behörden sind für die Überwachung und Durchsetzung der Vorschriften verantwortlich.

Die Anwendung erfolgt stufenweise. Ab dem 2. 2026 August gelten die Bestimmungen zu verbotenen KI-Praktiken, die Transparenzanforderungen für bestimmte KI-Systeme und die Regeln für KI-Modelle mit allgemeinem Verwendungszweck.

Die Regeln für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. 2027 Dezember, und die für Systeme, die in regulierte Produkte integriert sind, ab dem 2. 2028 August; die Vorbereitung sollte daher je nach Systemtyp auf diese Termine abgestimmt werden.

Anwendungsdaten des KI-Gesetzes

  • 2 de agosto de 2026 Transparenz, verbotene Praktiken und Modelle mit allgemeinem Verwendungszweck — Durchführungsbefugnisse und Bestimmungen, die ab diesem Datum gelten.
  • 2 de diciembre de 2027 Hohes Risiko nach Anhang III — Anwendungsdatum der Regeln für KI-Systeme mit hohem Risiko nach Anhang III.
  • 2 de agosto de 2028 Hohes Risiko in regulierten Produkten integriert — Anwendungsdatum der Regeln für Hochrisikosysteme, die in regulierte Produkte integriert sind.

Quellen