EU-AI-Act-Self-Check

40 Prüfpunkte für den Stand eurer KI-Compliance.

Punkt für Punkt bewerten, Notizen ergänzen, Lücken als Datei mitnehmen. Alles bleibt im Browser.

0 von 40 bewertet

A: 0/10B: 0/8C: 0/11D: 0/11

Sektion A

Bestandsaufnahme & Einordnung

  • KI-Inventar liegt vor

    Alle im Unternehmen eingesetzten KI-Systeme und -Tools (auch ChatGPT, Copilot & Co. in Fachabteilungen) sind zentral erfasst.

    Grundlage jeder Einordnung nach Art. 6, 50

  • Schatten-KI ist abgefragt

    Es gibt einen Prozess, mit dem privat oder inoffiziell genutzte KI-Tools der Mitarbeitenden sichtbar werden.

    Voraussetzung für Art. 4, 26

  • Rolle je System bestimmt

    Für jedes System ist geklärt, ob ihr Betreiber, Anbieter, Einführer oder Händler seid — die Pflichten unterscheiden sich grundlegend.

    Art. 2, 3, 25

  • Anbieter-Falle geprüft

    Es ist geprüft, ob ihr durch wesentliche Änderung, eigenes Branding oder Zweckänderung eines Systems selbst zum Anbieter werdet.

    Art. 25

  • Risikoklasse je System dokumentiert

    Jedes System ist einer Risikoklasse zugeordnet (verboten / hochriskant / begrenztes Risiko / minimal), inkl. Begründung.

    Art. 5, 6, Anhang III

  • Verbotene Praktiken ausgeschlossen

    Es ist geprüft und dokumentiert, dass keine verbotenen Praktiken vorliegen (z. B. manipulative Techniken, Social Scoring, Emotionserkennung am Arbeitsplatz).

    Art. 5

  • Hochrisiko-Kandidaten identifiziert

    Systeme in sensiblen Feldern (z. B. Personalauswahl, Kreditwürdigkeit, kritische Infrastruktur) sind gegen Anhang III geprüft.

    Art. 6, Anhang III

  • GPAI-Basis bekannt

    Für eingesetzte generative Tools ist bekannt, auf welchem Basismodell sie beruhen und was deren Anbieter zu Pflichten dokumentiert.

    Kap. V, Art. 53

  • Anwendbare Fristen bekannt

    Die für euch relevanten Geltungstermine der KI-VO sind bekannt und in eine Roadmap übersetzt.

    Art. 113

  • Zuständigkeit benannt

    Eine Person/Rolle verantwortet das Thema KI-Compliance (z. B. KI-Beauftragte:r), mit Mandat und Berichtsweg.

    Best Practice zur Umsetzung von Art. 4, 26

Sektion B

KI-Kompetenz & Organisation

  • Schulungspflicht umgesetzt

    Alle Personen, die mit KI-Systemen arbeiten, verfügen über ein ausreichendes Maß an KI-Kompetenz; Schulungen sind rollenspezifisch.

    Art. 4

  • Schulungen dokumentiert

    Teilnahmen, Inhalte und Aktualisierungen der KI-Schulungen sind nachweisbar dokumentiert.

    Art. 4, Nachweisführung

  • KI-Richtlinie in Kraft

    Eine interne KI-Nutzungsrichtlinie regelt erlaubte Tools, verbotene Eingaben (z. B. personenbezogene Daten, Geschäftsgeheimnisse) und Freigabeprozesse.

    Best Practice, flankiert Art. 4, 26

  • Onboarding & Aktualisierung geregelt

    Neue Mitarbeitende werden zu KI-Regeln geschult; die Richtlinie hat einen Review-Zyklus.

    Art. 4

  • Freigabeprozess für neue Tools

    Neue KI-Tools durchlaufen vor dem Einsatz eine definierte Prüfung (Risikoklasse, Datenschutz, Vertrag).

    Art. 6, 26; DSGVO-Schnittstelle

  • Datenschutz verzahnt

    KI-Einsatz ist mit Datenschutz-Prozessen verbunden (DSFA-Bedarf, AVV mit Tool-Anbietern, Drittlandtransfer).

    DSGVO-Schnittstelle, Art. 26 Abs. 9

  • Betriebsrat/Beschäftigte informiert

    Bei KI-Einsatz mit Bezug zu Beschäftigten sind Arbeitnehmervertretung und Betroffene vorab informiert.

    Art. 26 Abs. 7

  • Management trägt Verantwortung

    Die Geschäftsführung kennt Risiken und Bußgeldrahmen und hat Budget/Ressourcen für die Umsetzung freigegeben.

    Art. 99

Sektion C

Transparenz & Pflichten im Einsatz

  • KI-Interaktion wird offengelegt

    Wo Menschen mit einem KI-System interagieren (Chatbot, Voicebot), ist das klar erkennbar.

    Art. 50 Abs. 1

  • KI-generierte Inhalte gekennzeichnet

    Synthetische Inhalte (Text, Bild, Audio, Video) sind maschinenlesbar als KI-generiert markiert, wo die VO es verlangt.

    Art. 50 Abs. 2

  • Deepfake-Regel umgesetzt

    Für realistisch wirkende Personen-/Ereignisdarstellungen ist die Offenlegungspflicht geregelt.

    Art. 50 Abs. 4

  • Kennzeichnung öffentlicher Texte

    Für KI-Texte, die zur Information der Öffentlichkeit publiziert werden, ist die Kennzeichnungsfrage geklärt.

    Art. 50 Abs. 4

  • Betreiberpflichten Hochrisiko bekannt

    Falls Hochrisiko-Systeme im Einsatz sind: Die Betreiberpflichten sind je System in Maßnahmen übersetzt.

    Art. 26

  • Nutzung nach Betriebsanleitung

    Hochrisiko-Systeme werden gemäß Anbieter-Instruktionen betrieben; Abweichungen sind dokumentiert.

    Art. 26 Abs. 1

  • Menschliche Aufsicht organisiert

    Zuständige, geschulte Personen überwachen den KI-Einsatz und können eingreifen bzw. das System stoppen.

    Art. 26 Abs. 2, Art. 14

  • Eingabedaten kontrolliert

    Soweit ihr die Eingabedaten kontrolliert: Sie sind für die Zweckbestimmung relevant und hinreichend repräsentativ.

    Art. 26 Abs. 4

  • Protokolle werden aufbewahrt

    Automatisch erzeugte Logs von Hochrisiko-Systemen werden mindestens sechs Monate aufbewahrt.

    Art. 26 Abs. 6

  • Ergebnisse werden geprüft

    KI-Ausgaben mit Außenwirkung (Texte, Entscheidungen, Bewertungen) durchlaufen eine menschliche Qualitäts-/Plausibilitätskontrolle.

    Art. 14, 26; Best Practice

  • Betroffenen-Information geregelt

    Personen, die von Entscheidungen mit Hochrisiko-KI-Unterstützung betroffen sind, werden darüber informiert.

    Art. 26 Abs. 11, Art. 86

Sektion D

Governance & laufender Betrieb

  • Verträge mit KI-Anbietern geprüft

    Verträge/AGB der eingesetzten Tools sind auf Nutzungsrechte, Datenverwendung fürs Training und Compliance-Zusagen geprüft.

    Art. 25; DSGVO-Schnittstelle

  • Dokumentation zentral geführt

    Einordnungen, Prüfungen, Schulungen und Maßnahmen liegen in einer zentralen, aktuellen KI-Akte.

    Nachweisführung, Art. 26

  • Monitoring im Betrieb

    Der laufende Betrieb wird überwacht (Fehlverhalten, Qualitätsdrift, neue Einsatzzwecke); Auffälligkeiten werden bewertet.

    Art. 26 Abs. 5

  • Vorfall-Prozess definiert

    Es ist geregelt, wie bei schwerwiegenden Vorfällen Anbieter und Behörden informiert werden — inkl. Fristenkenntnis.

    Art. 26 Abs. 5, Art. 73

  • Aussetzungs-Szenario geübt

    Es ist klar, wie ein System kurzfristig gestoppt/ersetzt werden kann, wenn ein Risiko erkannt wird.

    Art. 26 Abs. 5

  • Neue Zwecke lösen Neuprüfung aus

    Wird ein Tool für einen neuen Zweck genutzt, greift automatisch eine erneute Risiko-Einordnung.

    Art. 6, 25

  • Regulatorik wird beobachtet

    Leitlinien, delegierte Rechtsakte und Behördenpraxis zur KI-VO werden aktiv verfolgt und in die Prozesse übernommen.

    laufende Pflichtenkonkretisierung

  • Lieferkette dokumentiert

    Für kritische KI-Funktionen ist dokumentiert, welche Anbieter/Subdienstleister beteiligt sind und wer welche Pflicht trägt.

    Art. 25

  • Trainings-/Feintuning-Daten geregelt

    Falls ihr Modelle feintunt oder mit eigenen Daten anreichert (RAG): Datenherkunft, Rechte und Qualität sind geprüft.

    Art. 10 analog, Art. 25; Urheberrecht

  • Kennzahlen & Reporting

    Der KI-Compliance-Stand wird regelmäßig an die Führung berichtet (z. B. offene Lücken aus diesem Check).

    Best Practice, Art. 99-Prävention

  • Wiedervorlage terminiert

    Dieser Self-Check wird in festem Turnus (z. B. halbjährlich) und bei jeder größeren Tool-Änderung wiederholt.

    kontinuierliche Compliance