KI-Check

Wie riskant ist der KI-Einsatz in Ihrem Unternehmen?

Drei Fragen zu Rolle, Einsatzzweck und Personenentscheidungen genügen für eine erste Einschätzung Ihrer Risikoklasse und Pflichten nach dem AI Act.

KI-Check

Nutzen Sie unseren kostenfreien KI-Check.

Frage 1 von 3

Wie setzen Sie KI ein?

Ihre Rolle bestimmt, welche Pflichten der KI-Verordnung greifen.

Frage 2 von 3

Wofür wird die KI genutzt?

Der Einsatzzweck entscheidet über die Risikoklasse.

Frage 3 von 3

Trifft oder unterstützt die KI Entscheidungen über Personen?

Etwa Bewerberauswahl, Bonität oder Zugang zu Leistungen, der stärkste Hochrisiko-Auslöser (Anhang III).

Wie wir Ihre Eingabe verarbeiten, erklärt unsere Datenschutzerklärung.

Hinweis: Das Ergebnis dieses Checks ist eine kostenfreie, automatisierte Ersteinschätzung und damit ein grober Anhaltspunkt. Es ersetzt keine Prüfung des Einzelfalls und keine Rechtsberatung. Eine Haftung für Richtigkeit und Vollständigkeit des Ergebnisses übernehmen wir nicht.

Hintergrund

Zwei Rollen, vier Risikoklassen.

Die KI-Verordnung (AI Act, Verordnung (EU) 2024/1689) knüpft Pflichten an Ihre Rolle und an das Risiko des Systems. Parallel gilt die DSGVO, sobald personenbezogene Daten verarbeitet werden.

Erst die Rolle klären

Die meisten Unternehmen sind Betreiber fremder KI-Systeme, nicht deren Anbieter. Wer KI selbst entwickelt oder wesentlich anpasst, wird zum Anbieter mit deutlich höheren Pflichten.

Die vier Risikoklassen

  • Verbotenes Risiko (Art. 5 KI-Verordnung, untersagt seit Februar 2025)
  • Hohes Risiko (Anhang III, z. B. Personalauswahl, Kreditvergabe)
  • Begrenztes Risiko mit Transparenzpflichten (Art. 50 KI-Verordnung)
  • Minimales Risiko (die große Mehrheit der Anwendungen)

Der Zeitplan der Anwendung

  • In Kraft seit August 2024
  • Verbotene Praktiken seit Februar 2025
  • Pflichten für KI mit allgemeinem Verwendungszweck seit August 2025
  • Die meisten übrigen Pflichten ab August 2026

Hintergrund

KI-Kennzeichnungspflichten ab 2. August 2026.

Mit dem 2. August 2026 gilt die Verordnung allgemein und damit Art. 50 KI-Verordnung. Die Vorschrift adressiert Anbieter und Betreiber getrennt, deshalb fragt der Check oben zuerst nach Ihrer Rolle.

Pflichten der Anbieter

  • Abs. 1: Systeme, die direkt mit Menschen interagieren, müssen so gestaltet sein, dass die KI erkennbar ist, außer es ist ohnehin offensichtlich.
  • Abs. 2: Generatoren müssen synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren (Wasserzeichen, Metadaten). Ausnahme: reine Hilfsfunktionen, die die Eingabe nicht wesentlich verändern.

Pflichten der Betreiber, das betrifft die meisten Unternehmen

  • Abs. 3: Emotionserkennung und biometrische Kategorisierung: betroffene Personen informieren.
  • Abs. 4: Deepfakes offenlegen. Bei Text nur, wenn er veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und auch dann nicht, wenn ein Mensch geprüft hat und die redaktionelle Verantwortung trägt.
  • Abs. 5: klar und unterscheidbar, spätestens bei der ersten Interaktion, barrierefrei zugänglich.

Deepfake oder nicht? Drei Merkmale müssen zusammenkommen

Nach Art. 3 Nr. 60 KI-Verordnung ist ein Deepfake KI-erzeugter oder manipulierter Bild-, Audio- oder Videoinhalt, der bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich als echt erscheinen würde. Fehlt ein Merkmal, liegt kein Deepfake vor, und für Betreiber keine Offenlegungspflicht.

  • Kennzeichnungspflichtig: KI-Video mit dem Gesicht einer real existierenden Person; KI-Stimme eines Geschäftsführers; manipuliertes Foto eines echten Ereignisses.
  • Nicht kennzeichnungspflichtig: frei erfundene Illustrationen und Symbolbilder ohne realen Bezug; KI-generierter Programmcode; interne Texte, Angebote und Präsentationen; normale Marketingtexte; redaktionell geprüfte Veröffentlichungen.

Verstöße gegen Art. 50 KI-Verordnung können nach Art. 99 Abs. 4 lit. g KI-Verordnung mit bis zu 15 Mio. € oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist.

Sie brauchen Beratung im Datenschutz?

Ergebnis zeigt Handlungsbedarf? Wir bewerten Ihren KI-Einsatz nach DSGVO und KI-Verordnung und begleiten die Umsetzung.

Direkt anrufen +49 (0)69 27 13 57 20-0
Rückruf anfordern →

Aus dem Blog

Vertiefende Beiträge zum Thema.

Häufige Fragen

Was unsere Mandanten oft fragen.

Müssen wir KI-generierte Grafiken oder Programmcode kennzeichnen?
In der Regel nicht. Die Offenlegungspflicht für Betreiber aus Art. 50 Abs. 4 KI-Verordnung betrifft Deepfakes, also KI-Bild, -Audio oder -Video, das bestehenden Personen, Orten oder Ereignissen ähnelt und fälschlich als echt erscheinen könnte (Art. 3 Nr. 60 KI-Verordnung). Eine frei erfundene Illustration erfüllt das nicht, Programmcode ist ohnehin kein Bild-, Audio- oder Videoinhalt. Die maschinenlesbare Markierung nach Art. 50 Abs. 2 KI-Verordnung trifft den Anbieter des KI-Systems, nicht Sie als Nutzer.
Für wen gilt die KI-Verordnung?
Die Verordnung (EU) 2024/1689 gilt für Anbieter und Betreiber von KI-Systemen mit Bezug zur EU. Die meisten Unternehmen sind Betreiber, weil sie fertige KI-Tools einsetzen. Wer KI selbst entwickelt oder wesentlich anpasst, gilt als Anbieter mit deutlich höheren Pflichten.
Was sind die vier Risikoklassen?
Verbotenes Risiko (Art. 5 KI-Verordnung, seit Februar 2025 untersagt), hohes Risiko (Anhang III, z. B. KI in Personalauswahl oder Kreditvergabe), begrenztes Risiko mit Transparenzpflichten (Art. 50 KI-Verordnung, z. B. Chatbots und KI-generierte Inhalte) und minimales Risiko (die große Mehrheit der Anwendungen).
Ab wann gilt die KI-Verordnung?
Sie ist seit August 2024 in Kraft und gilt gestaffelt: verbotene Praktiken seit Februar 2025, Pflichten für KI mit allgemeinem Verwendungszweck seit August 2025, die meisten übrigen Pflichten ab August 2026.
Welche Bußgelder drohen?
Bei verbotenen KI-Praktiken bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes, bei sonstigen Pflichtverstößen bis zu 15 Mio. € oder 3 %, je nachdem, welcher Betrag höher ist.