Digitalisierung

10.11.2025

Kennzeichnungspflichten für die Verwendung von KI

© REEPIX.com - AI-genera

Rechtliche Herausforderungen beim KI-Einsatz im Unternehmen, Teil 2

Die KI-Verordnung verpflichtet Anbieter und Betreiber in bestimmten Fällen, die Verwendung von KI offenzulegen und durch KI-generierte Inhalte zu kennzeichnen. Da die meisten Unternehmer Betreiber und nicht Anbieter sein werden, konzentrieren wir uns hier auf die Kennzeichnungspflichten für Betreiber.

Nach Art. 50 Abs. 3 KI-VO müssen Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung die betroffenen Personen darüber informieren. Die meisten Unternehmen werden über solche Technologien nicht verfügen. Doch relevant kann dies bereits dann werden, wenn bestimmte Rückschlüsse über Personen durch Videoüberwachungssysteme gezogen werden können. Es bietet sich daher eine Prüfung im Einzelfall an.

Deepfakes

Im Unternehmensalltag ebenfalls selten wird der Fall des Art. 50 Abs. 4 UAbs. 1KI-VO vorliegen. Danach müssen KI-generierte „Deepfakes“ gekennzeichnet werden. Deepfakes sind durch ein KI-System erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte, die besonders real aussehen. Bekannt geworden ist dieses Phänomen etwa durch gefälschte Wahlwerbung oder durch Videos, die angebliche Katastrophen zeigen sollen und starke Verbreitung in sozialen Medien erfahren haben. Es sind nicht alle KI-generierten Inhalte Deep fakes, sondern es muss eine Ähnlichkeit zu realen Personen, Gegenständen, Orten oder Ereignissen vorliegen, die einer Person fälschlicherweise als echt erscheinen würde. Das wird bei Werbeinhalten der Fitnessbranche nahezu nie der Fall sein.

KI & Textproduktion

Relevanter dürfte die Kennzeichnungspflicht nach Art. 50 Abs. UAbs. 2 KI-VO sein. Danach sind künstlich erzeugte oder manipulierte Textinhalte von öffentlichem Interesse zu kennzeichnen. Betroffen sind alle texterzeugenden und -manipulierenden KI-Systeme. Erforderlich ist, dass der Text einer gewissen Öffentlichkeit gegenüber bekannt gemacht wird, etwa als Post auf einer Social Media-Plattform. Auch dem Inhalt nach muss es sich um eine Angelegenheit von öffentlichem Interesse handeln, die ein Mindestmaß von überregionaler Relevanz hat.

Betreiben Sie also einen Blog, ein bekanntes Profil bei einer Social Media-Plattform oder etwa eine Mitgliederzeitschrift, kann Sie die Kennzeichnungspflicht treffen. Nicht betroffen sind Sie aber, wenn Sie KI nur zur Prüfung des Textes oder für geringfügige Änderungen einsetzen.

Hinweispflicht

Wenn Sie von einer der beschriebenen Transparenzpflichten betroffen sind, muss auch die Information selbst den Vorgaben des Art. 50 KI-VO entsprechen. Die Information muss spätestens zum Zeitpunkt der ersten Interaktion des Nutzers in klarer und eindeutiger Sprache erfolgen. Hinweise dürfen nicht versteckt werden und müssen den Anforderungen an die Barrierefreiheit entsprechen. Es ist das Risiko einer Verwechslung mit redaktionellen Texten auszuschließen, sodass sich der Hinweis von dem Rest des Textes abheben muss.

Zusammengefasst lässt sich sagen, dass der Betroffene den Hinweis auch nur bei einer beiläufigen Betrachtung wahrnehmen können muss. Ein Hinweis, etwa an einer ganz anderen Stelle, genügt dem nicht. Genaue Vorgaben für die Formulierung eines Hinweises macht die KIVO nicht, sodass in der Regel ein Hinweis wie „generiert durch Künstliche Intelligenz“ ausreichen dürfte. Beachten Sie aber, dass im Einzelfall auch wettbewerbsrechtliche Vorgaben einschlägig sein können, die eine weitergehende Erläuterung erforderlich machen.

Das Büro für KI der Europäischen Kommission ist überdies verpflichtet, Praxisleitfäden zu erarbeiten und zu veröffentlichen. Sobald dies geschehen ist, wird sich ein einheitlicher Umgang mit den Informationspflichten etablieren.

Weitere Pflichten nach der KI-VO

Die KI-VO legt Betreibern und Anbietern weitere Pflichten auf. Diese bestimmen sich maßgeblich nach der Art des KI-Systems. Die KI-VO nimmt dazu eine Risikoklassifizierung vor: Verbotene KI-Systeme, Hochrisikosysteme, Systeme mit begrenztem Risiko und Minimalrisikosysteme. Die Klassifizierung ist im Einzelfall komplex und die Abgrenzung teils unklar. Es bietet sich diesbezüglich im Rahmen der eigenen KI-Compliance an, fachkundigen Rat einzuholen.

Weitere Betreiberpflichten können nach Feststellung des Risikos sodann die menschliche Aufsicht, das Datenmanagement, die laufende Überwachung oder Dokumentation betreffen. Bei einem Hochrisikosystem ist zusätzlich teilweise eine Grundrechte-Folgenabschätzung sowie eine Registrierung in einer EU-weiten Datenbank vorzunehmen. Wie soll ein Unternehmer all diese Rechtsbereiche überblicken und die eigenen Mitarbeiter schulen, wenn selbst ein einzelner Rechtsanwalt nicht mehr in der Lage ist, sämtliche vorgenannten Bereiche abzudecken? Die heutigen bürokratischen und rechtlichen Herausforderungen sind nur noch durch hochspezialisierte Rechtsanwalts-Teams zu bewältigen. Für die Fitness- und Gesundheitsbranche gibt es jedoch eine Lösung, mit der jeder Unternehmer die benötigte Entlastung für ausgewählte unternehmensrelevante Bereiche erhält.

Unsere Lösung für KI-Schulungen

In dem von uns entwickelten UnternehmensNavi® stehen viele Tools zur Verfügung, mit denen den Mitarbeitern die notwendige KI-Kompetenz vermittelt werden kann. Diese Schulungsmöglichkeiten werden permanent angepasst und fortentwickelt, um damit die stetigen gesetzlichen Neuerungen abzudecken. Damit können alle für den Einsatz mit KI vorgesehenen Mitarbeiter geschult werden.

Autoren

Rechtsanwalt Julian Schwerdfeger und der wissenschaftliche Mitarbeiter Matthis Mertens sind tätig für die u.a. auf den Fitnessbereich spezialisierte Dr. Geisler, Dr. Franke Rechtsanwälte Partnerschaft mbB. Sie sind beide zertifizierte KI-Beauftragte.