Die KI-Verordnung der Europäischen Union (KI-VO; englisch EU AI Act) ist am 1. August 2024 in Kraft getreten. Wirksam wird sie jedoch erst schrittweise, beginnend mit dem 2. Februar 2025. Das Ziel der Verordnung ist es, den Einsatz von künstlicher Intelligenz sicher und transparent zu machen.
Da sich die KI-Systeme selbst, ihre Anwendungsszenarien und die damit verbundenen Risiken stark voneinander unterscheiden, kommt die KI-Verordnung relativ komplex daher. Ein näherer Blick verrät jedoch die Systematik hinter der Verordnung.
Alle KI-Systeme werden in Risikostufen eingeordnet. Außerdem werden allen Unternehmen, die mit KI-Systemen befasst sind – sie also nutzen, entwickeln oder bereitstellen –, bestimmte Rollen zugewiesen. Diese Rollen repräsentieren, inwiefern die KI-Systeme im Unternehmen zum Einsatz kommen. Aus diesen zwei Faktoren, also aus der Risikostufe des KI-Systems und der Rolle des Unternehmens, ergeben sich die Pflichten eines Unternehmens, die es im Hinblick auf Sicherheit und Transparenz im Umgang mit KI hat.
Ein wichtiger Hinweis vorab: Von der KI-VO sind alle Unternehmen in Deutschland betroffen, auch Soloselbstständige. Es lohnt sich also, sich mit der Verordnung zu befassen.
Risikogruppen von KI-Systemen laut KI-Verordnung
Folgende Risikogruppen legt die KI-VO fest:
- unvertretbares Risiko
- hohes Risiko
- begrenztes Risiko
- minimales Risiko
Die folgende Tabelle gibt einen Überblick über konkrete Beispiele für KI-Systeme der einzelnen Risikogruppen und nennt die mit der Klassifizierung einhergehenden Pflichten:
| Risikogruppe | Erklärung | Beispiele | Pflichten/Konsequenzen |
| unvertretbares Risiko | nicht mit den Grundrechten der EU vereinbar | Social Scoring, Verhaltensmanipulation, Emotionserkennung am Arbeitsplatz | KI-Systeme dieser Risikogruppe sind verboten. |
| hohes Risiko | bedeutendes Risiko für die Gesundheit, Sicherheit, Grundrechte oder kritische Infrastruktur | Analyse von MRT-Bildern, Analyse von Daten zur Kreditvergabe | Das Unternehmen muss eine Risikobewertung der KI-Systeme abgeben und ihren Einsatz offenlegen. Außerdem muss menschliche Kontrolle über die KI nachgewiesen werden. |
| begrenztes Risiko | wenig riskante KI-Systeme, die mit Menschen interagieren | Chatbots in Servicestellen, Onlineshops etc. | Eine Transparenzpflicht ist vorgesehen. Das Unternehmen muss über den Einsatz eines Chatbots informieren. |
| minimales Risiko | kein wesentliches Risiko | KI-Systeme zur Rechtschreibprüfung, Spiele, Spam-Filter | Das Unternehmen muss die KI-Kompetenz der Mitarbeitenden sicherstellen. |
Bedeutung für das Lektorat
Die Tabelle zeigt anschaulich, wie weitreichend die Thematik ist. Wir sehen: Viele Festlegungen der KI-Verordnung betreffen das freie Lektorat nicht, einige jedoch schon. Wer über eine berufliche E-Mail-Adresse verfügt – das dürften alle sein –, wird auch einen Spam-Filter haben und muss damit KI-Kompetenz nachweisen. Diese Pflicht ergibt sich also für alle Lektor*innen.
Rollen von Unternehmen
Die KI-Verordnung weist Unternehmen folgende Rollen zu:
- Anbieter
- Importeure
- Händler
- Betreiber
Aus den Rollen ergeben sich wiederum Pflichten im Umgang mit KI-Systemen. Die folgende Tabelle gibt dazu einen Überblick:
| Rolle | Erklärung | Pflichten |
| Anbieter | Unternehmen, die KI-Systeme entwickeln oder entwickeln lassen | Nachweis, dass KI mit KI-VO konform ist, Abgabe einer Risikobewertung, technische Dokumentationspflicht, Transparenz, Nachweis von KI-Kompetenz der Mitarbeitenden |
| Importeure | Unternehmen, die KI-Systeme aus Nicht-EU-Staaten in die EU einführen und in Umlauf bringen | Nachweis, dass KI mit KI-VO konform ist |
| Händler | Verkäufer von Produkten mit integrierter KI an Endkundschaft oder Zwischenhändler | Informationspflicht über Eigenschaften der KI-Systeme und deren sichere Nutzung |
| Betreiber | Unternehmen, die KI nutzen | Kennzeichnungspflicht von KI-Texten von öffentlichem Interesse und von Deep Fakes, Nachweis von KI-Kompetenz der Mitarbeitenden |
Bedeutung für das Lektorat
Die Tabelle zeigt: Die meisten Lektor*innen dürften der Rolle „Betreiber“ zuzuordnen sein, dafür genügt schon die Nutzung einer Rechtschreibprüfung oder eines Spam-Filters im E-Mail-Programm. Wer darüber hinaus generative KIs wie ChatGPT oder Claude zur Überarbeitung von Texten nutzt, steht vor der Frage: Müssen diese Texte nun als KI-Texte gekennzeichnet werden? Laut Tabelle sieht es zunächst danach aus. Ich kann beruhigen. Ganz so ist es nicht.
Kennzeichnungspflicht von KI-Texten
Grundsätzlich hat die KI-Verordnung unter anderem das Ziel, mithilfe von KI erstellte Werke transparent zu kennzeichnen. Das ist auch sinnvoll, denn wir berühren hier das wichtige Feld des Urheberrechtes. Artikel 50 der KI-VO äußert sich hierzu genauer. KI-Texte (und auch andere Werke wie Bilder oder Musik) müssen nur dann als solche gekennzeichnet werden, wenn das Ergebnis ausschließlich mit KI erstellt wurde. Diese Pflicht besteht zudem nur dann, wenn das Produkt veröffentlicht wird. Eine rein private, unveröffentlichte Nutzung muss nicht gekennzeichnet werden. Die Kennzeichnungspflicht entfällt, sobald ein Mensch das Produkt überprüft. Das ist ein sehr wichtiger Hinweis, denn im Lektorat prüfen wir ja alle Texte genau und selbst mit unserem menschlichen Blick. Ob wir uns zusätzlich von KI unterstützen lassen, ist also zweitrangig und zieht keine Kennzeichnungspflicht nach sich, solange wir unser menschliches Gehirn bei der Prüfung bemühen.
Eine Einschränkung zu dieser doch recht klaren Aussage gibt es: Sie bezieht sich auf Deep Fakes und alles, was irreführend sein könnte. Deep Fakes sind vor allem Bild- oder Tonaufnahmen von Personen, die täuschend echt aussehen, jedoch gefälscht wurden. Sie suggerieren eine Realität, die so nie stattgefunden hat. Für Laien sind sie von echten Aufnahmen kaum zu unterscheiden. Dem Missbrauch sind also Tür und Tor geöffnet. Sowohl die Persönlichkeitsrechte müssen gewahrt werden als auch die Menschen, die solchen Aufnahmen begegnen. Handelt es sich bei KI-Ergebnissen um Deep Fakes oder irreführende Werke, dann sind diese als KI-Ergebnisse zu kennzeichnen.
Bedeutung für das Lektorat
Im Lektorat werden Texte sehr genau durch den Lektor oder die Lektorin geprüft. Eine Kennzeichnungspflicht besteht also nicht, unabhängig davon, ob sich das Lektorat zusätzlich bei der Textoptimierung von KI unterstützen lässt oder nicht.
Urheberrecht und KI-Texte
Wie sieht es eigentlich überhaupt mit dem Urheberrecht von KI-Texten aus? Sind diese Werke geschützt? Die Antwort klingt eindeutig: Reine KI-Produkte unterliegen nicht dem Urheberrecht. Kommt der Mensch ins Spiel, handelt es sich also um Mischwerke aus künstlicher und menschlicher Intelligenz, unterliegen die Werke dem Urheberrecht.
Die Frage, die sich mir hier stellt: Ab wann handelt es sich um ein Mischwerk? Die Grenzen sind fließend. Ich muss ja stets einen Prompt schreiben, um überhaupt eine KI-generierte Antwort zu erhalten. Die Qualität des Prompts beeinflusst fundamental das Ergebnis der KI. Mein Prompt ist also eine kreative Leistung. Wie unkreativ muss ein Prompt also sein, damit ein Werk als rein KI-generiert und ohne menschlichen Einfluss erstellt gilt? Ich sehe hier noch massiven Klärungsbedarf.
Unabhängig davon, wie tief der Mensch in die KI-Texte eingreift, sind KI-Texte immer mit Vorsicht zu genießen. Sie greifen ja auf Trainingsdaten zurück. Diese wiederum bestehen aus urheberrechtlich geschütztem Material, das ohne Zustimmung der Autor*innen als Trainingsdaten herangezogen wurden. Finden sich in KI-Texten also wortgetreue Passagen aus urheberrechtlich geschützten Texten, kann hier ein Verstoß gegen das Urheberrecht vorliegen.
Bedeutung der KI-VO für das Lektorat
Die KI-VO ist komplex. Für freie Lektor*innen lässt sie sich jedoch auf erfreulich wenige Aussagen eindampfen:
- Lektor*innen sind von der KI-VO betroffen und sollten sich deshalb zumindest in Grundzügen auskennen.
- Sie haben mindestens die Nachweispflicht über ihre KI-Kompetenz.
- Eine Kennzeichnungspflicht der von ihnen bearbeiteten Texte als KI-Texte dürfte eher selten bestehen, sie sollten es aber prüfen und im Blick behalten.
Völlig klar, aber der Vollständigkeit halber sei gesagt: Das hier ist keine Rechtsberatung. Die kann ausschließlich eine juristisch geschulte Fachperson leisten.
Bislang unklar ist, wie der Nachweis über KI-Kompetenz aussehen soll. Die ist bislang nicht im Detail definiert. Es gibt allerdings schon etliche Weiterbildungen zum Umgang mit KI auf dem Markt und auch ich biete dazu ein umfangreiches Programm an (hier, aber auch in der VFLL-Akademie). Es ist absolut sinnvoll, auf dem Laufenden zu bleiben!
Was halten Sie von der KI-Verordnung? Wird Sie Ihre Wirkung entfalten? Verraten Sie es mir im Kommentar!