Die Inhalte dieses Beitrags dienen ausschließlich der allgemeinen Information und stellen keine Rechtsberatung dar. Für die Richtigkeit und Vollständigkeit der Angaben wird keine Haftung übernommen.
Am 02. August ist er in Kraft getreten: Der AI Act der EU. Dabei handelt es sich um ein erstes Gesetz innerhalb der EU, das den Umgang mit KI generierten Inhalten rechtlich regelt.
Weil solche neuen Gesetze schnell unübersichtlich wirken können, kommt jetzt hier eine Zusammenfassung der wichtigsten Punkte des AI Acts für kleine Unternehmen und Selbstständige. Dabei hat diese Zusammenfassung keinen Anspruch auf Vollständigkeit. Bitte prüfe zusätzlich, ob du von Gesetzesinhalten betroffen bist, die hier nicht erwähnt werden.
Was ist der AI Act?
Der AI Act ist das weltweit erste Gesetz innerhalb der EU, das den Einsatz von KI reguliert. Das Gesetz teilt verschiedene Anwendungen, vom einfachen Chatbot bis zum Einsatz von KI in der Strafverfolgung, in Risikostufen ein.
Der EU AI Act für Unternehmen und Selbstständige
Für kleinere Unternehmen und Selbstständige sind vor allem die Kennzeichnungspflichten und Transparenzpflichten des Gesetzes relevant. Sie zählen zu den niedriger eingestuften Risiken, sind deshalb aber nicht weniger wichtig.
Hierbei geht es vor allem um die Kennzeichnung KI generierter Bilder, Videos und Audios, sowie die Kennzeichnung von Chatbots und anderweitiger KI-Assistenten.
Kennzeichnung KI-generierter Texte
Die Kennzeichnung KI-generierter Texte ist nicht grundsätzlich verpflichtend. Es sei denn es handelt sich um öffentliche Texte, die Themen von öffentlichem Interesse behandeln. Welche Themen konkret darunter fallen ist noch nicht abschließend definiert, aber Bereiche wie Medizin, Gesundheit und Politik können darunter fallen. Die Kennzeichnungspflicht kann entfallen, wenn eine ausreichende redaktionelle Kontrolle durch eine echte Person erfolgt.
Reine Marketingtexte, wie z.B. Produktbeschreibungen in Onlineshops, sind nicht kennzeichnungspflichtig. Hier ist der Übergang in das öffentliche Interesse aber manchmal fließend, daher ist eine redaktionelle Kontrolle durch eine Person empfohlen.
Kennzeichnung KI-generierter Bilder, Videos und Audios
Sobald Bilder, Videos oder Audios echt wirken (Deepfake) und irreführend sein könnten, müssen sie als KI-generiert gekennzeichnet werden.
Good to know: Was ist eigentlich ein Deepfake?
Bei einem Deepfake handelt es sich um ein KI-generiertes oder modifiziertes Bild, Video oder Audio von realistisch wirkenden Personen, Orten oder Gegenständen. Entgegen häufiger Annahmen muss eine abgebildete Person nicht zwingend berühmt oder von öffentlichem Interesse sein, damit es sich um ein Deepfake handelt. Es reicht, wenn diese Person existieren könnte.
Die KI-Kennzeichnung ist dabei direkt am jeweiligen Werk anzubringen. Bei Bildern also z.B. deutlich sichtbar in der Ecke. Bei Videos sollte der Hinweis in regelmäßigen Abständen erscheinen und nicht nur am Anfang oder Ende.
Ein schwer erkennbares Wasserzeichen oder ein Hinweis in den Metadaten allein sind nicht ausreichend. Ein allgemeiner Hinweis im Impressum ist ebenfalls ausdrücklich nicht ausreichend.
Die Pflicht greift nicht für grafische Illustrationen, die als KI-generiert sofort erkennbar sind, sowie für einfache Bild- und Video-Bearbeitung, wie z.B. Tonkorrektur.
Zwei Fragen um zu prüfen, ob du ein Werk kennzeichnen musst:
- Ähnelt der Inhalt Personen, Objekten, Orten oder Ereignissen, die real existieren könnten?
- Ist der Inhalt so realistisch, dass er als echt wahrgenommen werde könnte?
Beispiele für kennzeichnungspflichtige Bilder inkl. Kennzeichnung
Die beiden untenstehenden Bilder sind Beispiele für kennzeichnungspflichtige Bilder. Beide Bilder stellen Personen(ausschnitte) dar, die auch in der Realität so existieren und fotografiert werden könnten. Außerdem sind beide Bilder so realistisch dargestellt, dass sie auf den ersten Blick wie ein echtes Foto wirken könnten.
Zur Kennzeichnung wurden die, von der EU zur Verfügung gestellten, Icons verwendet. Diese können kostenlos heruntergeladen und verwendet werden.
Kennzeichnung von Chatbots, KI-Assistenten und E-Mails
Chatbots, z.B. im Kundensupport, sowie telefonische KI-Assistenten müssen zu Beginn der Interaktion darauf hinweisen, dass sie keine natürliche Person sind. Ebenso müssen KI-generierte E-Mails als solche gekennzeichnet werden, sofern sie nicht redaktionell von einer natürlichen oder juristischen Person vorab überprüft werden.
