Künstliche Intelligenz und Rechtssicherheit

Nach deutschem Recht kann nur ein Mensch das Urheber­recht an einem Werk haben, eine KI hingegen nicht. So besagt es das Schöpfer­prinzip (§ 7 Urheber­rechts­gesetz), welches nur dann gilt, wenn sich das Werk durch eine persönliche geistige Leistung auszeichnet. Wichtig ist hierbei der Aspekt der Individualität. Wird eine künstliche Intelligenz als Werk­zeug genutzt, um beispiels­weise Texte, Bilder oder andere Inhalte zu produzieren, hängt es vom Grad der menschlichen Beteili­gung ab, ob es sich um ein urheber­rechtlich geschütztes Werk handelt oder eben nicht.

Es kommt also auf den Einzelfall an: Wollen Sie sich von ChatGPT zum Beispiel eine Kurz­geschichte schreiben lassen und geben dabei als Prompt etwa "Schreibe eine lustige Kurz­geschichte" ein, so hat die künstliche Intelligenz das Ergebnis maß­geblich geprägt und ein Urheber­schutz wäre grund­sätzlich ausge­schlossen. Haben Sie jedoch eine klare Vision von Ihrer Geschichte und geben der Maschine konkrete Vorgaben zu den Charakteren, der Story und der Erzähl­weise, so würde die KI lediglich eine unter­geordnete Rolle bei der Entstehung des Werkes spielen. In diesem Fall können Sie durch Ihre geistige Leistung juristisch gesehen zum Urheber werden.

Das sogenannte Text- und Datamining einer KI kann in rechtlicher Hinsicht zu Problemen führen, wenn dabei Material gesammelt und verarbeitet wird, an dem Dritte bestimmte Rechte haben (zum Beispiel das Recht von Fotograf:innen an ihren Bildern). In der Regel müssen die Daten nämlich gespeichert werden, um einen Korpus zu erstellen, mit dem KI Programme wie beispiels­weise Midjourney arbeiten können. Grund­sätzlich ist bei einer Verviel­fältigung von geschützten Werken die Einwilligung des Rechte­inhabers von­nöten (§ 16 Abs. 1 UrhG). Es gibt aller­dings Schranken inner­halb des Urheber­rechts, die eine freie Nutzung in Ausnahme­fällen erlauben, etwa wenn allge­meine Interessen die des jeweiligen Urhebers über­wiegen. Das ist beispiels­weise im Rahmen von Wissen­schaft und Forschung möglich.

Im Jahr 2019 hat die EU erweiterte Richt­linien beschlossen, die das freie Text- und Data­mining nicht nur für wissen­schaftliche, sondern auch für kommer­zielle Zwecke erlauben (EWG 14 Richtlinie 2019/790). Dies umfasst alle Werke, die recht­mäßig zugäng­lich sind – darunter auch solche, die beispiels­weise im Internet frei verfüg­bar sind. Seit Juni 2021 gilt die Reform auch für deutsches Recht. Rechte­inhaber müssen die Verwendung ihrer Werke nun grund­sätzlich dulden – es sei denn, sie schließen dies zum Beispiel durch einen maschinen­lesbaren Nutzungs­vorbehalt aus­drücklich aus (§ 44b UrhG).

Für den privaten Gebrauch brauchen Sie sich in der Regel keine Sorgen machen. Kritisch kann es werden, wenn Sie beispiels­weise Ihre komplette Arbeit von einer KI erledigen lassen, ohne Ihren Arbeit­geber davon in Kenntnis zu setzen. Nutzen Sie das Programm jedoch nur zur Hilfe­stellung bzw. als Werk­zeug, so haben Sie wahr­scheinlich keine Konse­quenzen zu fürchten, solange dabei keine personen­bezogenen Daten unerlaubter­weise verarbeitet oder Betriebs­geheimnisse veröffentlicht werden. In jedem Fall sollten Sie klären, welche Regelungen im Umgang mit KI in Ihrem Betrieb gelten.

Unternehmen sollten indessen besondere Vorsicht im Umgang mit künstlicher Intelligenz walten lassen. Es empfiehlt sich, die daten­schutz­rechtlichen Risiken gut abzu­wägen und die gesetz­liche Entwicklung weiter­hin im Blick zu behalten.

Hier ist entscheidend, welche Richt­linien und Rege­lungen die einzelnen Uni­versitäten für die Verwendung Künstlicher Intelligenz heraus­gegeben haben. Grund­sätzlich ist es aller­dings unter­sagt, ganze Texte in beispiels­weise Haus­arbeiten von einer KI wie ChatGPT schreiben zu lassen und diese als seine eigene Arbeit auszu­geben. Es gibt neben einer Vielzahl von Plagiats­erkennungs-Software, die an Uni­versitäten bereits genutzt wird, auch An­wendungen, die von einer KI geschriebenen Texte identi­fizieren können. 

Auch hier ist die Regelung der Schule das oberste Gebot, an das sich Schüler:innen halten müssen. Da auch Schüler:innen den Umgang mit Künstlicher Intelligenz lernen müssen, kann die ausdrück­liche Ver­wendung von KI auch Teil des Lehr­plans und somit erlaubt sein. Ist es jedoch aus­drücklich unter­sagt für Haus­auf­gaben z. B. ChatGPT zu ver­wenden und der Betrug fällt auf, kann dies Konse­quenzen nach sich ziehen. Auch die heimliche Ver­wendung von ChatGPT, beispiels­weise bei Abitur­prüfungen, ist ein Betrugs­versuch und kann die Schülerin oder den Schüler den Abschluss kosten.

Diese Frage wird gerade kontrovers diskutiert und kann nicht pauschal beantwortet werden. Das her­kömmliche Haftungs­system stößt hier an seine Grenzen, denn eine KI trifft ihre Ent­scheidungen letztlich autonom, sprich ohne mensch­liches Zutun. Daher lassen sich nur schwer Aussagen darüber treffen, welche kausale Verkettung zum Schaden geführt hat, geschweige denn wer der Anspruchs­gegner ist. Denkbar wäre entweder der Her­steller der künstlichen Intelligenz oder der jeweilige User bzw. die jeweilige Userin. Fraglich ist aller­dings, inwieweit ein:e User:in mögliche Risiken bei der Benutzung der KI abschätzen kann und wie stark er oder sie auf das KI-generierte Ergebnis Einfluss nimmt. Viele KI-Anbieter schließen die Haftung in ihren Nutzungs­bedingungen pauschal aus – nach dem Motto: Jede:r User:in ist für den eigens erzeugten Output selbst verant­wortlich. Ob solche pauschalen Haftungs­ausschlüsse nach deutschem Recht über­haupt wirksam sind, ist jedoch zweifelhaft.

Die EU hatte deshalb neue Haftungs­regeln für KI-Systeme ausgearbeitet (sog. "AI Liability Directive"). Diese bein­halteten unter anderem weit­reichende Offen­barungs­pflichten für Anbieter und Betreiber von KI-Software. Auf diese Weise sollten Schadens­fälle in Zukunft besser nach­voll­zogen werden können. Der Richt­linien­vorschlag wurde jedoch am 12.02.2025 auf­grund mangelnder Einigung wieder zurück­gezogen. 

Auch zu dieser Frage gibt es noch keine recht­liche Klar­heit. Grund­sätzlich haben Sie bei einer Urheberrechtsverletzung, egal ob vor­sätzlich oder fahr­lässig, zunächst Anspruch auf Beseitigung (§ 97 Abs. 1 UrhG). Besteht Wieder­holungs­gefahr, können Sie auch auf Unter­lassung klagen.

Wurden also beispiels­weise geschützte Bilder oder Texte von Ihnen unerlaubt verviel­fältigt, haben Sie verschiedene Möglich­keiten, dagegen vorzu­gehen. Unter Um­ständen steht Ihnen sogar Schadens­ersatz zu, wenn die Urheber­rechts­verletzung nach­weislich mit Vorsatz oder fahr­lässig begangen wurde (§ 97 Abs. 2 UrhG). Es ist aller­dings noch offen, in welchem Umfang diese Ansprüche auch für den Fall KI greifen. Oft mangelt es an der nötigen Nach­vollzieh­barkeit, welche Daten wie genau abge­speichert und verar­beitet werden.

Im Februar 2023 entdeckte beispiels­weise ein Fotograf, dass mehrere seiner Bilder ohne Zu­stimmung zum Training einer KI verwendet wurden. Er sah sich in seinem Urheber­recht verletzt und verlangte daraufhin die Löschung sämtlicher Fotos aus dem Daten­satz. Der KI-Betreiber wies die Forderungen aller­dings zurück – mit der Begründung, dass die Bilder gar nicht gespeichert würden. Der Fall verdeutlicht, wie komplex die Situation ist. Weg­weisende Urteile bleiben abzuwarten.

Leider wird KI häufig auch für kriminelle Zwecke einge­setzt, zum Beispiel um Bilder oder Videos zu manipulieren und somit gezielt Falsch­infor­mationen zu ver­breiten (sog. Deep­fakes). So kam es etwa bereits zu Versicherungs­betrügen, bei denen KI-generierte Fotos von angeblichen Schadens­fällen einge­schickt wurden. Für Menschen wird es immer schwieriger zu unter­scheiden, welche Inhalte authentisch sind und bei welchen es sich lediglich um ein KI-Produkt handelt.

Folgende Tipps können Ihnen dabei helfen, sich besser gegen KI-Betrug zu schützen:

• Seien Sie kritisch und prüfen Sie immer, woher der jeweilige Medien­inhalt stammt. Gegebenen­falls finden Sie im Web weitere Infor­mationen dazu oder können den Inhalt mit vertrauens­würdigen Quellen ab­gleichen.
• Schützen Sie Ihre Daten und Werke durch starke Pass­wörter, Zwei-Faktor-Authenti­fizierung oder Ver­schlüsselungs­dienste.

Lesen Sie auch: