0800 4 720 122 Mo bis Fr 8 - 20 Uhr
Künstliche Intelligenz: Bildschirm mit KI-generiertem Text
Was ist erlaubt und was nicht?

Künstliche Intelligenz und Rechtssicherheit

Kurz erklärt in 30 Sekunden

 

  • Künstliche Intelligenz (KI oder AI – für "Artificial Intelligence) schien lange Zeit nur ein Buzzword zu sein, ein loser Begriff, mit dem sich Zukunftsvisionen durchspielen ließen. 
  • Inzwischen haben KI-gestützte Systeme wie ChatGPT längst Einzug in unseren Alltag gehalten und werden von vielen Menschen in den unterschiedlichsten Bereichen genutzt. 
  • Die rasante Entwicklung löst neben Euphorie auch allerlei Unsicherheiten aus: Welche Daten dürfen von künstlicher Intelligenz überhaupt verarbeitet werden? Wem gehören Texte, Bilder oder Videos, die mithilfe von KI generiert wurden?
  • Und wer haftet eigentlich, wenn durch diese Inhalte Schäden entstehen?
  • Wir haben die wichtigsten Punkte in unserem Ratgeber hier für Sie zusammengefasst. Bei rechtlichen Angelegenheiten in Zusammenhang mit künstlicher Intelligenz hilft Ihnen die Allianz Rechtsschutzversicherung.
Sämtliche Informationen haben wir nach bestem Wissen und Gewissen recherchiert. Die Rechtslage zur Nutzung von künstlicher Intelligenz ist kompliziert und nach aktuellem Stand nicht endgültig geklärt. Die EU arbeitet derzeit an verschiedenen Richtlinien, die den Umgang mit KI europaweit regeln sollen. Diese müssen allerdings erst nach und nach in deutsches Recht umgesetzt werden, weshalb noch einige Änderungen abzuwarten bleiben.
1 von 2
Unsere FAQs informieren Sie zur aktuellen Rechtslage und klären die häufigsten Fragen rund um das Thema KI, AI und künstliche Intelligenz. Dieser Teil wird laufend erweitert und aktualisiert, sofern es neue Entwicklungen gibt. 
  • Wer hat das Urheberrecht an Inhalten, die mit KI erstellt werden?

    Nach deutschem Recht kann nur ein Mensch das Urheberrecht an einem Werk haben, eine KI hingegen nicht. So besagt es das Schöpferprinzip (§ 7 Urheberrechtsgesetz), welches nur dann gilt, wenn sich das Werk durch eine persönliche geistige Leistung auszeichnet. Wichtig ist hierbei der Aspekt der Individualität. Wird eine künstliche Intelligenz als Werkzeug genutzt, um beispielsweise Texte, Bilder oder andere Inhalte zu produzieren, hängt es vom Grad der menschlichen Beteiligung ab, ob es sich um ein urheberrechtlich geschütztes Werk handelt oder eben nicht.

    Es kommt also auf den Einzelfall an: Wollen Sie sich von ChatGPT zum Beispiel eine Kurzgeschichte schreiben lassen und geben dabei als Prompt etwa "Schreibe eine lustige Kurzgeschichte" ein, so hat die künstliche Intelligenz das Ergebnis maßgeblich geprägt und ein Urheberschutz wäre grundsätzlich ausgeschlossen. Haben Sie jedoch eine klare Vision von Ihrer Geschichte und geben der Maschine konkrete Vorgaben zu den Charakteren, der Story und der Erzählweise, so würde die KI lediglich eine untergeordnete Rolle bei der Entstehung des Werkes spielen. In diesem Fall können Sie durch Ihre geistige Leistung juristisch gesehen zum Urheber werden.

  • Gibt es Einschränkungen, welche Daten von KI verarbeitet werden dürfen?

    Das sogenannte Text- und Datamining einer KI kann in rechtlicher Hinsicht zu Problemen führen, wenn dabei Material gesammelt und verarbeitet wird, an dem Dritte bestimmte Rechte haben (zum Beispiel das Recht von Fotograf:innen an ihren Bildern). In der Regel müssen die Daten nämlich gespeichert werden, um einen Korpus zu erstellen, mit dem KI Programme wie beispielsweie Midjourney arbeiten können. Grundsätzlich ist bei einer Vervielfältigung von geschützten Werken die Einwilligung des Rechteinhabers vonnöten (§ 16 Abs. 1 UrhG). Es gibt allerdings Schranken innerhalb des Urheberrechts, die eine freie Nutzung in Ausnahmefällen erlauben, etwa wenn allgemeine Interessen die des jeweiligen Urhebers überwiegen. Das ist beispielsweise im Rahmen von Wissenschaft und Forschung möglich.

    Im Jahr 2019 hat die EU erweiterte Richtlinien beschlossen, die das freie Text- und Datamining nicht nur für wissenschaftliche, sondern auch für kommerzielle Zwecke erlauben (EWG 14 Richtlinie 2019/790). Dies umfasst alle Werke, die rechtmäßig zugänglich sind – darunter auch solche, die beispielsweise im Internet frei verfügbar sind. Seit Juni 2021 gilt die Reform auch für deutsches Recht. Rechteinhaber müssen die Verwendung ihrer Werke nun grundsätzlich dulden – es sei denn, sie schließen dies zum Beispiel durch einen maschinenlesbaren Nutzungsvorbehalt ausdrücklich aus (§ 44b UrhG).

  • Darf ich KI-generierte Inhalte frei nutzen?

    Für den privaten Gebrauch brauchen Sie sich in der Regel keine Sorgen machen. Kritisch kann es werden, wenn Sie beispielsweise Ihre komplette Arbeit von einer KI erledigen lassen, ohne Ihren Arbeitgeber davon in Kenntnis zu setzen. Nutzen Sie das Programm jedoch nur zur Hilfestellung bzw. als Werkzeug, so haben Sie wahrscheinlich keine Konsequenzen zu fürchten, solange dabei keine personenbezogenen Daten unerlaubterweise verarbeitet oder Betriebsgeheimnisse veröffentlicht werden. In jedem Fall sollten Sie klären, welche Regelungen im Umgang mit KI in Ihrem Betrieb gelten.

    Unternehmen sollten indessen besondere Vorsicht im Umgang mit künstlicher Intelligenz walten lassen. Es empfiehlt sich, die datenschutzrechtlichen Risiken gut abzuwägen und die gesetzliche Entwicklung weiterhin im Blick zu behalten.

  • Darf ich Texte von ChatGPT an der Uni verwenden?

    Hier ist entscheidend, welche Richtlinien und Regelungen die einzelnen Universitäten für die Verwendung Künstlicher Intelligenz herausgegeben haben. Grundsätzlich ist es allerdings untersagt, ganze Texte in beispielsweise Hausarbeiten von einer KI wie ChatGPT schreiben zu lassen und diese als seine eigene Arbeit auszugeben. Es gibt neben einer Vielzahl von Plagiatserkennungs-Software, die an Universitäten bereits genutzt wird, auch Anwendungen, die von einer KI geschriebenen Texte identifizieren können. 
  • Darf ich ChatGPT für Hausaufgaben verwenden?

    Auch hier ist die Regelung der Schule das oberste Gebot, an das sich Schüler:innen halten müssen. Da auch Schüler:innen den Umgang mit Künstlicher Intelligenz lernen müssen, kann die ausdrückliche Verwendung von KI auch Teil des Lehrplans und somit erlaubt sein. Ist es jedoch ausdrücklich untersagt für Hausaufgaben z. B. ChatGPT zu verwenden und der Betrug fällt auf, kann dies Konsequenzen nach sich ziehen. Auch die heimliche Verwendung von ChatGPT, beispielsweise bei Abiturprüfungen, ist ein Betrugsversuch und kann die Schülerin oder den Schüler den Abschluss kosten.
  • Wer haftet, wenn KI-generierte Inhalte einen Schaden verursachen?

    Diese Frage wird gerade kontrovers diskutiert und kann nicht pauschal beantwortet werden. Das herkömmliche Haftungssystem stößt hier an seine Grenzen, denn eine KI trifft ihre Entscheidungen letztlich autonom, sprich ohne menschliches Zutun. Daher lassen sich nur schwer Aussagen darüber treffen, welche kausale Verkettung zum Schaden geführt hat, geschweige denn wer der Anspruchsgegner ist. Denkbar wäre entweder der Hersteller der künstlichen Intelligenz oder der jeweilige User bzw. die jeweilige Userin. Fraglich ist allerdings, inwieweit ein:e User:in mögliche Risiken bei der Benutzung der KI abschätzen kann und wie stark er oder sie auf das KI-generierte Ergebnis Einfluss nimmt. Viele KI-Anbieter schließen die Haftung in ihren Nutzungsbedingungen pauschal aus – nach dem Motto: Jede:r User:in ist für den eigens erzeugten Output selbst verantwortlich. Ob solche pauschalen Haftungsausschlüsse nach deutschem Recht überhaupt wirksam sind, ist jedoch zweifelhaft.

    Die EU hat deshalb neue Haftungsregeln für KI-Systeme ausgearbeitet (sog. "AI Liability Directive"). Diese beinhalten unter anderem weitreichende Offenbarungspflichten für Anbieter und Betreiber von KI-Software. Auf diese Weise sollen Schadensfälle in Zukunft besser nachvollzogen werden können. Sollten die Richtlinien so in Kraft treten, haben die EU-Staaten 24 Monate Zeit, diese in nationales Recht umzusetzen. Nach jetzigem Stand ist davon auszugehen, dass dies noch 2023 geschehen wird. 

  • Welche Ansprüche habe ich, wenn ein geschütztes Werk von mir ohne Erlaubnis verarbeitet wird?

    Auch zu dieser Frage gibt es noch keine rechtliche Klarheit. Grundsätzlich haben Sie bei einer Urheberrechtsverletzung, egal ob vorsätzlich oder fahrlässig, zunächst Anspruch auf Beseitigung (§ 97 Abs. 1 UrhG). Besteht Wiederholungsgefahr, können Sie auch auf Unterlassung klagen. Wurden also beispielsweise geschützte Bilder oder Texte von Ihnen unerlaubt vervielfältigt, haben Sie verschiedene Möglichkeiten, dagegen vorzugehen. Unter Umständen steht Ihnen sogar Schadensersatz zu, wenn die Urheberrechtsverletzung nachweislich mit Vorsatz oder fahrlässig begangen wurde (§ 97 Abs. 2 UrhG). Es ist allerdings noch offen, in welchem Umfang diese Ansprüche auch für den Fall KI greifen. Oft mangelt es an der nötigen Nachvollziehbarkeit, welche Daten wie genau abgespeichert und verarbeitet werden.

    Im Februar 2023 entdeckte beispielsweise ein Fotograf, dass mehrere seiner Bilder ohne Zustimmung zum Training einer KI verwendet wurden. Er sah sich in seinem Urheberrecht verletzt und verlangte daraufhin die Löschung sämtlicher Fotos aus dem Datensatz. Der KI-Betreiber wies die Forderungen allerdings zurück – mit der Begründung, dass die Bilder gar nicht gespeichert würden. Der Fall verdeutlicht, wie komplex die Situation ist. Wegweisende Urteile bleiben abzuwarten.

  • Wie kann ich mich vor Betrug durch KI schützen?

    Leider wird KI häufig auch für kriminelle Zwecke eingesetzt, zum Beispiel um Bilder oder Videos zu manipulieren und somit gezielt Falschinformationen zu verbreiten (sog. Deepfakes). So kam es etwa bereits zu Versicherungsbetrügen, bei denen KI-generierte Fotos von angeblichen Schadensfällen eingeschickt wurden. Für Menschen wird es immer schwieriger zu unterscheiden, welche Inhalte authentisch sind und bei welchen es sich lediglich um ein KI-Produkt handelt.

    Folgende Tipps können Ihnen dabei helfen, sich besser gegen KI-Betrug zu schützen:

    • Seien Sie kritisch und prüfen Sie immer, woher der jeweilige Medieninhalt stammt. Gegebenenfalls finden Sie im Web weitere Informationen dazu oder können den Inhalt mit vertrauenswürdigen Quellen abgleichen.
    • Schützen Sie Ihre Daten und Werke durch starke Passwörter, Zwei-Faktor-Authentifizierung oder Verschlüsselungsdienste.

    Lesen Sie auch:

2 von 2
Gut zu wissen

Wenn Sie beispielsweise in einen Rechtsstreit rund um das Thema KI geraten sind, können Sie jederzeit unsere telefonische Rechtsberatung (für Allianz Rechtsschutzkund:innen kostenlos) nutzen und sich eine erste Einschätzung Ihres Falls durch einen unabhängigen Anwalt oder Anwältin einholen. Wenn Sie noch nicht bei der Allianz Kundin oder Kunde sein sollten, erhalten Sie unsere Allianz Sofort-Rechtshilfe gegen eine Einmalzahlung von 29,-Euro.

Die Allianz Rechtsschutzversicherung ist auch für Sie da, wenn Sie wegen Verletzung des Urheberrechts infolge der privaten Internet-Nutzung abgemahnt werden, z. B. wegen des Verwendens von fremden oder durch KI-generierten Bildern.

Berechnen Sie einfach und schnell Ihren Rechtsschutztarif und schließen Sie – wenn Sie wollen – online ab.
Hier finden Sie alle Leistungen und Infos zur Allianz Rechtsschutzversicherung.
Die passende Versicherung
Service und Kontakt
Melden Sie sich bei dem Allianz Service
Schicken Sie uns Ihre Beratungsanfrage - wir melden uns bei Ihnen.
Finden Sie den
passenden Tarif
Berechnen Sie Ihren individuellen Tarif zur Rechtsschutzversicherung.
  • Leider ist der Live-Chat momentan nicht verfügbar. Bitte versuchen Sie es zu einem späteren Zeitpunkt erneut.