In der facettenreichen Welt der künstlichen Intelligenz (KI) hat sich ein breites Spektrum an Anwendungen herausgebildet, das von Gesichts- und Spracherkennung bis hin zur fortschrittlichen Sprachsynthese reicht. Besonders faszinierend und aktuell ist die Entwicklung von Technologien, die in der Lage sind, menschliche Stimmen mit bemerkenswerter Präzision zu synthetisieren. Solche KI-Systeme können die Nuancen, Tonlagen und Eigenheiten menschlicher Stimmen so gut erfassen und nachbilden, dass sie nahezu identisch mit den Originalstimmen klingen.

Als Schreiber von fast 1100 Blogposts habe ich mich selbst auf die Suche nach solchen Technologien gemacht, um meine schriftlichen Inhalte in dynamische, ansprechende Video- und Audioformate umzuwandeln. Durch die Erweiterung meiner Inhalte in diese neuen Formate könnte ich meine Reichweite vergrößern und meinen Content auf innovative Weisen zugänglich machen.

Allerdings habe ich in meiner Recherche festgestellt, dass diese technologischen Fortschritte auch eine Reihe von rechtlichen Fragen aufwerfen, die sorgfältig bedacht werden müssen. Eine zentrale Frage ist, ob ein KI-Anbieter einfach Stimmen echter Personen zum Training seiner KI verwenden darf.

Grundsätzlich ist die Antwort auf diese Frage ein klares Nein. Das Training einer KI mit menschlichen Stimmen fällt unter die rechtlichen Rahmenbedingungen des Persönlichkeitsrechts und möglicherweise des Urheberrechts. KI-Anbieter dürfen nicht einfach Stimmen für ihre Modelle nutzen, ohne die ausdrückliche Zustimmung der betroffenen Personen einzuholen. Dies gilt insbesondere dann, wenn die Stimmen identifizierbare Informationen enthalten oder spezifische individuelle Eigenschaften aufweisen. Ein Anbieter, der gegen diese Bestimmungen verstößt, könnte sich schweren rechtlichen Konsequenzen ausgesetzt sehen.

Daher empfehle ich jedem, der wie ich an der Nutzung von Sprachsynthese-Diensten interessiert ist, bei der Auswahl eines Anbieters darauf zu achten, wie dieser seine KI trainiert hat. Seriöse Anbieter sollten in der Lage sein, Ihnen Auskunft über ihre Trainingspraktiken zu geben und zu bestätigen, dass sie alle rechtlichen Vorgaben einhalten. Mit dieser Vorsicht können Sie sicherstellen, dass Sie die Vorteile der KI-Sprachsynthese nutzen können, ohne dabei rechtliche Risiken einzugehen.

Rechtliche Grundlage zum Widerspruch

Zum gegenwärtigen Zeitpunkt existieren verschiedene rechtliche Grundlagen, auf die sich Einzelpersonen stützen können, wenn sie sich gegen die Verwendung ihrer Stimme durch KI-Anbieter zur Wehr setzen möchten. Im Vordergrund stehen hier das Persönlichkeitsrecht, das Urheberrecht und das Recht auf Privatsphäre.

Das Persönlichkeitsrecht spielt eine entscheidende Rolle. Es dient dem Schutz des Einzelnen vor der unautorisierten Nutzung seines Bildes oder seiner Stimme. Dieses Recht ist im Bürgerlichen Gesetzbuch (BGB) in Deutschland festgeschrieben und ähnliche Bestimmungen existieren in vielen anderen Ländern. Verstöße gegen das Persönlichkeitsrecht können gravierende Konsequenzen nach sich ziehen, einschließlich Schadensersatzansprüchen und Unterlassungsklagen. Für KI-Anbieter bedeutet dies, dass sie ohne ausdrückliche Zustimmung keine individuellen Stimmen verwenden dürfen.

Auch das Urheberrecht kann in diesem Kontext relevant sein. Grundsätzlich schützt es kreative Ausdrucksformen vor unautorisierten Verwendungen. Eine spannende Frage, die sich jedoch stellt, ist, ob eine Stimme als solche als schützenswertes Werk im Sinne des Urheberrechts betrachtet werden kann. Dies ist ein noch weitgehend unerforschtes Gebiet, das je nach Land und spezifischer Gerichtsentscheidung unterschiedlich interpretiert werden könnte. In jedem Fall sollten KI-Anbieter sehr vorsichtig sein und sicherstellen, dass sie die Grenzen des Urheberrechts respektieren.

Schließlich spielt das Recht auf Privatsphäre eine bedeutende Rolle. Bei der Erstellung einer KI-Stimmenmodellierung ist normalerweise eine Aufnahme der Originalstimme erforderlich. Unautorisierte Aufnahmen könnten als schwerwiegender Eingriff in die Privatsphäre angesehen werden, was unter Umständen rechtliche Konsequenzen nach sich ziehen könnte. Daher müssen KI-Anbieter sicherstellen, dass sie die notwendige Zustimmung zur Aufnahme und Verwendung einer Stimme einholen.

Insgesamt ist es für KI-Anbieter von größter Bedeutung, diese rechtlichen Rahmenbedingungen zu beachten und sicherzustellen, dass sie die Rechte und Freiheiten der Personen, deren Stimmen sie nutzen oder modellieren möchten, vollständig respektieren.

aber….

Das knifflige an dieser Rechtsfrage ist ähnlich wie bei der Frage, ob Text-generierende KI-Modelle gegen das Urheberrecht verstoßen, wenn sie an Texten anderer “lernen”. Technisch gesehen “kopiert” keine KI etwas direkt oder schreibt es um, sondern sie generiert neue, eigenständige Inhalte auf der Grundlage von Daten, die sie während des Trainingsprozesses verarbeitet hat. Man könnte dies als eine Form von “Halluzinieren” neuer Inhalte bezeichnen, basierend auf den Informationen, die die KI während ihres Trainings “absorbiert” hat.

Es ist eine subtile, aber entscheidende Unterscheidung. Die KI “lernt” nicht im menschlichen Sinne, indem sie Informationen abschreibt oder umschreibt, sondern sie erstellt Modelle von den Daten, die sie erhält, und nutzt diese Modelle, um neue Inhalte zu generieren. Diese Inhalte sind daher nicht Kopien der ursprünglichen Daten, sondern einzigartige Produkte der KI selbst.

Diese Eigenschaft der KI wirft jedoch komplexe rechtliche Fragen auf, insbesondere in Bezug auf das Urheberrecht. Wenn eine KI zum Beispiel mit urheberrechtlich geschützten Texten oder Stimmen trainiert wurde, inwiefern sind dann die von ihr generierten Inhalte von diesem Urheberrecht betroffen? Da die KI die ursprünglichen Daten nicht direkt kopiert, sondern nur als Grundlage zur Generierung neuer Inhalte nutzt, kann man argumentieren, dass die generierten Inhalte nicht unter das Urheberrecht der ursprünglichen Daten fallen.

Allerdings ist diese Interpretation alles andere als gesichert. Das Urheberrecht ist ein komplexes und vielschichtiges Gebiet, und es ist unklar, wie Gerichte diese Frage in der Zukunft behandeln werden. Es ist durchaus denkbar, dass zukünftige Gerichtsentscheidungen die bestehenden Urheberrechtsgesetze in einer Weise auslegen könnten, die den Einsatz von KI-Modellen in solchen Kontexten einschränkt.

Dieser rechtliche Graubereich stellt eine erhebliche Herausforderung für KI-Anbieter dar. Es ist daher unerlässlich, dass sie proaktiv sind, sich gut beraten lassen und alle möglichen Vorsichtsmaßnahmen treffen, um sicherzustellen, dass sie innerhalb der Grenzen des Gesetzes operieren. Ebenso ist es wichtig, dass Gesetzgeber und Gerichte diese Fragen ernst nehmen und klare rechtliche Leitlinien für den Umgang mit KI in solchen Kontexten schaffen.

Compliance für KI-SaaS-Anbieter

KI-SaaS-Anbieter müssen mehrere Maßnahmen ergreifen, um sicherzustellen, dass sie die geltenden Gesetze einhalten. In einer Welt, in der die rechtlichen Normen für KI und Stimmenklonierung noch in Entwicklung sind, sollten Anbieter, Sprecher und alle Beteiligten die Gesetze und Richtlinien genau beobachten und stets auf dem Laufenden bleiben. Hier sind einige Maßnahmen, die sie ergreifen sollten:

1. Einholen von Einverständniserklärungen: Vor der Verwendung der Stimme eines Individuums sollte der Anbieter sicherstellen, dass eine ausdrückliche Zustimmung des betreffenden Individuums vorliegt. Diese Zustimmung sollte klar, umfassend und spezifisch für den beabsichtigten Gebrauchszweck sein.
2. Persönlichkeitsrechte beachten: Anbieter müssen sicherstellen, dass sie die Persönlichkeitsrechte der Personen, deren Stimmen sie nutzen, respektieren. Dies bedeutet, dass sie ohne Zustimmung keine persönlichen Merkmale wie Stimme und Aussehen verwenden dürfen, die die Persönlichkeit eines Menschen ausmachen.
3. Transparenz gewährleisten: Anbieter sollten transparent darüber sein, wie sie die Stimmen verwenden und modellieren. Dies kann die Bereitstellung von Informationen über den Verwendungszweck, die Methoden der Datenerfassung und -verarbeitung sowie etwaige Dritte, die Zugang zu den Daten haben, beinhalten.

Darüber hinaus ist es wichtig, die folgenden Aspekte zu berücksichtigen:

4. Umgang mit der rechtlichen Grauzone: KI-Anbieter werden wahrscheinlich noch einige Jahre in einer rechtlichen Grauzone operieren müssen. Sie sollten diese Umstände offenlegen, einschließlich gegenüber Investoren und anderen Interessenparteien. Jeder, der etwas anderes behauptet, könnte riskieren, die betroffenen Parteien irrezuführen.
5. Nutzung von Allgemeinen Geschäftsbedingungen (AGB): AGB können dazu beitragen, sowohl Nutzer als auch die Anbieter selbst zu schützen. Dabei sollte auf Klauseln geachtet werden, die Freistellungen und ähnliches regeln. Gut ausgearbeitete AGB können auch klären, wer welche Ansprüche gegen Vertragspartner hat, im Falle, dass eine Verletzung des Persönlichkeitsrechts oder Urheberrechts auftritt.
6. Dokumentation der technischen Grundlagen: Die genaue Dokumentation, wie die KI funktioniert und wie die Stimme technisch generiert wird, ist unerlässlich. Sollte es zu Gerichtsverfahren kommen, bei denen ein Softwaregutachten benötigt wird, könnte dies ohne entsprechende Dokumentation ein kostspieliger und zeitaufwändiger Prozess werden.

Es ist für KI-Anbieter unerlässlich, proaktiv zu sein, gut beraten zu sein und alle notwendigen Vorkehrungen zu treffen, um sicherzustellen, dass sie innerhalb der Grenzen des Gesetzes agieren. Dies kann dazu beitragen, potenzielle rechtliche Herausforderungen zu minimieren und die Chancen für einen erfolgreichen Betrieb zu maximieren.