Künstliche Intelligenz Wer kann KI-Texte erkennen? Wasserzeichen können darüber Auskunft geben, ob Künstliche Intelligenz beim Schreiben genutzt wurde. Der Literaturwelt kann das helfen. Doch noch sind sie nicht für jeden nutzbar.

Wer ein Buch liest, möchte in eine andere Welt eintauchen. Doch was passiert, wenn diese Welt nicht von einem Menschen, sondern von einer Künstlichen Intelligenz erschaffen wurde? Diese Frage beschäftigt die Literaturbranche zunehmend. Seit Wochen wird darüber diskutiert, ob bei einem preisgekrönten Roman KI eingesetzt wurde.

In dieser Woche trennte sich ein kanadischer Verlag deswegen vom Schriftsteller Thélyson Orélien. Ein Fall, den der deutsche Verleger und Schriftsteller Jo Lendle aufmerksam verfolgt. Er hatte das Manuskript gelesen und grundsätzlich positiv bewertet. Literatur hat sich immer angepasst Für Lendle ist der Einsatz neuer Technologien in der Literatur nichts grundlegend Neues.

Die Literatur habe sich stets an technische Entwicklungen angepasst. Als der Film aufkam, veränderten sich Erzählweisen. Mit dem Computer wandelten sich Recherche und Schreibprozesse. "Die Welt der Bücher reagiert auf Veränderungen und die Erzählkunst geht mit", sagt Lendle.

Auch Künstliche Intelligenz sei Teil dieser Entwicklung. Sie könne Autoren beispielsweise helfen, Schreibblockaden zu überwinden oder neue Ideen zu entwickeln. Ein entscheidender Geburtsfehler der KI sei, dass sie zum Training auf Bücher und Literatur zurückgegriffen habe, ohne die Urheber dafür zu vergüten. Zudem seien rein KI-generierte Texte häufig erkennbar.

Schreibweise und Struktur wirkten oft unelegant. Lendle vergleicht dies mit den ersten KI-generierten Bildern, auf denen Menschen plötzlich sechs Finger hatten. Damals seien die Schwächen offensichtlich gewesen. Ähnlich verhalte es sich derzeit bei vielen Texten.

Künstliche Intelligenz Wer kann KI-Texte erkennen? Wasserzeichen können darüber Auskunft geben, ob Künstliche Intelligenz beim Schreiben genutzt wurde. Der Literaturwelt kann das helfen. Doch noch sind sie nicht für jeden nutzbar.

Wer ein Buch liest, möchte in eine andere Welt eintauchen. Doch was passiert, wenn diese Welt nicht von einem Menschen, sondern von einer Künstlichen Intelligenz erschaffen wurde? Diese Frage beschäftigt die Literaturbranche zunehmend. Seit Wochen wird darüber diskutiert, ob bei einem preisgekrönten Roman KI eingesetzt wurde.

In dieser Woche trennte sich ein kanadischer Verlag deswegen vom Schriftsteller Thélyson Orélien. Ein Fall, den der deutsche Verleger und Schriftsteller Jo Lendle aufmerksam verfolgt. Er hatte das Manuskript gelesen und grundsätzlich positiv bewertet. Literatur hat sich immer angepasst Für Lendle ist der Einsatz neuer Technologien in der Literatur nichts grundlegend Neues.

Die Literatur habe sich stets an technische Entwicklungen angepasst. Als der Film aufkam, veränderten sich Erzählweisen. Mit dem Computer wandelten sich Recherche und Schreibprozesse. "Die Welt der Bücher reagiert auf Veränderungen und die Erzählkunst geht mit", sagt Lendle.

Auch Künstliche Intelligenz sei Teil dieser Entwicklung. Sie könne Autoren beispielsweise helfen, Schreibblockaden zu überwinden oder neue Ideen zu entwickeln. Ein entscheidender Geburtsfehler der KI sei, dass sie zum Training auf Bücher und Literatur zurückgegriffen habe, ohne die Urheber dafür zu vergüten. Zudem seien rein KI-generierte Texte häufig erkennbar.

Schreibweise und Struktur wirkten oft unelegant. Lendle vergleicht dies mit den ersten KI-generierten Bildern, auf denen Menschen plötzlich sechs Finger hatten. Damals seien die Schwächen offensichtlich gewesen. Ähnlich verhalte es sich derzeit bei vielen Texten.

Allerdings gehe er davon aus, dass sich die Qualität schnell verbessern werde. Wasserzeichen sollen Transparenz schaffen Lendle begrüßt deshalb, dass KI-Anbieter wie Anthropic, Google und OpenAI entsprechende Wasserzeichen angekündigt haben und sie teilweise schon nutzen. Hintergrund ist der AI-Act der Europäischen Union, der seit 2024 gilt, Anfang August ist die Kennzeichnung von KI-genierten Inhalten dazugekommen. Aus Sicht von ihm als Verleger können solche Wasserzeichen hilfreich sein.

Sie sollen sichtbar machen, ob Künstliche Intelligenz bei der Erstellung eines Textes beteiligt war. Allerdings gibt es derzeit einen entscheidenden Haken: Verlage, Buchhändler und Leser können bislang nicht selbst überprüfen, ob ein Wasserzeichen tatsächlich vorhanden ist. Zweifel am praktischen Nutzen Die Wasserzeichen seien aktuell nur für die Techfirmen selbst und manche ausgewählten Organisationen und Hochschulen nutzbar, so KI-Experte Jörg Schieb. Der dafür notwendige Schlüssel sei bisher nicht öffentlich zugänglich.

"Wasserzeichen sagen aktuell jedoch nichts darüber aus, in welchem Ausmaß KI bei Texten verwendet wurde. Falls der Text komplett mit KI geschrieben wurde, erfolgt die Markierung mit einem Wasserzeichen und ebenso, wenn lediglich die Kommasetzung durch die KI kontrolliert und der Text aber sonst selbst verfasst wurde", so Schieb. Wie funktionieren die Wasserzeichen? Anders als bei Videos oder Audiodateien lassen sich Wasserzeichen in Texten nicht einfach sichtbar anbringen.

Ein zusätzlich eingefügter Code könnte leicht gelöscht werden. Deshalb setzen Unternehmen wie OpenAI und Anthropic auf andere Verfahren. Das Wasserzeichen wird in die Wortwahl eines Textes eingearbeitet, erklärt Jörg Schieb: "Es wird so gemacht, dass die Auswahl an Wörtern und Wortzeichen einem Schlüssel unterliegt. Es gibt dann eine gewisse Häufung von Wörtern, die sonst in dieser Häufigkeit nicht vorkommen würden.

Es geht um statistische Wahrscheinlichkeit." Für Leser bleiben die Sätze inhaltlich nahezu identisch und nur, wer ein sehr gutes Textverständnis habe, dem könne das auffallen. Grundsätzlich sieht Schieb kein Problem darin, wenn KI an einem Text mitgearbeitet hat. "Es ist kein Stigma, wenn KI geholfen hat, einen wirklich guten Text zu schreiben", sagt er. "Vielleicht sollte die Frage nicht sein: Hat eine KI den Text geschrieben oder nicht?

Sondern eher: Ist der Text gut geworden oder nicht?" Texte brauchen eine menschliche Seele Für ihn braucht gute Literatur eine lebende Seele hinter den Worten. Er warnt davor, dass mit KI die Originalität verloren gehen könnte. Wenn Maschinen vor allem auf bestehende Muster und Wahrscheinlichkeiten zurückgreifen, bestehe die Gefahr, dass sich immer ähnliche Erzählweisen durchsetzen und Leser sich an die Wiederholung des Immergleichen gewöhnen. Am Ende werde jeder selbst entscheiden müssen, ob er in Welten eintauchen möchte, die von Menschen oder von KI erschaffen wurden.

Mit den aktuellen Wasserzeichen kann ein Leser diesen Unterschied allerdings noch nicht erkennen.