"Bald wird es Software geben, die Texte von Sprachgeneratoren erkennen kann."

  • Worum geht es?
    Bald nach Erscheinen von ChatGPT sind verschiedene Programme angekündigt worden (insbesondere auch von traditionellen Anbieter:innen von Plagiatserkennungssoftware), die behaupten computergenerierte Texte unterscheiden zu können von solchen, die von Menschen geschrieben worden sind.
  • Was ist dazu zu sagen?
    • Erkennung ist schwierig:
      Die Entwicklung von Programmen zur Erkennung von KI-generierten Texten (wie z.B. GPT-Zero) wird ein Wettrüsten zwischen KI-Textgenerierung und KI-Texterkennung auslösen, da KI-Textgenerierungsprogramme die verfügbaren Erkennungsprogramme als zusätzlichen Filter / Trainingsmöglichkeit nutzen werden (z.B. mit GAN-Netzwerk mit Erkennungsalgorithmus als Diskriminator). Es wird somit vermutlich langfristig nicht möglich sein, computergenerierte Texte zuverlässig automatisiert erkennen zu können.
    • Juristisch haltbarer Nachweis ist schwierig:
      In Prüfungssituationen ist der juristisch stichfeste Nachweis eines Betrugs durch Sprachgeneratoren selbst dann schwierig bis unmöglich, wenn ein Erkennungsprogramm einen Text als computergeneriert deklariert, denn im Gegensatz zu einem Plagiat gibt es kein Original, das sich als Beweis vorlegen lässt. Vermutlich sind Betrugsabsichten mit Sprachgeneratoren nur juristisch beweisbar, wenn jemand in flagranti bei der unerlaubten Nutzung entsprechender Tools erwischt wird.
    • Die Frage der automatisierten Erkennung ist nicht zielführend:
      Es werden nur die wenigsten Schüler:innen komplett computergenerierte Texte abliefern. Mischungen von computergenerierten und menschengemachten Texten sind aber deutlich schwieriger zu erkennen und können zudem sehr wohl das Ergebnis eigener geistiger Leistung sein. Der Versuch einer automatisierten Erkennung des Anteils computergenerierten Textes ist somit weder zuverlässig möglich noch zielführend.

Fun-Fact: Erkennungssoftware meint im April 2023, die amerikanische Verfassung sei computergeneriert

Im April 2023 meinte die Sprachgeneratoren-Erkennungssoftware ZeroGPT, die amerikanische Verfassung sei computergeneriert:


Quelle: https://twitter.com/DataChaz/status/1649058523672707073

Update Juli 2023: OpenAI zieht ihr Textgeneratorenerkennungprogramm zurück

Mangels Zuverlässigkeit zieht OpenAI, die Entwicklerfirma hinter ChatGPT, ihr KI-Texterkennungsprogramm zurück:
As of July 20, 2023, the AI classifier is no longer available due to its low rate of accuracy. We are working to incorporate feedback and are currently researching more effective provenance techniques for text, and have made a commitment to develop and deploy mechanisms that enable users to understand if audio or visual content is AI-generated.
(Quelle).

Update März 2024

Derzeit behaupten mindestens folgende Dienste, sie könnten computergenerierte von menschlichen Texten unterscheiden:
  • https://originality.ai/ die kostenlose Preview liess im März 2024 auf Deutsch noch hinters Licht führen. Am 22.03.2024 meinte die kostenlose Preview von originality, folgender mit ChatGPT4 generierte Text sei zu 98% menschlichen Ursprungs (Am 5.04.24 meinte auch die Demoversion von https://tomtlok.de/, der Text sei zu 86.11% menschlich):
    Zürich? Einzigartig. Man spürt es sofort. Zwischen den Ufern der Limmat und den sanften Wellen des Zürichsees verbirgt sich eine Stadt, die so lebendig ist wie ihre Geschichte. Schlendert man durch die Altstadt, findet man sich in einem Gewirr aus Gassen wieder, wo jedes Kopfsteinpflaster seine eigene Geschichte erzählt. Über allem thront das Grossmünster, stolz und unerschütterlich.
    Doch Zürich lebt nicht nur in der Vergangenheit. Hier, wo die ETH junge Köpfe formt, pulsiert die Zukunft. Kultur? Überall. Vom Opernhaus bis zu den unzähligen Galerien – Kunst lebt in jeder Ecke.
    Aber Zürich kann auch anders: Lässig am See sitzen, die Ruhe genießen, während die Stadt um einen herum summt. Trotz Banken und Business – hier atmet man Freiheit und Lebensqualität. Grüne Ecken überall, eine Stadt, die Nachhaltigkeit nicht nur predigt, sondern lebt.

Weiterführende Informationen

Kommentare

 
PHSZ Logo

Die Website gmls.phsz.ch ist eine seit Dezember 2022 laufend erweiterte Sammlung von Einordnungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz zur Frage, welche Auswirkungen generative Machine-Learning-Systeme wie ChatGPT auf die Schule haben.

Lizenz: Die Website steht unter einer CC-BY-ND-Lizenz, Bilder und Texte dürfen somit unter Quellenangabe an anderen Orten verwendet werden.

Zitationsvorschlag: Döbeli Honegger, Beat (2023). ChatGPT & Co. und Schule. Einschätzungen der Professur "Digitalisierung und Bildung" der Pädagogischen Hochschule Schwyz. https://gmls.phsz.ch/ (abgerufen am 11 Jun 2024)
This page was cached on 11 Jun 2024 - 09:17.