Gesellschaftliche Perspektive

Im Folgenden werden nur gesellschaftliche Aspekte aufgeführt, die einerseits spezifisch sind für generative Machine-Learning-Systeme und andererseits Konsequenzen haben für die Schule, die über "Das sollte man in der Schule thematisieren" hinausgehen:

• ChatGPT & Co. sind Werkzeuge, die ab jetzt allgemein – teilweise integriert in andere Produkte – zur Verfügung stehen und nicht mehr verschwinden werden.
  Die Funktionalitäten, die ChatGPT & Co. derzeit als eigenständige Dienste (auf eigenen Websites oder Apps) anbieten, werden bald auch in andere Produkte integriert werden und damit allgemein und allgegenwärtig verfügbar sein. Es ist davon auszugehen, dass Textverständnis und Textgeneration wie sie ChatGPT & Co. heute zeigen, auf praktisch jedem digitalen Gerät und in praktisch jeder Software (Textverarbeitung, Tabellenkalkulation etc.) verfügbar sein wird.
  mehr...
• ChatGPT & Co. konkurrenzieren traditionelle Suchmaschinen als Rechercheinstrumente
  Viele Beta-User von ChatGPT berichten, dass sie ChatGPT teilweise als Ersatz für eine Suchmaschine verwenden. Es ist somit denkbar, dass ChatGPT & Co. Suchmaschinen bis zu einem gewissen Grad als Werkzeuge ablösen werden.
  • ChatGPT & Co. eröffnen den Kampf um die Vormachtstellung im Bereich Suchmaschinen und bedrohen insbesondere Google
    Wenn generative Machine-Learning-Systeme teilweise die Aufgaben von traditionellen Suchmaschinen übernehmen, so gerät deren Vormachtstellung und evtl. auch deren werbebasiertes Geschäftsmodell in Gefahr. Insbesondere löst aber der technische Fortschritt im Bereich der generativen Machine-Learning-Systeme ein erneutes Wettrennen um die Vormachtstellung der grossen IT-Firmen (Google, Amazon, Facebook, Apple, Microsoft) aus. (Biblionetz:a01506)
  • Es ist ein grosser Unterschied, ob das Ergebnis einer Recherche eine Dokumentenauswahl oder eine einzige Antwort ist.
    Traditionelle Suchmaschinen können sich bis zu einem gewissen Grad aus der Verantwortung für die Inhalte ziehen, da sie ja "nur" eine Auswahl an möglicherweise relevanten Quellen für eine Suchanfrage liefern. Textgeneratoren hingegen, die eine einzige Antwort liefern, haben eine stärkere Verantwortung für diese Antwort, selbst wenn sie dafür Belege in Form von Quellen angeben.
    
    Der Unterschied zwischen der Angabe einer Dokumentenauswahl und einer Antwort mit Quellenangabe ist auch relevant für die Betreiber:innen von Websites: Während bei ersterem ein Besuch der angegebenen Webseite noch notwendig ist für eine Antwort, entfällt dies bei Antworten von Textgeneratoren. Es ist somit zu erwarten, dass Webseiten weniger besucht würden, was auch ökonomische Konsequenzen hätte.
• ChatGPT & Co. vereinfachen und vergünstigen das Erstellen von Text massiv.
  Das wird vermutlich mindestens folgende Konsequenzen haben (die für die Allgemeinbildung relevant sind):
  • Die Informationsflut wird noch einmal um eine Grössenordnung ansteigen
    (Quellen, Belege und Kritik siehe Biblionetz:a01490)
  • Die Flut an Fake-News dürfte weiter zunehmen
    (Quellen siehe Biblionetz:a01493)
  • Das Erkennen von Fake-News aufgrund von sprachlichen Fehlern dürfte schwieriger werden
  • Phishing-Angriffe dürften künftig sprachlich fehlerfrei und evtl. extrem personalisiert sein
    Bisher konnte man davon ausgehen, dass die meisten Phishing-Versuche sprachlich eher holprig und fehlerhaft formuliert und inhaltlich eher allgemein gehalten waren. Generative Machine-Learning-Systeme ermöglichen künftig sprachlich perfekte und inhaltlich angepasste Anfragen. (17.01.23 Bericht von heise.de)

Folgende Aspekte erachten wir als entweder nicht schulspezifisch oder nicht GMLS-spezifisch:

• Es ist unklar, ob generative Machine-Learning-Systeme das Recht am geistigen Eigentum verletzen
  Generative Machine-Learning-Systeme werden derzeit oft mit Daten trainiert, die urheberrechtlich geschützt sind. Auch wenn die danach erzeugten Produkte Textpassagen oder Bildteile direkt enthalten, gibt es Stimmen, die in dieser ungefragten Verwendung dieser Werke eine Verletzung des geistigen Eigentums sehen.
  Unabhängig von der juristischen Einschätzung erachten wir dies nicht als schulspezifisch zu klärende Frage. Generative Machine-Learning-Systeme mit der Begründung einer ungeklärten Rechtslage in der Schule nicht zu thematisieren oder verwenden, scheint uns keine zielführende Strategie zu sein. Detaillierter...

• Die Verwendung aktueller generativer Maschine-Learning-Systeme sind meist nicht datenschutzkonform möglich
  Die aktuellen, leistungsfähigen generativen Maschine-Learning-Systeme sind nur cloudbasiert verfügbar und lassen sich derzeit nicht lokal oder auf eigenen Servern installieren. Die Anbieter stellen die generativen Maschine-Learning-Systeme derzeit oft in einer Basisversion kostenlos zur Verfügung um statistische Nutzungsdaten zu erheben. Es ist deshalb davon auszugehen, dass Nutzungsdaten erhoben werden, die nicht mit den jeweils lokal geltenden Datenschutzverordnungen konform sind.
  Das Phänomen, dass attraktive digitale Dienste nicht datenschutzkonform sind, ist in der bisherigen Entwicklung der digitalen Transformation häufig und nicht auf Sprachgeneratoren beschränkt. mehr...