Kritik und Ängste (Entwurf)

Worum geht es?

Seit der Veröffentlichung von ChatGPT Ende 2022 haben grosse Sprachmodelle und maschinelles Lernen grosse Aufmerksamkeit erhalten. Neben vielen Berichten zu den Potenzialen dieser Technologien ist auch verschiedentlich Kritik zu vernehmen. Im Folgenden wird versucht, die unterschiedlichen Bedenken konzeptionell zu fassen und zu gruppieren.

Die verschiedenen Bedenken lassen sich einerseits unterteilen in solche, welche die heutigen Möglichkeiten kritisieren und solche, die sich auf die künftige mögliche Entwicklung beziehen. Zum anderen widersprechen sich gewisse Bedenken auch direkt: Während einige kritisieren, dass grosse Sprachmodelle zu schlecht funktionieren, fürchten sich andere davor, dass sie zu gut funktionieren.

Konkrete Kritik an grossen Sprachmodellen

• Urheberrecht: Zum Training grosser Sprachmodelle wurden teilweise urheberrechtlich geschützte Texte und Bilder verwendet. Es ist juristisch nicht abschliessend geklärt, ob eine solche Verwendung urheberrechtlich geschützter Werke eine Urheberrechtsverletzung darstellt und damit verboten oder abgabepflichtig ist.
• Datenschutz: Bei der Nutzung grosser Sprachmodelle fallen Nutzungsdaten an, deren Auswertung unter Umständen datenschutzrechtlich problematisch bzw. in gewissen Ländern verboten ist.
• Macht von Grosskonzernen: Da insbesondere das Training grosser Sprachmodelle sehr energieintensiv ist, besteht die Befürchtung, dass nur Grosskonzerne solche Systeme weiterentwickeln können und dies deshalb zu einer Machtkonzentration bei Grosskonzernen führt.
• Digital divide zwischen denjenigen, die Zugang zu LLMs und über entsprechende Nutzungskompetenzen verfügen und anderen.
• Mobbing und Manipulation durch LLM
• Arbeitsplatzverlust: Es wird befürchtet, dass durch grosse Sprachmodelle bisher menschliche Tätigkeiten automatisiert werden können und deshalb Arbeitsplätze verloren gehen.
• Klimaschädigend: Insbesondere das erstmalige Training grosser Sprachmodelle ist derzeit sehr energieaufwändig. Es besteht die Befürchtung, dass grosse Sprachmodelle deshalb klimaschädigend sein können.
• Verzerrungen / Bias: Die Antworten grosser Sprachmodelle beruhen einerseits auf den verwendeten Trainingsdaten und andererseits auf den verwendeten Grundalgorithmen und zusätzlich installierten Sicherheitsfiltern. Es wird befürchtet, dass sowohl Daten als auch Algorithmen verzerrte Sichtweisen / Vorurteile enthalten, die durch diese Systeme grössere Verbreitung finden.
• Informationsflut, insbesondere Fakenews, Brandolinis Gesetz, Lügendivididende, letztendlich demokratiegefährdend
• Verdummend für Individuen: Einzelne Lernen nichts mehr, weil Maschine es übernimmt
• Verdummend für Gesellschaft: Menschheit verdummt, weil die Systeme sich selbst füttern und nichts neues mehr entsteht

Allgemeinere Bedenken zu allgemeiner künstlicher Intelligenz

Neben konkreter Kritik zu Textgeneratoren wie ChatGPT ist aufgrund des Erfolgs grosser Sprachmodelle in jüngerer Vergangenheit auch die bereits seit länger existierende Diskussion zu Gefahren einer sogenannten allgemeinen künstlichen Intelligenz (AGI) stärker geworden. Allgemein geht diese Sorge davon aus, dass Computer bald intelligenter als Menschen werden und dies eine Bedrohung für die Menschheit darstellen könnte (Biblionetz:a01514). Es lassen sich dabei drei Varianten unterscheiden:

• Vernichtung der Menschheit durch konkrete Aktionen automatisierter Systeme: (z.B. automatische Waffen)
• Vernichtung der Menschheit durch Aufhetzung der Menschheit: die sich dann selbst zerstört
• Vernichtung der Menschheit durch ungewollte Dynamiken eines automatisierten Systems: ...
• Kritik an dieser Angst als Longtermism