Sprachgeneratoren benötigen sehr viel Energie

Beim Energiebedarf von Sprachgeneratoren müssen zwei Phasen unterschieden werden:

• Das Training der Sprachmodelle
• Die Nutzung der Sprachmodelle.

Insbesondere das erstmalige Training von Sprachmodellen benötigt sehr viel Energie. Da aber Sprachmodelle nur einmal trainiert und danach millionenfach genutzt werden, spielt auch der Energiebedarf bei der Nutzung eine grosse Rolle.

Eruierung des Energiebedarfs

Es ist derzeit nicht einfach, verlässliche Aussagen zum Energiebedarf von grossen Sprachmodellen zu erhalten, da die Unternehmen keine entsprechenden Zahlen publizieren. Zudem ist zu erwarten, dass unterschiedliche Sprachmodelle je nach Grösse einen unterschiedlichen Energiebedarf haben.

Weitere Entwicklung

Derzeit ist die weitere Entwicklung des Energiebedarfs schwer vorauszusagen. Die Tatsache, dass erste Sprachmodelle lokal verfügbar sind mit einer Leistungsfähigkeit, die bis vor kurzem nur serverbasiert verfügbar war, zeigt, dass Energiesparpotenzial vorhanden ist.

Weiterführende Informationen

• Biblionetz:a1508 Large Language Models benötigen viel Energie
• Biblionetz:t30033 ChatGPT-style search represents a 10x cost increase for Google, Microsoft

Kommentare