Zitat von progpi am 12. Mai 2025, 13:50 Uhr

Aus meiner Sicht gibt es ein paar Analogien zur Autoindustrie. So sagt man BMW, Daimler, VW seien komplett abgehängt? Unfähigkeit der Ingenieure? Aus meiner Sicht ganz anders: Extreme Abhängigkeit von Rohstoffen, weil die EU es versäumt hat Bergbau in Europa für sinnvoll zu erachten (u.a wegen CO2). Und auch alles was Rezyklat betrifft wurde sträflich vernachlässigt bzw. die Wiedergewinnung von Selten Erden Metallen geschieht in China (So ein Prof. von der Bergakademie Freiberg).

Und bei KI? Es gibt Mistral AI aus Frankreich mit dem Produkt „Le Chat“ was u.a. hier beschrieben wird: https://progpi.de/mistral-ai-vs-openai/

Die Bildgenerierung für Le Chat kommt initial von Prof. Ommer (LMU) und dessen Mitarbeitern (vgl. https://de.wikipedia.org/wiki/FLUX.1) Also ganz abgehängt sind wir in der EU noch nicht…  Zum EU-Datenschutz habe ich mal was Provokatives gemacht: https://www.youtube.com/shorts/-H4hafWwyLE

Die Links dürfen natürlich verbreitet werden. 

Und was die Chip betrifft antwortet „Le Chat“ so:

Was ist der Unterschied zwischen der Wafer Scale Engine 3 und NVIDIA H100

 

3.5s Nachdenken

Die Wafer Scale Engine 3 (WSE-3) von Cerebras und die NVIDIA H100 sind beide leistungsstarke Prozessoren, die für KI-Anwendungen entwickelt wurden, aber sie haben unterschiedliche Designs und Stärken:

1. Architektur und Design:

   • Wafer Scale Engine 3: Die WSE-3 ist ein riesiger Chip, der auf Wafer-Skala gefertigt wird. Sie enthält etwa 4 Billionen Transistoren und ist damit einer der größten Chips, die jemals produziert wurden. Die Architektur der WSE-3 ist darauf ausgelegt, die Kommunikationsverzögerungen und Ineffizienzen zu eliminieren, die bei der Verbindung vieler kleinerer Geräte auftreten können. Sie bietet eine hohe Bandbreite für die Kommunikation zwischen den Prozessoren und eine große Menge an On-Chip-Speicher (44 GB), was etwa 880 Mal mehr ist als bei der NVIDIA H1001.
   • NVIDIA H100: Die H100 ist ein GPU-basierter Prozessor, der auf der NVIDIA Ampere-Architektur basiert. Sie ist für eine Vielzahl von KI- und HPC-Anwendungen (High-Performance Computing) optimiert und bietet eine hohe Rechenleistung mit Unterstützung für verschiedene Präzisionsstufen, einschließlich FP8, was besonders für große Sprachmodelle und Transformer-basierte Architekturen nützlich ist2.

2. Leistung und Effizienz:

   • WSE-3: Die WSE-3 bietet eine extrem hohe Speicherbandbreite, die etwa 7.000 Mal höher ist als die der NVIDIA H100. Dies ermöglicht es, sehr große KI-Modelle effizient zu trainieren und zu betreiben. Die WSE-3 ist auch in der Lage, bis zu 24 Billionen Parameter zu verarbeiten, was sie ideal für sehr große und komplexe KI-Modelle macht3.
   • H100: Die H100 bietet eine hohe Rechenleistung mit bis zu 32 Petaflops an FP8-Leistung, wenn sie in einer HGX-Konfiguration mit acht GPUs verwendet wird. Sie ist besonders gut für das Training und die Inferenz großer Sprachmodelle geeignet4.

3. Anwendungsbereiche:

   • WSE-3: Die WSE-3 ist besonders für Anwendungen geeignet, die eine extrem hohe Speicherbandbreite und Rechenleistung erfordern, wie z.B. das Training sehr großer KI-Modelle und komplexe Simulationen.
   • H100: Die H100 ist vielseitiger einsetzbar und eignet sich für eine breite Palette von KI- und HPC-Anwendungen, einschließlich des Trainings und der Inferenz von Sprachmodellen, sowie für Datenanalysen und wissenschaftliche Simulationen.

Zusammenfassend lässt sich sagen, dass die WSE-3 von Cerebras durch ihre riesige Chip-Größe und hohe Speicherbandbreite besonders für extrem große und komplexe KI-Modelle geeignet ist, während die NVIDIA H100 eine vielseitige GPU ist, die für eine breite Palette von KI- und HPC-Anwendungen optimiert ist.

LG Harald