Inhalt
summary Zusammenfassung

Tencent Cloud führt ein "Model as a Service" (MaaS) für große Sprachmodelle ein. Der Service wird von einer neuen GPU von Nvidia unterstützt.

Anzeige

Tencent Cloud MaaS bietet mehrere integrierte Sprachmodelle, die verschiedene Branchen wie Finanzen, Medien, Tourismus oder Fertigung abdecken und von Unternehmen für ihre Zwecke weiter spezialisiert werden können. Alternativ können eigene Modelle über den Cloud-Service trainiert werden.

Zu diesem Zweck bietet das Unternehmen eine Reihe von Werkzeugen an, darunter Werkzeuge für Datenbeschriftung, Training, Auswertung, Tests und Modellbereitstellung.

Tencent setzt als erstes Unternehmen in China auf Nvidias neue GPUs

Das Unternehmen arbeitet für den Ausbau eines chinesischen Sprachmodell-Ökosystems mit zahlreichen Partnern zusammen und hat laut Tang Daosheng, Senior Executive Vice President von Tencent und Leiter der Cloud and Smart Industries Group, bereits mehr als 50 auf Sprachmodellen basierende Industrielösungen in über zehn Branchen eingeführt.

Anzeige
Anzeige

Ähnliche Dienste werden in China auch von Baidu angeboten. Tencent ist jedoch das erste chinesische Unternehmen, das im April ein High Performance Computing Cluster mit Nvidia H800 GPU eröffnet hat. Neben der Nvidia-GPU setzt Tencent für das Rechenzentrum auf selbst entwickelte StarLake-Server.

Exportbeschränkungen treffen chinesische KI-Industrie

In China ist Nvidias H800 der schnellste derzeit verfügbare KI-Beschleuniger. Doch die H800 ist eine abgespeckte Version von Nvidias Spitzenmodell H100, das aufgrund der US-Exportbeschränkungen des CHIPS Act nicht in China verkauft werden darf. Die Regulierungen betreffen Nvidias A100 und H100 GPUs, die in den meisten Rechenzentren weltweit für KI-Training genutzt werden.

Das Unternehmen beschränkte für die A100 die Chip-zu-Chip Datentransferrate von 600 GBps auf 400 GBps und verkauft die Karte als A800. Laut Insidern aus China soll die Transferrate der H800 dagegen sogar von 600 GBps auf 300 GBps halbiert worden sein. Im KI-Training können diese Geschwindigkeiten große Unterschiede machen und Unternehmen, die Zugriff auf H100-Karten haben, könnten daher einen Vorteil gegenüber chinesischen Unternehmen haben.

In China setzten die Alibaba Group, Baidu und Tencent auf Nvidias H800-Karten.

Anzeige
Anzeige
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!
Unterstütze unsere unabhängige, frei zugängliche Berichterstattung. Jeder Betrag hilft und sichert unsere Zukunft. Jetzt unterstützen:
Banküberweisung
Zusammenfassung
  • Tencent Cloud führt ein "Model as a Service" (MaaS) für große Sprachmodelle ein, unterstützt von Nvidias neuer GPU.
  • Tencent bietet verschiedene vortrainierte Modelle an, die für spezifische Branchen optimiert und von Unternehmen weiter spezialisiert werden können.
  • Tencent ist das erste chinesische Unternehmen, das Nvidias H800 GPU verwendet, die schnellste KI-Beschleunigerkarte, die derzeit in China verfügbar ist.
  • Aufgrund von US-Exportbeschränkungen kann Nvidias Spitzenmodell H100 nicht in China verkauft werden, was chinesische Unternehmen im Vergleich zu denen mit Zugang zur H100 benachteiligen könnte.
Quellen
Max ist leitender Redakteur bei THE DECODER. Als studierter Philosoph beschäftigt er sich mit dem Bewusstsein, KI und der Frage, ob Maschinen wirklich denken können oder nur so tun als ob.
Community beitreten
Kommt in die DECODER-Community bei Discord,Reddit, Twitter und Co. - wir freuen uns auf euch!