Mistral 7B: Mini-Sprachmodell läuft auf Apple Vision Pro
5. Februar 2024
Joseph Semrai zeigt bei X, wie das kleine große Sprachmodell Mistral 7B auf einer Apple Vision Pro läuft. Dabei handelt es sich allerdings um eine Modellvariante mit 4-Bit-Quantisierung, die zwar den Speicherbedarf des Modells reduziert, aber auch dessen Genauigkeit. Dafür sinkt der Leistungsbedarf so stark, dass es auf der Vision Pro M2 mit insgesamt 16 GB Speicher läuft. Eine 4-bit-Version von Mistral 7B Instruct ist hier verfügbar.
Video: Joseph Semrai
KI-News ohne Hype
Von Menschen kuratiert.
- Mehr als 20 Prozent Launch-Rabatt.
- Lesen ohne Ablenkung – keine Google-Werbebanner.
- Zugang zum Kommentarsystem und Austausch mit der Community.
- Wöchentlicher KI-Newsletter.
- 6× jährlich: „KI Radar“ – Deep-Dives zu den wichtigsten KI-Themen.
- Bis zu 25 % Rabatt auf KI Pro Online-Events.
- Zugang zum kompletten Archiv der letzten zehn Jahre.
- Die neuesten KI‑Infos von The Decoder – klar und auf den Punkt.