Wichtige Funktionen und Fähigkeiten
Komplexes logisches Schließen mit DeepSeek-R1
DeepSeek-R1 stellt die Antwort der Plattform auf die o1-Serie von OpenAI dar und implementiert erweitertes Chain-of-Thought Reasoning durch reines Reinforcement Learning. Im Gegensatz zu traditionellen überwachten Fine-Tuning-Ansätzen wurde R1 primär mit RL-Algorithmen trainiert, die das Modell für die korrekte Lösung von Problemen belohnen, unabhängig vom gewählten Denkpfad. Dies ermöglicht es dem Modell, interne Denkprozesse zu entwickeln, die im Output sichtbar sind, wobei es mehrere Lösungsstrategien exploriert, bevor es eine endgültige Antwort gibt.
Beim AIME 2024 Mathematik-Benchmark erreichte DeepSeek-R1 eine Punktzahl von 79,8 % und gehört damit zu den leistungsstärksten Reasoning-Modellen, die im Jahr 2026 verfügbar sind. Das Modell zeigt besondere Stärken bei mehrstufigen logischen Deduktionen, formalen Beweisführungen und komplexen mathematischen Ableitungen. In Tests übertraf R1 das Standardmodell DeepSeek-V3 konsistent bei Problemen, die eine Verifizierung von Zwischenschritten erfordern, wenngleich es aufgrund des erweiterten Denkprozesses eine höhere Latenz aufweist.
Die Reasoning-Fähigkeit erstreckt sich über die Mathematik hinaus auf das Debugging von Code, strategische Spielanalysen und die Bewertung wissenschaftlicher Hypothesen. Benutzer können den Denkprozess des Modells in Echtzeit beobachten, während es Reasoning-Traces generiert. Dies macht es besonders wertvoll für Bildungsanwendungen und Szenarien, in denen die Erklärbarkeit ebenso wichtig ist wie das Endergebnis.
Effizienz durch Mixture of Experts
Die Architektur von DeepSeek-V3 umfasst insgesamt 671 Milliarden Parameter, aktiviert jedoch während der Inferenz nur 37 Milliarden Parameter pro Token. Dieses spärliche Aktivierungsmuster ist das definierende Merkmal des Mixture-of-Experts-Ansatzes: Das Modell leitet jeden Token an eine kleine Untergruppe spezialisierter Experten-Netzwerke weiter, während die Mehrheit der Parameter inaktiv bleibt. Der Routing-Mechanismus selbst wird während des Trainings erlernt und optimiert, welche Experten welche Arten von Eingaben verarbeiten.
In der Praxis bedeutet dies Generierungsgeschwindigkeiten, die denen wesentlich kleinerer dichter Modelle nahekommen. DeepSeek-V3 erreicht etwa 60 Token pro Sekunde auf Standard-GPU-Konfigurationen, verglichen mit etwa 20 bis 30 Token pro Sekunde für dichte 405B-Parameter-Modelle wie LLaMA 3.1. Die reduzierte Anzahl aktiver Parameter bedeutet auch geringere Speicheranforderungen während der Inferenz: V3 kann effizient auf 8x80GB GPU-Setups laufen, während vergleichbare dichte Modelle oft eine umfangreichere Hardware erfordern.
Die Effizienzgewinne erstrecken sich auch auf das Training. DeepSeek berichtet von der Nutzung von 2,788 Millionen GPU-Stunden auf H800-Chips für den kompletten Trainingslauf von V3, einschließlich der Pre-Training- und Post-Training-Phasen. Im Vergleich dazu deuten Branchenschätzungen für das Training von GPT-4 auf Rechenanforderungen hin, die um eine Größenordnung höher liegen. Dieser Kostenvorteil hat westliche KI-Labore dazu veranlasst, ihre architektonischen Entscheidungen zu überdenken, wobei mehrere MoE-basierte Modelle in den Monaten nach der Veröffentlichung von DeepSeek-V3 angekündigt wurden.
Programmierung und mathematische Kompetenz
DeepSeek-Modelle zeigen außergewöhnliche Leistungen bei Programmieraufgaben, wobei V3 beim Release im Januar 2025 einen Score von 85,7 % bei HumanEval und 75,4 % bei MBPP erreichte. Diese Benchmarks messen die Fähigkeit des Modells, funktional korrekten Code aus natürlichsprachlichen Beschreibungen zu generieren, wobei sowohl algorithmisches Denken als auch syntaktische Genauigkeit über mehrere Programmiersprachen hinweg getestet werden. Bei Competitive-Programming-Herausforderungen von Codeforces erreichte DeepSeek-V3 ein Elo-Rating, das es unter die besten 5 % der menschlichen Teilnehmer platzierte.
Die Plattform unterstützt Code-Generierung, Erklärung und Refactoring in über 80 Programmiersprachen, mit besonders starker Leistung in Python, JavaScript, C++, Java und Rust. Während praktischer Tests bewältigte DeepSeek komplexe Aufgaben wie die Konvertierung von Legacy-Java-Codebasen in modernes Python mit Asyncio-Mustern, das Erstellen vollständiger FastAPI-Anwendungen aus Spezifikationen und das Debuggen subtiler Concurrency-Probleme in Multithreading-Code. Das Kontextfenster von 128k Token erweist sich als wertvoll für die Arbeit mit großen Codebasen, da das Modell das Bewusstsein für Abhängigkeiten zwischen mehreren Dateien gleichzeitig aufrechterhält.
Auf SWE-bench, das Modelle anhand realer GitHub-Issues bewertet, die Änderungen an mehreren Dateien erfordern, löste DeepSeek-V3 47,8 % der Probleme im verifizierten Subset. Damit ist es wettbewerbsfähig zu GPT-4o und Claude 3.5 Sonnet bei realen Software-Engineering-Aufgaben, auch wenn spezialisierte Coding-Modelle wie Claude Sonnet 4.0 bei den komplexesten Änderungen auf Repository-Ebene weiterhin einen Vorsprung behalten.
Multimodales Verständnis der Modelle
Die multimodalen Fähigkeiten von DeepSeek stammen aus den Modellserien Janus und Janus-Pro, die visuelles Verständnis in die Kernarchitektur des Sprachmodells integrieren. Anders als bei Ansätzen, die Bild-Embeddings einfach mit Text-Token verknüpfen, implementiert Janus ein System zur entkoppelten visuellen Kodierung. Dieses verarbeitet Bilder über separate Pfade für Verständnis- und Generierungsaufgaben. Diese architektonische Wahl spiegelt die Forschungserkenntnis wider, dass sich optimale Repräsentationen für die Analyse von Bildern von denen unterscheiden, die für deren Erstellung erforderlich sind.
Im Jahr 2026 bewältigt die multimodale Funktionalität das Verständnis von Dokumenten, Diagrammanalysen, Screenshot-Interpretationen und visuelle Fragenbeantwortung. Während der Tests extrahierte das System präzise strukturierte Daten aus komplexen Finanztabellen, interpretierte medizinische Diagramme mit entsprechenden Hinweisen und analysierte UI-Mockups, um den zugehörigen Implementierungscode zu generieren. Die visuelle Verarbeitung unterstützt Bilder bis zu 4096x4096 Pixeln, wobei intelligentes Cropping und Tiling für größere Eingaben genutzt werden.
Die multimodale Leistung der Plattform in Benchmarks wie MMMU (Massive Multitask Multimodal Understanding) erreichte 71,3 %, was sie in den Wettbewerbsbereich von GPT-4V und Gemini 1.5 Pro rückt. Die Bildgenerierungsfähigkeiten bleiben jedoch im Vergleich zu spezialisierten Modellen wie DALL-E 3 oder Midjourney limitierter und konzentrieren sich primär auf technische Diagramme und Visualisierungsaufgaben statt auf künstlerische Arbeiten.
