Inkling-Small Modell-Übersicht

Inkling-Small ist die kleine Variante des ersten Open-Weights-Modells von Thinking Machines Lab (dem Startup von Mira Murati). Es ist ein Mixture-of-Experts-Modell mit 276 Mrd. Parametern insgesamt, von denen 12 Mrd. Parametern während der Token-Inferenz aktiviert werden. Das Modell wurde per Distillation aus dem größeren Inkling (975B/41B aktiv) trainiert. Trotz der kleinen Größe zieht Inkling-small in einigen Benchmarks mit dem großen Inkling-Modell gleich oder überholt es sogar (z.B. 82,2 % in IFBench (Inkling: 79,8 %) oder 80,2 % in SWEBench-Verified (Inkling: 77,6 %)). Wie die große Inkling Version auch, bringt es natives Reasoning über Text, Bild und Audio, ein Kontextfenster von bis zu 1 Mio. Token und anpassbare Thinking-Effort-Stufen mit. Thinking Machines positioniert die Familie ausdrücklich nicht als stärkstes Modell am Markt, sondern als offene Basis zum Fine-Tuning über die hauseigene Plattform Tinker.

Playground Hugging Face Model Card Blog

Features & Modalitäten

Nicht verfügbar

WebsucheQuellenangaben

Verfügbar

ReasoningToolsMultimodalitätStrukturierte AusgabenFinetuning

Input:TextBildAudio

Output:Text

Details zum Modell

1 Mio. Token

0,50 $

1,20 $

276 Mrd.

495,38 GB

201,02k

Kosten berechnen Geschwindigkeit testen

Inkling-Small Benchmark Scores

Auf einen Blick

40 Pkt.Rang 17 von 19

Inkling-Small Benchmark Übersicht

Inkling-Small Performance im Vergleich zu anderen KI-Modellen

Benchmark	Inkling-Small	Inkling	Claude Opus 5	DeepSeek V4 Flash	Muse Glimmer 30B	Muse Spark 1.2	Qwen 3.8 Max
AA-OmniscienceWissen & Sprache	-9 Pkt.	2,1 Pkt.

Ergebnisse in Benchmarks

Benchmark auswählen

Darstellung der Rohdaten für den Benchmark AA-Omniscience. Der niedrigste Score im Benchmark ist -100 % und der höchste Score ist 100 %.
Modell	Score
Gemini 3.1 Pro	33 %
Grok 4.5	26,4 %
Gemini 3.6 Flash	23,5 %
Muse Spark 1.2	21,53 %
Claude Opus 4.6	14 %
Claude Sonnet 4.6	12 %
GPT-5.3-Codex	10 %
Gemini 3.5 Flash-Lite	6,9 %
GPT-5.4	6 %
Inkling	2,1 %
MiniMax M2.7	1 %
Claude Opus 5	0,49 %
GLM-5	-1 %
Kimi K2.5 (Thinking)	-8 %
Inkling-Small	-9 %
DeepSeek V4 Flash 0731	-15,7 %
GPT-5.6 Terra	-21,67 %
Muse Glimmer 30B	-32,85 %
Qwen3.5-397B-A17B	-36 %
MiniMax M2.5	-40 %

Vergleich von LLMs im Benchmark AA-Omniscience. Der niedrigste Score im Benchmark ist -100 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark AIME 2026. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GLM-5.2	99,2 %
Inkling	97,1 %
Kimi K2.6	96,4 %
Inkling-Small	95,5 %
GLM-5.1	95,3 %
Muse Glimmer 30B	94,7 %
Gemma 4 31B	89,2 %

Vergleich von LLMs im Benchmark AIME 2026. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark ARC-AGI-2. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	90,42 %
GPT-5.5	85 %
Gemini 3.1 Pro	77,1 %
Gemini 3.5 Flash	72,1 %
Claude Opus 4.6	68,8 %
GPT-5.6 Sol	67,1 %
Claude Sonnet 4.6	58,3 %
GPT-5.2 Pro	54,2 %
GPT-5.2	52,9 %
Gemini 3 Deep Think	45,1 %
Muse Spark	42,5 %
Inkling-Small	40,1 %
Claude Opus 4.5	37,6 %
GPT-5.6 Terra	37,5 %
Gemini 3 Pro	31,1 %
Grok-4	15,9 %
GPT-5.6 Luna	7,4 %

Vergleich von LLMs im Benchmark ARC-AGI-2. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Artificial Analysis Intelligence Index. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	65 %
Claude Opus 5	61 %
Claude Opus 4.8	61 %
GPT-5.6 Sol	58,9 %
Kimi K3	57 %
GPT-5.6 Terra	55 %
Gemini 3.5 Flash	55 %
Muse Spark 1.2	54,07 %
Grok 4.5	53,8 %
GPT-5.6 Luna	51,2 %
Gemini 3.6 Flash	50,1 %
MiniMax M2.7	50 %
DeepSeek V4 Flash 0731	49,9 %
DeepSeek-V4-Pro (Preview)	44 %
Inkling	41 %
Inkling-Small	40 %
DeepSeek V4 Flash	40 %
Gemini 3.5 Flash-Lite	36,5 %
Muse Glimmer 30B	35,06 %

Vergleich von LLMs im Benchmark Artificial Analysis Intelligence Index. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark BrowseComp. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Kimi K3	91,2 %
Claude Opus 5	90,8 %
GPT-5.6 Sol	90,4 %
GPT-5.6 Terra	87,5 %
Claude Sonnet 5	84,7 %
GPT-5.5	84,4 %
Claude Opus 4.8	84,3 %
MiniMax-M3	83,52 %
DeepSeek-V4-Pro (Preview)	83,4 %
GPT-5.6 Luna	83,3 %
Kimi K2.6	83,2 %
Claude Opus 4.7	79,3 %
Inkling-Small	77,4 %
Inkling	77,1 %
MiniMax M2.7	76,3 %
DeepSeek V4 Flash	72,2 %
GLM-5.1	68 %

Vergleich von LLMs im Benchmark BrowseComp. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark GDPval-AA. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	1.932 %
Claude Opus 4.8	1.890 %
Claude Opus 5	1.861 %
GPT-5.6 Sol	1.747,8 %
Gemini 3.5 Flash	1.656 %
Muse Spark 1.2	1.631 %
Claude Sonnet 5	1.618 %
GPT-5.6 Terra	1.593 %
GPT-5.6 Luna	1.591,8 %
DeepSeek V4 Flash 0731	1.558,61 %
DeepSeek-V4-Pro (Preview)	1.554 %
Grok 4.5	1.543 %
Muse Spark	1.444 %
Gemini 3.6 Flash	1.421 %
DeepSeek V4 Flash	1.395 %
Muse Spark 1.1	1.381 %
Inkling-Small	1.269 %
Inkling	1.238 %
Gemini 3.5 Flash-Lite	1.140 %
Muse Glimmer 30B	953 %

Vergleich von LLMs im Benchmark GDPval-AA. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark GPQA Diamond. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Fugu Ultra	95,5 %
GPT-5.6 Sol	94,6 %
Claude Opus 4.8	93,6 %
Kimi K3	93,5 %
Claude Opus 5	93,43 %
Claude Fable 5	93,18 %
Grok 4.5	93,1 %
GPT-5.6 Terra	92,9 %
Gemini 3.6 Flash	92,8 %
Qwen 3.8 Max	92,6 %
GPT-5.6 Luna	92,3 %
GLM-5.2	91,2 %
DeepSeek V4 Flash 0731	90,8 %
Muse Spark 1.2	90,4 %
DeepSeek-V4-Pro (Preview)	90,1 %
Inkling-Small	89,5 %
DeepSeek V4 Flash	88,1 %
Inkling	87,2 %
Gemini 3.5 Flash-Lite	83,8 %
Muse Glimmer 30B	83,5 %

Vergleich von LLMs im Benchmark GPQA Diamond. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Humanity's Last Exam. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	56,3 %
Muse Spark 1.1	52,2 %
Fugu Ultra	50 %
Claude Opus 4.8	49,8 %
GPT-5.6 Sol	47,2 %
Muse Spark 1.2	43,93 %
Qwen 3.8 Max	43,6 %
Kimi K3	43,5 %
Claude Sonnet 5	43,2 %
GPT-5.6 Terra	41,8 %
GLM-5.2	40,5 %
Grok 4.5	40,3 %
Gemini 3.5 Flash	40,2 %
Gemini 3.6 Flash	38,3 %
DeepSeek-V4-Pro (Preview)	37,7 %
DeepSeek V4 Flash 0731	36,8 %
Inkling-Small	31,6 %
Inkling	29,7 %
Muse Glimmer 30B	22 %
Gemini 3.5 Flash-Lite	17,5 %

Vergleich von LLMs im Benchmark Humanity's Last Exam. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark MCP-Atlas. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Muse Spark 1.1	88,1 %
Claude Opus 5	85,8 %
Kimi K3	84,2 %
Gemini 3.5 Flash	83,6 %
Claude Fable 5	83,3 %
Claude Opus 4.8	82,2 %
Inkling-Small	79,2 %
Claude Opus 4.7	77,3 %
GLM-5.2	76,8 %
Muse Glimmer 30B	75,5 %
GPT-5.5	75,3 %
MiniMax-M3	74,2 %
Inkling	74,1 %
DeepSeek-V4-Pro (Preview)	73,6 %
GLM-5.1	71,8 %
DeepSeek V4 Flash	69 %
MiniMax M2.7	49,4 %

Vergleich von LLMs im Benchmark MCP-Atlas. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark MMMU-Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	89,88 %
Claude Fable 5	89,31 %
Gemini 3.5 Flash	83,6 %
Gemini 3.6 Flash	83,2 %
GPT-5.6 Sol	83 %
Qwen 3.8 Max	82,3 %
Kimi K3	81,6 %
GPT-5.5	81,2 %
GPT-5.6 Terra	80,7 %
Grok 4.5	80,4 %
Muse Spark	80,4 %
Kimi K2.6	79,4 %
Gemini 3.5 Flash-Lite	79 %
GPT-5.6 Luna	78,4 %
MiniMax-M3	78,1 %
Gemma 4 31B	76,9 %
Muse Glimmer 30B	74 %
Inkling-Small	74 %
Inkling	73,5 %

Vergleich von LLMs im Benchmark MMMU-Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark SWE-bench Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	80 %
Claude Opus 5	79,2 %
Fugu Ultra	73,7 %
Claude Opus 4.8	69,2 %
Qwen 3.8 Max	67,7 %
Grok 4.5	64,7 %
GPT-5.6 Sol	64,6 %
GPT-5.6 Terra	63,4 %
Claude Sonnet 5	63,2 %
GPT-5.6 Luna	62,7 %
GLM-5.2	62,1 %
Muse Spark 1.1	61,5 %
Laguna S 2.1	59,4 %
MiniMax-M3	59 %
Gemini 3.6 Flash	58,7 %
Inkling-Small	55,9 %
Gemini 3.5 Flash	55,1 %
Inkling	54,3 %
Gemini 3.5 Flash-Lite	54,2 %
Muse Glimmer 30B	51,2 %

Vergleich von LLMs im Benchmark SWE-bench Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark SWE-bench Verified. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GPT-5.6 Sol	96,2 %
Claude Opus 5	96 %
Claude Fable 5	95 %
Claude Mythos Preview	93,9 %
Claude Opus 4.8	88,6 %
Claude Opus 4.7	87,6 %
Claude Sonnet 5	85,2 %
DeepSeek-V4-Pro (Preview)	80,6 %
Gemini 3.1 Pro	80,6 %
MiniMax-M3	80,5 %
Inkling-Small	80,2 %
Kimi K2.6	80,2 %
MiniMax M2.7	79,9 %
Claude Sonnet 4.6	79,6 %
DeepSeek V4 Flash	79 %
Inkling	77,6 %
Muse Spark	77,4 %
Qwen3.5-397B-A17B	76,4 %
Muse Glimmer 30B	76 %
GPT-5.6 Terra	75,2 %

Vergleich von LLMs im Benchmark SWE-bench Verified. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Terminal-Bench 2.1. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GPT-5.6 Sol	88,8 %
Kimi K3	88,3 %
GPT-5.6 Terra	87,4 %
Qwen 3.8 Max	86,6 %
GPT-5.6 Luna	84,7 %
Claude Opus 5	84,64 %
Claude Fable 5	84,3 %
Grok 4.5	83,3 %
Muse Spark 1.2	82,9 %
DeepSeek V4 Flash 0731	82,7 %
GLM-5.2	82,7 %
Fugu Ultra	82,1 %
Claude Sonnet 5	80,4 %
Muse Spark 1.1	80 %
Gemini 3.6 Flash	78 %
Laguna S 2.1	70,2 %
Inkling-Small	64,7 %
Inkling	63,8 %
Gemini 3.5 Flash-Lite	54 %
Muse Glimmer 30B	51,7 %

Vergleich von LLMs im Benchmark Terminal-Bench 2.1. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

‌
‌

Technologie & Daten

Technische Spezifikationen

Architektur	Decoder-only-Transformer mit Sparse-MoE-Architektur
Input Kontextlänge	1 Mio.
Output Kontextlänge	1 Mio.
Tokenizer	Unbekannt

Besonderheiten

Native Multimodalität	Text, Bild, Audio
On-Policy Distillation	Aus größerem Inkling Modell destilliert
Fine-Tuning über Tinker	Open Weights, ausgelegt zum Finetunen mit eigenen Daten über die Plattform Tinker.

Vorteile & Nachteile

Vorteile

Effizientes Modell
Mit nur 12 Mrd. aktiven von 276 Mrd. Parametern lässt sich Inkling-small auf zwei NVIDIA DGX Spark bei vertretbarer Token-Geschwindigkeit (ca. 25 Tokens/s) ausführen.
Günstiger Preis
Mit $0,50 / $1,20 pro 1 Mio. Input-/Output-Token gehört Inkling-small zu den preisgünstigsten LLMs mit 1M-Kontext.
Open Weights unter Apache 2.0
Die vollständigen Open Weights liegen offen auf Hugging Face und lassen sich lokal herunterladen und deployen. Auch ein NVFP4-Checkpoint für NVIDIA-Blackwell-GPUs ist verfügbar.
Multimodal inklusive Audio
Inkling-small kann neben Text und Bild auch Audio-Input verarbeiten. Das macht es besonders unter vergleichbaren Open-Weights-Modellen wie DeepSeek-V4-Flash, die diese Modalität oftmals nicht unterstützen.
Auf Fine-Tuning ausgelegt
Über die Plattform Tinker lässt sich das Modell gezielt mit eigenen Daten anpassen, was es besonders interessant für Firmen mit proprietären Daten macht. Thinking Labs setzt genau auf diesen Anwendungsfall / diese Enterprise-Zielgruppe.

Nachteile

Schwächer als chinesische Open Weights Modelle
Im direkten Vergleich zu vergleichbaren Open Weights Modellen aus China (z.B. Qwen 3.8 oder DeepSeek V4 Flash) liegt die Leistung des US-Modells noch niedriger.
Kein natives Web-Search und keine Quellenangaben
Thinking Labs dokumentiert weder integrierte Live-Web-Suche noch automatische Zitierungen. Beide Funktionen müssen über eigene Tool-Integrationen ergänzt werden.

Vergleiche Inkling-Small mit anderen LLMs

Vergleiche Inkling-Small mit anderen Sprachmodellen anhand wichtiger Metriken wie Kontextgröße, Preisen und Benchmark-Leistung.

Entwickler	Modell⇅	Lizenz⇅	Intelligence-Index ⇅	Input-Tokens ⇅	Output-Tokens ⇅	Input-Preis ⇅	Output-Preis ⇅	Veröffentlichung
Thinking Machines Lab	Inkling Small	Apache 2.0	40	1 Mio.	1 Mio.	0,50 $	1,20 $	30.07.2026
Meta AI	Muse Glimmer 30B	Apache 2.0	35,1	131,07k	131,07k	0,35 $	1,50 $	10.08.2026
Meta AI	Muse Spark 1.2	Proprietär	54,1	1,05 Mio.	1,05 Mio.	1,25 $	4,25 $	05.08.2026
Alibaba	Qwen 3.8 Max	Proprietär	–	1 Mio.	128k	2,00 $	6,00 $	02.08.2026
DeepSeek AI	DeepSeek V4 Flash	MIT	49,9	1 Mio.	384k	0,14 $	0,28 $	31.07.2026
Anthropic	Claude Opus 5	Proprietär	61	1 Mio.	128k	5,00 $	25,00 $	24.07.2026
Google DeepMind	Gemini 3.5 Flash Lite	Proprietär	36,5	1 Mio.	65,54k	0,30 $	2,50 $	21.07.2026
Google DeepMind	Gemini 3.6 Flash	Proprietär	50,1	1 Mio.	64k	1,50 $	7,50 $	21.07.2026
Poolside	Laguna S 2.1	Open Model License	–	1,05 Mio.	131,07k	0,10 $	0,20 $	20.07.2026
Moonshot AI	Kimi K3	Unbekannt	57	1,05 Mio.	131,07k	3,00 $	15,00 $	16.07.2026
Thinking Machines Lab	Inkling	Apache 2.0	41	1 Mio.	256k	1,00 $	4,05 $	15.07.2026

‌
Alle Modelle vergleichen

Inkling-Small ausprobieren

Inkling-Small hat offene Gewichte: Du kannst das Modell herunterladen und selbst hosten — oder es bei einem der API-Provider unten nutzen.

Apache 2.0

Möglich

495,38 GB

Auf Hugging Face ansehen

Provider & APIs

Du kannst Thinking Machines Lab Inkling-Small über die API folgender Anbieter nutzen.

DeepInfra
Prompt CachingZero Data RetentionDaten: Verarbeitung primär in US-Rechenzentren. DeepInfra betreibt eine strikte Zero-Retention-Policy: Eingaben, Ausgaben und Nutzerdaten werden nicht gespeichert und nicht zum Modelltraining verwendet. SOC-2- und ISO-27001-zertifiziert, mit technischen und organisatorischen Maßnahmen für DSGVO und HIPAA. Eine garantierte EU-Datenresidenz wird nicht zugesichert; für DSGVO-relevante Workloads die Auftragsverarbeitungs-Bedingungen prüfen.SOC2ISO-27001GDPRHIPAA
Zu DeepInfra
Token (in)
Unbekannt
Token (out)
Unbekannt
Latenz
Unbekannt
USD / 1M Input
1,00 $
USD / 1M Output
4,05 $
Throughput
Unbekannt

‌
‌
‌

Häufige Fragen zu Inkling-Small

Ist Inkling-Small Open Source?

Inkling-Small wird unter der Lizenz „Apache 2.0“ veröffentlicht. Details stehen in den Lizenzbedingungen des Anbieters.

Welche Eingabeformate versteht Inkling-Small?

Inkling-Small verarbeitet folgende Eingabeformate: Text, Bild, Audio.

Was kostet Inkling-Small über die API?

Über die API kostet Inkling-Small 0,50 $ pro 1 Mio. Input-Token und 1,20 $ pro 1 Mio. Output-Token. Bei Reasoning-Modellen kommen Thinking-Tokens hinzu, die als Output abgerechnet werden.

Wie groß ist das Kontextfenster von Inkling-Small?

Inkling-Small verarbeitet bis zu 1 Mio. Token in einer Anfrage.

Was ist der Vorgänger von Inkling-Small?

Der direkte Vorgänger von Inkling-Small ist Inkling (erschienen Juli 2026). Einen tabellarischen Vergleich der beiden Modelle findest du auf dieser Seite im Abschnitt „Vergleiche“.

Inkling-Small Modell-Übersicht

Features & Modalitäten

Details zum Modell