Inkling Small Modell-Übersicht

Inkling-Small ist die kleine Variante des ersten Open-Weights-Modells von Thinking Machines Lab (dem Startup von Mira Murati). Es ist ein Mixture-of-Experts-Modell mit 276 Mrd. Parametern insgesamt, von denen 12 Mrd. Parametern während der Token-Inferenz aktiviert werden. Das Modell wurde per Distillation aus dem größeren Inkling (975B/41B aktiv) trainiert. Trotz der kleinen Größe zieht Inkling-small in einigen Benchmarks mit dem großen Inkling-Modell gleich oder überholt es sogar (z.B. 82,2 % in IFBench (Inkling: 79,8 %) oder 80,2 % in SWEBench-Verified (Inkling: 77,6 %)). Wie die große Inkling Version auch, bringt es natives Reasoning über Text, Bild und Audio, ein Kontextfenster von bis zu 1 Mio. Token und anpassbare Thinking-Effort-Stufen mit. Thinking Machines positioniert die Familie ausdrücklich nicht als stärkstes Modell am Markt, sondern als offene Basis zum Fine-Tuning über die hauseigene Plattform Tinker.

Playground Hugging Face Model Card Blog

Features

Tools

Websuche, Bildgenerierung, Computer Use und MCP-Server.

Multimodalität

Das Modell kann Text, Bilder, Audio und PDFs als Input verarbeiten.

Finetuning

Finetuning des Modells ist aktuell nicht möglich.

Details zum Modell

1 Mio. Token

Unbekannt

276 Mrd.

0,50 $

1,20 $

201,02k

495,38 GB

Inkling Small Benchmark Scores

Im KI-Kontext bezeichnet Performance die Leistungsfähigkeit eines Modells in Bereichen wie Sprachverständnis, Logik oder Programmierung – gemessen anhand standardisierter Benchmarks zur objektiven Vergleichbarkeit.

Inkling Small Benchmark Übersicht

Inkling Small Performance im Vergleich zu anderen KI-Modellen

Benchmark	Inkling Small	Inkling	Claude Opus 5	DeepSeek V4 Flash	Qwen 3.8 Max	Gemini 3.6 Flash	Gemini 3.5 Flash Lite
AA-OmniscienceWissen & Sprache	-9 Pkt.	2,1 Pkt.	0,5 Pkt.	-15,7 Pkt.	—	23,5 Pkt.	6,9 Pkt.
AIME 2026Logik & Schlussfolgerung	95,5 %	97,1 %	—	—	—	—	—
ARC-AGI-2Logik & Schlussfolgerung	40,1 %	—	Top 90,4 %	—	—	—	—
Artificial Analysis Intelligence IndexLogik & Schlussfolgerung	40 Pkt.	41 Pkt.	61 Pkt.	49,9 Pkt.	—	50,1 Pkt.	36,5 Pkt.
BrowseCompWissen & Sprache	77,4 %	77,1 %	90,8 %	—	—	—	—
GDPval-AAAgentische Aufgaben	1.269 ELO	1.238 ELO	1.861 ELO	1.558,6 ELO	—	1.421 ELO	1.140 ELO
GPQA DiamondWissen & Sprache	89,5 %	87,2 %	93,4 %	90,8 %	92,6 %	92,8 %	83,8 %
Humanity's Last ExamWissen & Sprache	31,6 %	29,7 %	56,3 %	36,8 %	43,6 %	38,3 %	17,5 %
MCP-AtlasAgentische Aufgaben	79,2 %	74,1 %	85,8 %	—	—	—	—
MMMU-ProMultimodalität	74 %	73,5 %	Top 89,9 %	—	82,3 %	83,2 %	79 %
SWE-bench ProProgrammierung	55,9 %	54,3 %	79,2 %	—	67,7 %	58,7 %	54,2 %
SWE-bench VerifiedProgrammierung	80,2 %	77,6 %	96 %	—	—	—	—
Terminal-Bench 2.1Programmierung	64,7 %	63,8 %	84,6 %	82,7 %	86,6 %	78 %	54 %

Ergebnisse in Benchmarks

Benchmark auswählen

Darstellung der Rohdaten für den Benchmark AA-Omniscience. Der niedrigste Score im Benchmark ist -100 % und der höchste Score ist 100 %.
Modell	Score
Gemini 3.1 Pro	33 %
Grok 4.5	26,4 %
Gemini 3.6 Flash	23,5 %
Claude Opus 4.6	14 %
Claude Sonnet 4.6	12 %
GPT-5.3-Codex	10 %
Gemini 3.5 Flash-Lite	6,9 %
GPT-5.4	6 %
Inkling	2,1 %
MiniMax M2.7	1 %
Claude Opus 5	0,49 %
GLM-5	-1 %
Kimi K2.5 (Thinking)	-8 %
Inkling-Small	-9 %
DeepSeek V4 Flash 0731	-15,7 %
GPT-5.6 Terra	-21,67 %
Qwen3.5-397B-A17B	-36 %
MiniMax M2.5	-40 %

Vergleich von LLMs im Benchmark AA-Omniscience. Der niedrigste Score im Benchmark ist -100 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark AIME 2026. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GLM-5.2	99,2 %
Inkling	97,1 %
Kimi K2.6	96,4 %
Inkling-Small	95,5 %
GLM-5.1	95,3 %
Gemma 4 31B	89,2 %

Vergleich von LLMs im Benchmark AIME 2026. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark ARC-AGI-2. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	90,42 %
GPT-5.5	85 %
Gemini 3.1 Pro	77,1 %
Gemini 3.5 Flash	72,1 %
Claude Opus 4.6	68,8 %
GPT-5.6 Sol	67,1 %
Claude Sonnet 4.6	58,3 %
GPT-5.2 Pro	54,2 %
GPT-5.2	52,9 %
Gemini 3 Deep Think	45,1 %
Muse Spark	42,5 %
Inkling-Small	40,1 %
Claude Opus 4.5	37,6 %
GPT-5.6 Terra	37,5 %
Gemini 3 Pro	31,1 %
Grok-4	15,9 %
GPT-5.6 Luna	7,4 %

Vergleich von LLMs im Benchmark ARC-AGI-2. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Artificial Analysis Intelligence Index. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	65 %
Claude Opus 5	61 %
Claude Opus 4.8	61 %
GPT-5.6 Sol	58,9 %
Kimi K3	57 %
GPT-5.6 Terra	55 %
Gemini 3.5 Flash	55 %
Grok 4.5	53,8 %
GPT-5.6 Luna	51,2 %
Gemini 3.6 Flash	50,1 %
MiniMax M2.7	50 %
DeepSeek V4 Flash 0731	49,9 %
DeepSeek-V4-Pro (Preview)	44 %
Inkling	41 %
Inkling-Small	40 %
DeepSeek V4 Flash	40 %
Gemini 3.5 Flash-Lite	36,5 %

Vergleich von LLMs im Benchmark Artificial Analysis Intelligence Index. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark BrowseComp. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Kimi K3	91,2 %
Claude Opus 5	90,8 %
GPT-5.6 Sol	90,4 %
GPT-5.6 Terra	87,5 %
Claude Sonnet 5	84,7 %
GPT-5.5	84,4 %
Claude Opus 4.8	84,3 %
MiniMax-M3	83,52 %
DeepSeek-V4-Pro (Preview)	83,4 %
GPT-5.6 Luna	83,3 %
Kimi K2.6	83,2 %
Claude Opus 4.7	79,3 %
Inkling-Small	77,4 %
Inkling	77,1 %
MiniMax M2.7	76,3 %
DeepSeek V4 Flash	72,2 %
GLM-5.1	68 %

Vergleich von LLMs im Benchmark BrowseComp. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark GDPval-AA. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	1.932 %
Claude Opus 4.8	1.890 %
Claude Opus 5	1.861 %
GPT-5.6 Sol	1.747,8 %
Gemini 3.5 Flash	1.656 %
Claude Sonnet 5	1.618 %
GPT-5.6 Terra	1.593 %
GPT-5.6 Luna	1.591,8 %
DeepSeek V4 Flash 0731	1.558,61 %
DeepSeek-V4-Pro (Preview)	1.554 %
Grok 4.5	1.543 %
MiniMax M2.7	1.495 %
Muse Spark	1.444 %
Gemini 3.6 Flash	1.421 %
DeepSeek V4 Flash	1.395 %
Muse Spark 1.1	1.381 %
Inkling-Small	1.269 %
Inkling	1.238 %
Gemini 3.5 Flash-Lite	1.140 %

Vergleich von LLMs im Benchmark GDPval-AA. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark GPQA Diamond. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Fugu Ultra	95,5 %
GPT-5.6 Sol	94,6 %
Claude Opus 4.8	93,6 %
GPT-5.5	93,6 %
Kimi K3	93,5 %
Claude Opus 5	93,43 %
Claude Fable 5	93,18 %
Grok 4.5	93,1 %
GPT-5.6 Terra	92,9 %
Gemini 3.6 Flash	92,8 %
Qwen 3.8 Max	92,6 %
GPT-5.6 Luna	92,3 %
GLM-5.2	91,2 %
DeepSeek V4 Flash 0731	90,8 %
Kimi K2.6	90,5 %
DeepSeek-V4-Pro (Preview)	90,1 %
Inkling-Small	89,5 %
DeepSeek V4 Flash	88,1 %
Inkling	87,2 %
Gemini 3.5 Flash-Lite	83,8 %

Vergleich von LLMs im Benchmark GPQA Diamond. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Humanity's Last Exam. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	56,3 %
Muse Spark 1.1	52,2 %
Fugu Ultra	50 %
Claude Opus 4.8	49,8 %
GPT-5.6 Sol	47,2 %
Qwen 3.8 Max	43,6 %
Kimi K3	43,5 %
Claude Sonnet 5	43,2 %
GPT-5.6 Terra	41,8 %
GPT-5.5	41,4 %
GLM-5.2	40,5 %
Grok 4.5	40,3 %
Gemini 3.5 Flash	40,2 %
Gemini 3.6 Flash	38,3 %
DeepSeek-V4-Pro (Preview)	37,7 %
DeepSeek V4 Flash 0731	36,8 %
DeepSeek V4 Flash	34,8 %
Inkling-Small	31,6 %
Inkling	29,7 %
Gemini 3.5 Flash-Lite	17,5 %

Vergleich von LLMs im Benchmark Humanity's Last Exam. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark MCP-Atlas. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Muse Spark 1.1	88,1 %
Claude Opus 5	85,8 %
Kimi K3	84,2 %
Gemini 3.5 Flash	83,6 %
Claude Fable 5	83,3 %
Claude Opus 4.8	82,2 %
Inkling-Small	79,2 %
Claude Opus 4.7	77,3 %
GLM-5.2	76,8 %
GPT-5.5	75,3 %
MiniMax-M3	74,2 %
Inkling	74,1 %
DeepSeek-V4-Pro (Preview)	73,6 %
GLM-5.1	71,8 %
DeepSeek V4 Flash	69 %
MiniMax M2.7	49,4 %

Vergleich von LLMs im Benchmark MCP-Atlas. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark MMMU-Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Opus 5	89,88 %
Claude Fable 5	89,31 %
Gemini 3.5 Flash	83,6 %
Gemini 3.6 Flash	83,2 %
GPT-5.6 Sol	83 %
Qwen 3.8 Max	82,3 %
Kimi K3	81,6 %
GPT-5.5	81,2 %
GPT-5.6 Terra	80,7 %
Grok 4.5	80,4 %
Muse Spark	80,4 %
Kimi K2.6	79,4 %
Gemini 3.5 Flash-Lite	79 %
GPT-5.6 Luna	78,4 %
MiniMax-M3	78,1 %
Gemma 4 31B	76,9 %
Inkling-Small	74 %
Inkling	73,5 %

Vergleich von LLMs im Benchmark MMMU-Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark SWE-bench Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
Claude Fable 5	80 %
Claude Opus 5	79,2 %
Fugu Ultra	73,7 %
Claude Opus 4.8	69,2 %
Qwen 3.8 Max	67,7 %
Grok 4.5	64,7 %
GPT-5.6 Sol	64,6 %
GPT-5.6 Terra	63,4 %
Claude Sonnet 5	63,2 %
GPT-5.6 Luna	62,7 %
GLM-5.2	62,1 %
Muse Spark 1.1	61,5 %
Laguna S 2.1	59,4 %
MiniMax-M3	59 %
Gemini 3.6 Flash	58,7 %
Inkling-Small	55,9 %
DeepSeek-V4-Pro (Preview)	55,4 %
Gemini 3.5 Flash	55,1 %
Inkling	54,3 %
Gemini 3.5 Flash-Lite	54,2 %

Vergleich von LLMs im Benchmark SWE-bench Pro. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark SWE-bench Verified. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GPT-5.6 Sol	96,2 %
Claude Opus 5	96 %
Claude Fable 5	95 %
Claude Mythos Preview	93,9 %
Claude Opus 4.8	88,6 %
Claude Opus 4.7	87,6 %
Claude Sonnet 5	85,2 %
DeepSeek-V4-Pro (Preview)	80,6 %
Gemini 3.1 Pro	80,6 %
MiniMax-M3	80,5 %
Inkling-Small	80,2 %
Kimi K2.6	80,2 %
MiniMax M2.5	80,2 %
MiniMax M2.7	79,9 %
Claude Sonnet 4.6	79,6 %
DeepSeek V4 Flash	79 %
Inkling	77,6 %
Muse Spark	77,4 %
Qwen3.5-397B-A17B	76,4 %
GPT-5.6 Terra	75,2 %

Vergleich von LLMs im Benchmark SWE-bench Verified. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

Darstellung der Rohdaten für den Benchmark Terminal-Bench 2.1. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.
Modell	Score
GPT-5.6 Sol	88,8 %
Kimi K3	88,3 %
GPT-5.6 Terra	87,4 %
Qwen 3.8 Max	86,6 %
GPT-5.6 Luna	84,7 %
Claude Opus 5	84,64 %
Claude Fable 5	84,3 %
Grok 4.5	83,3 %
DeepSeek V4 Flash 0731	82,7 %
GLM-5.2	82,7 %
Fugu Ultra	82,1 %
Claude Sonnet 5	80,4 %
Muse Spark 1.1	80 %
Gemini 3.6 Flash	78 %
Claude Opus 4.8	74,6 %
Laguna S 2.1	70,2 %
MiniMax-M3	66 %
Inkling-Small	64,7 %
Inkling	63,8 %
Gemini 3.5 Flash-Lite	54 %

Vergleich von LLMs im Benchmark Terminal-Bench 2.1. Der niedrigste Score im Benchmark ist 0 % und der höchste Score ist 100 %.

‌
‌

Technologie & Daten

Technische Spezifikationen

Architektur	Decoder-only-Transformer mit Sparse-MoE-Architektur
Input Kontextlänge	1 Mio.
Output Kontextlänge	1 Mio.
Tokenizer	Unbekannt

Besonderheiten

Native Multimodalität	Text, Bild, Audio
On-Policy Distillation	Aus größerem Inkling Modell destilliert
Fine-Tuning über Tinker	Open Weights, ausgelegt zum Finetunen mit eigenen Daten über die Plattform Tinker.

Vorteile & Nachteile

Vorteile

Effizientes Modell
Mit nur 12 Mrd. aktiven von 276 Mrd. Parametern lässt sich Inkling-small auf zwei NVIDIA DGX Spark bei vertretbarer Token-Geschwindigkeit (ca. 25 Tokens/s) ausführen.
Günstiger Preis
Mit $0,50 / $1,20 pro 1 Mio. Input-/Output-Token gehört Inkling-small zu den preisgünstigsten LLMs mit 1M-Kontext.
Open Weights unter Apache 2.0
Die vollständigen Open Weights liegen offen auf Hugging Face und lassen sich lokal herunterladen und deployen. Auch ein NVFP4-Checkpoint für NVIDIA-Blackwell-GPUs ist verfügbar.
Multimodal inklusive Audio
Inkling-small kann neben Text und Bild auch Audio-Input verarbeiten. Das macht es besonders unter vergleichbaren Open-Weights-Modellen wie DeepSeek-V4-Flash, die diese Modalität oftmals nicht unterstützen.
Auf Fine-Tuning ausgelegt
Über die Plattform Tinker lässt sich das Modell gezielt mit eigenen Daten anpassen, was es besonders interessant für Firmen mit proprietären Daten macht. Thinking Labs setzt genau auf diesen Anwendungsfall / diese Enterprise-Zielgruppe.

Nachteile

Schwächer als chinesische Open Weights Modelle
Im direkten Vergleich zu vergleichbaren Open Weights Modellen aus China (z.B. Qwen 3.8 oder DeepSeek V4 Flash) liegt die Leistung des US-Modells noch niedriger.
Kein natives Web-Search und keine Quellenangaben
Thinking Labs dokumentiert weder integrierte Live-Web-Suche noch automatische Zitierungen. Beide Funktionen müssen über eigene Tool-Integrationen ergänzt werden.

Vergleiche Inkling Small mit anderen LLMs

Vergleiche Inkling Small mit anderen Sprachmodellen anhand wichtiger Metriken wie Kontextgröße, Parameteranzahl, Preisen und Benchmark-Leistung.

Entwickler	Modell⇅	Lizenz⇅	Parameter ⇅	Input-Tokens ⇅	Output-Tokens ⇅	Input-Preis ⇅	Output-Preis ⇅	Veröffentlichung
Alibaba	Qwen 3.8 Max	Proprietär	2.400 Mrd.	1 Mio.	128k	2,00 $	6,00 $	02.08.2026
DeepSeek AI	DeepSeek V4 Flash	MIT	284 Mrd.	1 Mio.	384k	0,14 $	0,28 $	31.07.2026
Thinking Machines Lab	Inkling Small	Apache 2.0	276 Mrd.	1 Mio.	1 Mio.	0,50 $	1,20 $	30.07.2026
Anthropic	Claude Opus 5	Proprietär	Unbekannt	1 Mio.	128k	5,00 $	25,00 $	24.07.2026
Google DeepMind	Gemini 3.5 Flash Lite	Proprietär	Unbekannt	1 Mio.	65,54k	0,30 $	2,50 $	21.07.2026
Google DeepMind	Gemini 3.6 Flash	Proprietär	Unbekannt	1 Mio.	64k	1,50 $	7,50 $	21.07.2026
Poolside	Laguna S 2.1	Open Model License	118 Mrd.	1,05 Mio.	131,07k	0,10 $	0,20 $	20.07.2026
Moonshot AI	Kimi K3	Unbekannt	2.800 Mrd.	1,05 Mio.	131,07k	3,00 $	15,00 $	16.07.2026
Thinking Machines Lab	Inkling	Apache 2.0	975 Mrd.	1 Mio.	256k	1,00 $	4,05 $	15.07.2026
OpenAI	GPT 5.6 Terra	Proprietär	Unbekannt	1,05 Mio.	128k	2,00 $	12,00 $	09.07.2026

‌
Alle Modelle vergleichen

Provider & APIs

Du kannst Thinking Machines Lab Inkling Small über die API folgender Anbieter nutzen.

Token (in)
Unbekannt
Token (out)
Unbekannt
Latenz
Unbekannt
USD / 1M Input
0,50 $
USD / 1M Output
1,20 $
Throughput
Unbekannt
DeepInfra
Zu DeepInfra
Token (in)
Unbekannt
Token (out)
Unbekannt
Latenz
Unbekannt
USD / 1M Input
1,00 $
USD / 1M Output
4,05 $
Throughput
Unbekannt
Token (in)
Unbekannt
Token (out)
Unbekannt
Latenz
Unbekannt
USD / 1M Input
1,00 $
USD / 1M Output
4,05 $
Throughput
Unbekannt

‌
‌
‌

Inkling Small Modell-Übersicht

Features

Tools

Multimodalität

Finetuning

Details zum Modell

Inkling Small Benchmark Scores

Inkling Small Benchmark Übersicht

Wissen & Sprache

Logik & Schlussfolgerung

Programmierung

Multimodalität

Agentische Aufgaben

Inkling Small Performance im Vergleich zu anderen KI-Modellen

Ergebnisse in Benchmarks

Technologie & Daten

Technische Spezifikationen

Besonderheiten

Vorteile & Nachteile

Vorteile

Nachteile

Vergleiche Inkling Small mit anderen LLMs

Provider & APIs

DeepInfra

Inkling Small Benchmark Übersicht

Wissen & Sprache

Logik & Schlussfolgerung

Programmierung

Multimodalität

Agentische Aufgaben

Inkling Small Performance im Vergleich zu anderen KI-Modellen

Ergebnisse in Benchmarks

DeepInfra