dottxt-ai/outlines: Structured Outputs - ein sehr spannendes Tooling das sich direkt in vLLM einhängt und Replies von LLMs gegen definierte Schemas für Antworten prüft und direkt in der Generierung illegale Token rejected und damit garantiert, dass der Output den erwarteten Formaten entspricht. Gerade für kleinere Modelle interessant die oft Schwächen bei Toolformaten haben. Gerade für stringente Workflows in denen man genau weiss, was das LLM antworten soll, kann das hilfreich sein.