LLMOps

LLMOps bezeichnet die Praktiken und Werkzeuge, mit denen Teams große Sprachmodelle im laufenden Betrieb verwalten. Dazu gehören das Verwalten von Prompts, das Überwachen von Qualität und Kosten, das Testen von Versionen und das Eindämmen von Halluzinationen. Es ist eine auf Sprachmodelle zugeschnittene Variante von MLOps. Ziel ist, dass ein KI-Dienst zuverlässig und kontrolliert in Produkten läuft.