Eine API für jedes KI-Modell - integriert in Tagen, nicht Monaten.

Anbinden per REST oder Stream API

Ob ERP, CRM, Kundenportal oder Teams-Bot: Deine Anwendung schickt eine Anfrage, izz.ONE liefert die Antwort. Synchron per REST für Hintergrundprozesse wie Dokumentenverarbeitung, als Stream für Chat-Oberflächen, in denen die Antwort Wort für Wort erscheint.

• OpenAI-kompatibel
• Server-Sent Events
• SDKs für TypeScript und Python
• API-Key pro Anwendung

data: {"choices":[{"delta":{"content":"Der Vertrag"}}]}
data: {"choices":[{"delta":{"content":" regelt die Lieferung"}}]}
data: {"choices":[{"delta":{"content":" von ..."}}]}
data: [DONE]

Fachwissen als wiederverwendbarer Baustein

Ein Custom GPT bündelt Anweisungen, Wissensquellen und Werkzeuge für genau eine Aufgabe, etwa Vertragsprüfung oder Rechnungseingang. Fachbereiche pflegen ihn ohne Code, Entwickler rufen ihn über dieselbe API auf wie jedes Modell. Ändert sich der Prozess, passt du den GPT an, nicht deinen Code.

• Eigene Wissensquellen (RAG)
• Werkzeuge und Funktionen
• Versionierung

const res = await one.chat.completions.create({
  model: "gpt:vertragspruefung", // Custom GPT statt Modell
  messages: [{ role: "user", content: vertragstext }],
});

Das richtige Modell für jede Aufgabe

Nicht jede Aufgabe braucht das teuerste Modell. Der Router bewertet jede Anfrage nach Komplexität, Vertraulichkeit, Kosten und Antwortzeit und wählt das passende Modell. Einfache Klassifikationen laufen günstig und schnell, komplexe Analysen auf den stärksten Modellen, vertrauliche Daten bleiben im eigenen Netz.

Mit model: "auto" entscheidet der Router. Optional gibst du Ziele und Datenklasse vor.

const res = await one.chat.completions.create({
  model: "auto",
  messages,
  // izz.ONE Erweiterung
  extra_body: {
    routing: {
      optimize: "cost",          // cost | latency | quality
      data_class: "vertraulich", // erzwingt EU oder self-hosted
      fallback: true,
    },
  },
});

Ein Format für alle

Jeder Anbieter hat eigene Schnittstellen, Fehlercodes, Limits und Abrechnungsmodelle. Das Gateway übersetzt alles in ein einheitliches Format. Du wechselst das Modell mit einem Parameter, ohne eine Zeile Integrationscode anzufassen. Tokenverbrauch und Kosten werden pro Anwendung erfasst.

• Einheitliche Antworten und Fehler
• Kosten pro Anwendung
• Rate-Limit-Handling und Retries

Egal welcher Anbieter antwortet, die Struktur bleibt gleich. Zusätzliche Metadaten zeigen Anbieter, Region und Kosten.

{
  "id": "one_9f2c...",
  "choices": [{ "message": { "role": "assistant", "content": "..." } }],
  "usage": { "prompt_tokens": 1830, "completion_tokens": 412 },
  "izz": {
    "provider": "azure-openai",
    "region": "swedencentral",
    "routed_by": "router",
    "cost_eur": 0.0041,
    "app": "crm-assistant"
  }
}

Jede Anwendung im Blick, keine Ausfallzeiten

Der Status Check prüft laufend alle Modellanbieter und alle angebundenen Anwendungen. Fällt ein Modell aus oder wird es langsam, leitet das Gateway Anfragen automatisch auf eine gleichwertige Alternative um. Dein Team wird informiert, bevor Nutzer etwas merken.

Statusänderungen kommen als Webhook in deine Monitoring-Landschaft, etwa Teams, PagerDuty oder Grafana.

POST https://deine-domain.de/hooks/izz-one
{
  "event": "provider.degraded",
  "provider": "anthropic",
  "action": "rerouted",
  "target": "azure-openai",
  "affected_apps": ["crm-assistant", "service-portal"],
  "errors_seen_by_users": 0
}