Zum Inhalt springen
DeutschlandGPT
Benutzerkonto

Eigene Modelle (Bring Your Own Key)

Binden Sie ein eigenes LLM über den API-Schlüssel Ihres Providers ein und verstehen Sie, welchen Hosting-Provider und welche Fähigkeits-Flags Sie wählen sollten.

Mit einem eigenen Modell nutzen Sie ein großes Sprachmodell über Ihr eigenes Provider-Konto statt der von DeutschlandGPT bereitgestellten Modelle. Sie wählen einen Hosting-Provider (OpenAI, Anthropic, Azure, Google, AWS Bedrock, Mistral, …), tragen die Modell-ID und Ihre Zugangsdaten ein, und das Modell erscheint wie jedes andere in der Modellauswahl.

So wird Ihr Schlüssel behandelt. Ihr API-Schlüssel (bzw. Ihre Service-Account-Zugangsdaten) wird verschlüsselt gespeichert. Wenn Sie mit einem eigenen Modell chatten, geht die Anfrage mit Ihrem Schlüssel direkt an Ihren Provider — die Nutzung wird also von Ihrem Provider abgerechnet. Da DeutschlandGPT hier nichts berechnet, wird der Preis eines eigenen Modells innerhalb von DeutschlandGPT immer als 0 angezeigt.

Hosting-Provider auswählen

Der Hosting-Provider ist, wer das Modell betreibt — nicht zwingend, wer es entwickelt hat. Die Claude-Modelle von Anthropic sind zum Beispiel direkt über Anthropic, über AWS Bedrock oder über Google Vertex erreichbar. Wählen Sie die Option, die zu dem Konto und den Zugangsdaten passt, die Sie bereits haben.

ProviderWann geeignetBeispiel-Modell-IDBenötigte Zugangsdaten
OpenAISie haben einen OpenAI-API-Schlüssel und nutzen die Standard-Chat-Completions-API.gpt-4oBase URL (Standard https://api.openai.com/v1) + API-Schlüssel
OpenAI (Responses API)Derselbe Schlüssel, aber über OpenAIs neuere Responses API.gpt-4oBase URL + API-Schlüssel
Azure OpenAIIhre OpenAI-Modelle laufen in Ihrer eigenen Azure-Ressource.Ihr Deployment-NameBase URL (Ihr Azure-Endpunkt) + API-Schlüssel
Azure OpenAI (Responses API)Azure-gehostete OpenAI-Modelle über die Responses API.Ihr Deployment-NameBase URL + API-Schlüssel
AnthropicSie haben einen Anthropic-API-Schlüssel für Claude.claude-sonnet-4-5Base URL (Standard https://api.anthropic.com/v1) + API-Schlüssel
Anthropic über Google VertexSie erreichen Claude über Ihr Google-Cloud-/Vertex-Projekt.claude-sonnet-4-5Google-Cloud-Projekt + Service-Account-E-Mail + Region + Service-Account-Private-Key
Google Vertex AISie betreiben Gemini über Google Cloud Vertex.gemini-2.5-proGoogle-Cloud-Projekt + Service-Account-E-Mail + Region + Service-Account-Private-Key
Google AI StudioSie haben einen Google-AI-Studio-API-Schlüssel für Gemini.gemini-2.5-proBase URL (Standard-AI-Studio-Endpunkt) + API-Schlüssel
AWS BedrockSie betreiben Modelle über AWS Bedrock mit IAM-Zugangsdaten.anthropic.claude-3-5-sonnet-20241022-v2:0 (Bedrock-Modell-ID oder vollständige ARN)Region + Access Key ID + Secret Access Key
AWS Bedrock (Mantle)OpenAI-kompatibler Bedrock-Endpunkt mit Bedrock-API-Schlüssel.Bedrock-Modell-IDRegion + API-Schlüssel
MistralSie haben einen Mistral-API-Schlüssel.mistral-large-latestBase URL (Standard https://api.mistral.ai/v1) + API-Schlüssel

Die Modell-ID muss exakt dem Bezeichner entsprechen, den Ihr Provider erwartet. Bei Azure ist das der Deployment-Name, den Sie im Azure-Portal angelegt haben, nicht der Name des Basismodells. Bei AWS Bedrock ist es die Bedrock-Modell-ID oder die vollständige Modell-ARN. Eine falsche ID ist der häufigste Grund, warum ein eigenes Modell nicht antwortet.

Bei den beiden Vertex-Providern (Google Vertex AI und Anthropic über Google Vertex) geben Sie zusätzlich Ihr Google-Cloud-Projekt an — die Projekt-ID, der der Vertex-Endpunkt gehört (z. B. my-gcp-project). Das Feld steht neben Region und Service-Account-Angaben und ist für diese Provider erforderlich.

Fähigkeits-Flags

Unter den Zugangsdaten legen drei Kontrollkästchen fest, was das Modell kann. Sie verändern nicht das Modell, sondern sagen uns, wie wir mit ihm kommunizieren. Aktivieren Sie eines, das das Modell gar nicht unterstützt, können Anfragen fehlschlagen; deaktivieren Sie eines, nutzen wir diese Funktion einfach nicht.

1

Tool-Aufrufe — Erlaubt dem Modell, während eines Chats Tools und Integrationen zu nutzen (Websuche, verbundene Dienste, Workflows und andere Funktionsaufrufe). Für moderne Modelle eingeschaltet lassen. Nur ausschalten, wenn das Modell Tool-Definitionen ablehnt oder ein reines Textmodell ohne Tool-Unterstützung ist.

2

Vision (Bildanalyse) — Erlaubt es, Bilder anzuhängen und vom Modell auswerten zu lassen. Nur einschalten, wenn das Modell tatsächlich Bildeingaben akzeptiert; ein reines Textmodell liefert bei Bildern einen Fehler.

3

Reasoning — Aktiviert erweitertes Nachdenken / die Steuerung des Reasoning-Aufwands für Modelle, die das unterstützen. Bei Anthropic-Modellen wird das korrekte Wire-Format für das Reasoning automatisch aus der Modell-ID erkannt — Sie müssen also nichts weiter konfigurieren, außer dieses Flag zu aktivieren.

Unsicher, ob ein Modell eine Fähigkeit unterstützt? Sehen Sie in der Modelldokumentation Ihres Providers nach. Im Zweifel starten Sie mit Tool-Aufrufe an, Vision an für multimodale Modelle und Reasoning aus und passen es an, sobald Sie Fehler sehen.

Kosten (optional)

Unter den Fähigkeits-Flags können Sie optional Kosten pro 1 Mio. Eingabe-Tokens und Kosten pro 1 Mio. Ausgabe-Tokens in Euro hinterlegen. Diese Werte dienen ausschließlich der internen Kostenzuordnung innerhalb von DeutschlandGPT — für Nutzungsberichte und Kostenauswertungen. Sie ändern nichts an Ihrer Abrechnung: Ihr Provider stellt Ihnen die zugrunde liegenden Aufrufe weiterhin direkt in Rechnung. Lassen Sie beide Felder leer, wenn Sie keine Kostenerfassung benötigen.

War diese Seite hilfreich?