Einsatz von OpenAI-GPT-Modellen in translate5
Azure ermöglicht über den Azure OpenAI Service den direkten Zugriff auf OpenAI-Modelle in der Microsoft Azure Cloud. Auf dieser Seite finden Sie Informationen zur Konfiguration und Einrichtung des Plug-ins für dieses Setup.
Einstellungen in der Systemkonfiguration
Die Azure-Integration von translate5 hat ihre eigenen spezifischen Konfigurationen, die sich aus den Anforderungen von Azure ergeben, um mit dem zu arbeiten, was translate5 für GPT bietet. Nach der Aktivierung des OpenAI-Plug-ins müssen in der translate5-Systemkonfiguration unter „System setup: Language resouces“ die hier aufgeführten Einstellungen gesetzt werden.
| Alle Konfigurationswerte sind auf https://portal.azure.com einsehbar. Sollten Sie bereits eine App mit einem Modell bereitgestellt haben, können Sie die vorhandenen Konfigurationswerte verwenden. Wenn nicht, können Sie die notwendigen Ressourcen über diesen kurzen Workflow generieren. |
|---|
| Bezeichnung | Systemkonfiguration-ID in translate5 | Erläuterung | Wo finde ich die entsprechende Information in der Azure Cloud? |
|---|---|---|---|
| Subscription ID | runtimeOptions.plugins.OpenAI.Azure.subscriptionId | ID des für die GPT-Anwendung in Azure verwendeten Abonnements | Home > Subscriptions |
| Resource group name | runtimeOptions.plugins.OpenAI.Azure.resourceGroupName | Name der für die GPT-Anwendung in Azure verwendeten Ressourcengruppe | Search > Resource groups > Create |
| Account name | runtimeOptions.plugins.OpenAI.Azure.accountName | Kontoname, der auch als Teil des individuellen Domänennamens in Azure verwendet wird. | Navigieren Sie zu ai.azure.com und wählen Sie die gewünschte Anwendung (wenn mehr als eine vorhanden ist). Den Accountnamen können Sie jetzt in der Adressleiste des Browsers herauslesen, nach dem Abschnitt „accounts/“. |
Tenant ID | runtimeOptions.plugins.OpenAI.Azure.tenantId | ID des (Tenant)-Verzeichnisses | Search > Microsoft Entra ID > Manage > App registrations > %YOUR APP% > Overview |
Client ID | runtimeOptions.plugins.OpenAI.Azure.clientId | ID der (Client)-Anwendung | Search > Microsoft Entra ID > Manage > App registrations > %YOUR APP% > Overview |
Client secret | runtimeOptions.plugins.OpenAI.Azure.clientSecret | Client Secret für den Zugriff auf das Ressourcenmanagement | Search > Microsoft Entra ID > Manage > App registrations > %YOUR APP% > Manage > Certificates and secrets |
Deployment type | runtimeOptions.plugins.OpenAI.Azure.deploymentType | Deployment-Typ (Stock Keeping Unit, SKU) | Siehe https://learn.microsoft.com/en-us/azure/ai-foundry/model-inference/concepts/deployment-types; meist „standard“. |
Server | runtimeOptions.plugins.OpenAI.server | API-Endpunkt, an den Chat-Abschlussanfragen gesendet werden. | https://ai.azure.com/ > Home > Azure OpenAI endpoint (Wichtig: Am Ende der URL muss „/openai“ enthalten sein) |
API token | runtimeOptions.plugins.OpenAI.apiToken | API-Zugriffstoken | https://ai.azure.com/ > Home > API key (1/2) |
| Nach dem Erstellen einer Sprachressource erstellt translate5 automatisch eine Modellbereitstellung der ausgewählten Azure-Cloud-Modellinstanz. Der Name der Bereitstellung enthält die ID der translate5-Sprachressource, um eine einfache Zuordnung zu ermöglichen. Auch nach dem Löschen der Sprachressource bleibt das bereitgestellte Modell bestehen. (Ein automatisches Löschen könnte implementiert werden, falls dies sinnvoll erscheint.) |
|---|---|
| Beim Training eines Modells wird nach Abschluss des Finetuning-Vorgangs eine neue Bereitstellung erstellt. Bitte beachten Sie, dass laut Azure-Dokumentation gilt: „Nachdem Sie ein angepasstes Modell bereitgestellt haben, wird die Bereitstellung gelöscht, wenn sie länger als fünfzehn (15) Tage inaktiv bleibt. Eine Bereitstellung eines angepassten Modells gilt als inaktiv, wenn sie seit mehr als fünfzehn (15) Tagen besteht und innerhalb eines ununterbrochenen Zeitraums von 15 Tagen keine Abfragen über Completions oder Chat Completions an sie gesendet wurden. Das Löschen einer inaktiven Bereitstellung hat keinen Einfluss auf das zugrunde liegende angepasste Modell – dieses bleibt erhalten und kann jederzeit erneut bereitgestellt werden.“ |
Workflow für die Erstellung aller benötigten Ressourcen in Azure
- Erstellen Sie ein Abonnement über „Home“ > „Subscriptions“ > „Add“
- Erstellen Sie eine Ressourcengruppe über „Search“ > „Resource groups“ > „Create“
- Erstellen Sie eine Ressource über „All resources“ > „Create“ > „AI + Machine learning“ > „Azure OpenAI“ > „Create“