Wozu wird das ChatGPT-Plug-in verwendet?

Das Plug-in ermöglicht Ihnen, innerhalb translate5 Sprachressourcen zu erstellen, trainieren und verwenden, die auf Large Language Models (LLM) basieren. Es kann also aus verschiedenen, teilweise trainierbaren GPT-Modellen ausgewählt werden, die als Grundlage für eine Sprachressource dienen. Danach können diese LLM-Sprachressourcen bei Bedarf mit Prompts und auch Übersetzungsbeispielen trainiert werden. Zusätzlich können je LLM-Sprachressource über die Parameter „Temperature“, Top‑p, Presence und Frequency feingetuned feingetunt werden.

Bereiche und Übersichten

In translate5 gibt es folgende Bereiche, die für die Verwaltung von GPT-Modellen relevant sind:

• Die Sprachressourcenverwaltung:
  Hier werden auf GPT-Modellen basierende Sprachressourcen erstellt.
• Das Fenster „OpenAI Model anpassen“: 
  Wird in der Sprachressourcenverwaltung aufgerufen und bietet die Möglichkeit, das Modell anhand verschiedener Parameter feintunen.
• Das Fenster „OpenAI Model trainieren“:
  Wird in der Sprachressourcenverwaltung aufgerufen und bietet die Möglichkeit, das Modell mit Prompts und Translation Memorys zu testen und zu trainieren.
• In der Einstellungen unter „Promptverwaltung“:
  Hier werden Prompts erfasst, die als Anweisungen verwendet werden können, wenn mit GPT-Modellen vorübersetzt wird.

Verfügbare Engines/Modelle

OpenAI

Die verfügbaren Modelle werden laufend von OpenAI abgefragt und entsprechen daher dem, was dort jeweils aktuell verfügbar ist.

Azure

Hier sind diejenigen Modelle verfügbar, die Sie in Ihrer AzureCloud verfügbar haben.

GPT-Sprachressource verwalten

Für GPT-Sprachressourcen gibt es folgende Optionen in der Sprachressourcenverwaltung:

Parameter für das Feintuning

Anchor
finetuning_parametres finetuning_parametres

Wie kreativ soll übersetzt werden?

Generation sensitivity / Temperature

Anchor
parametre_temperature parametre_temperature

Dieser Parameter bestimmt, wie „zufällig“ oder „kreativ“ das Sprachmodell bei der Texterzeugung sein soll. Eine niedrige Temperature bedeutet dabei, dass das Modell eher sachlich, vorausschaubar übersetzt, eine höhere Temperatur, dass es sehr kreativ und damit auch unvorhersehbar übersetzen kann. 

Probability threshold / Top P

Anchor
parametre_topP parametre_topP

Der Parameter „Top P“ (auch als „nucleus sampling“ bezeichnet) ist eine nuancierte Alternative zur temperatur-basierten Probenahme. Er ist wie ein „Scheinwerfer“, der die wahrscheinlichen Wörter hervorhebt. Bei einem Standardwert von 1.0 werden alle Wörter berücksichtigt. Dieser Parameter kann dazu beitragen, die Verteilung der Wortwahl zu steuern und so die Relevanz und Kohärenz des generierten Textes zu gewährleisten.

Wie abwechslungsreich soll übersetzt werden?

Presence Penalty

Anchor
parametre_presence-penalty parametre_presence-penalty

Dieser Parameter wird dazu verwendet, das Modell dazu anzuregen, eine breite Palette an Tokens in den generierten Text aufzunehmen. Es handelt sich um einen Wert, der von der Log-Wahrscheinlichkeit eines Tokens jedes Mal abgezogen wird, wenn dieser generiert wird. Ein höherer Presence Penalty-Wert führt dazu, dass das Modell eher dazu neigt, Tokens zu generieren, die noch nicht im generierten Text enthalten sind. 

Frequency Penalty

Anchor
parametre_frequency-penalty parametre_frequency-penalty

Dieser Parameter wird dazu verwendet, das Modell daran zu hindern, innerhalb des generierten Textes zu häufig dieselben Wörter oder Phrasen zu verwenden. Es handelt sich um einen Wert, der jedes Mal zur Log-Wahrscheinlichkeit eines Tokens hinzugefügt wird, wenn dieser im generierten Text auftritt. Ein höherer Frequency Penalty-Wert für führt dazu, dass das Modell bei der Verwendung wiederkehrender Tokens vorsichtiger vorgeht. 

Max. target tokens (% of source tokens)

Anchor
parametre_max-target-tokens parametre_max-target-tokens

Ein GPT-Modell hat immer eine maximale Anzahl von Tokens, die in einer einzigen Anfrage verwendet werden können. Diese Anzahl berechnet sich als Summe der gesendeten Tokens und der zurückgegebenen Tokens. Für eine (Vor-)Übersetzung sind dies die Systemnachricht und der zu übersetzende Text oder Batch plus die zurückgegebenen Übersetzungen. Daher ist ein Verhältnis notwendig, um in einer gesendeten Anfrage „Platz“ für die generierte Übersetzung zu schaffen. Dies ist nur für Batch-Übersetzungen relevant, wie sie bei der Vorübersetzung verwendet werden.

Promptverwaltung

Anchor
manage_prompts manage_prompts