DE ▾
API-Schlüssel erhalten

LLM-API für Prompts: Schreiben und Verfeinern im Code

Dieser Leitfaden zeigt, wie du eine Text-API nutzt, um Prompts für andere Tools zu schreiben, zu erweitern und umzuschreiben – von einem einzelnen Aufruf bis zu einem Batch mit Tausenden.

Aktualisiert

Terminal, das leuchtende Prompt-Karten auf einem Förderband in eine kameraförmige Maschine schiebt

Wichtige Punkte

  • Ein einzelner Chat-Aufruf verwandelt eine grobe Idee in einen fertigen Prompt; die Modell-ID ist uncensored.
  • Der JSON-Modus gibt Felder zurück, die dein Skript speichern und durchsuchen kann.
  • Ein Voll-Key führt 8 Anfragen gleichzeitig und 300 pro Minute aus; wiederhole 429-Fehler mit Retry-After.
  • Die API schreibt nur Text; du fügst den Prompt in dein Video- oder Bild-Tool ein.

Was eine LLM-API für die Prompt-Arbeit leistet

Eine LLM-API für Prompts ist gut darin, den Teil der Prompt-Arbeit zu erledigen, der Menschen auslaugt: Eine dreiwörtige Idee in eine vollständige Beschreibung verwandeln, zehn Varianten derselben Szene schreiben oder einen Prompt so umschreiben, dass er einem Haus-Stil folgt. Du sendest die grobe Idee und einen Satz Regeln und erhältst fertigen Prompt-Text zurück. Da der Endpunkt OpenAI-kompatibel ist, ist der Code derselbe Chat-Aufruf, den du für jedes andere Modell schreiben würdest.

Zuerst eine Grenze. Dieser Dienst gibt nur Text zurück. Er rendert keine Videos, Bilder oder Audios. Wenn dein Endziel ein Clip aus einem Text-zu-Video-Tool ist, schreibt die API den Prompt, und du fügst diesen Prompt in den Generator deiner Wahl ein oder leitest ihn weiter. Diese Trennung ist bereits für sich genommen nützlich, da das Schreiben von Prompts der langsame, repetitive Schritt ist und Text-Tokens günstig sind.

Das Modell ist ein Open-Weight-Modell, das darauf abgestimmt ist, ohne Inhaltsablehnungen für die rechtmäßige Nutzung durch Erwachsene zu antworten, sodass eine Prompt-Aufgabe zu einer düsteren Thriller-Szene oder einer gewalttätigen Fantasy-Schlacht nicht mit einem Vortrag abgelehnt wird. Die einzige harte Grenze ist, dass nichts, das Minderjährige in sexuellen Inhalten beinhaltet, erzeugt wird.

Ein erster Prompt-Schreib-Aufruf in Python

Installiere das SDK mit pip install openai und verweise es auf die Base URL. Die Modell-ID ist uncensored, und der Schlüssel wird als Bearer-Token übergeben, was das SDK für dich erledigt.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

SYSTEM = (
    "You write prompts for a text-to-video tool. "
    "Given a rough idea, reply with one prompt of 60 to 90 words. "
    "Name the subject, the camera movement, the lighting and the mood. "
    "Reply with the prompt only, no preamble."
)

def expand(idea: str) -> str:
    resp = client.chat.completions.create(
        model="uncensored",
        messages=[
            {"role": "system", "content": SYSTEM},
            {"role": "user", "content": idea},
        ],
        temperature=0.8,
        max_tokens=300,
    )
    return resp.choices[0].message.content.strip()

print(expand("a lighthouse during a storm, seen from a drone"))

Drei Details machen dies besser als ein erster Versuch normalerweise ist. Die Systemnachricht definiert Länge und die Elemente, die jeder Prompt nennen muss, damit die Ausgaben vergleichbar bleiben. Das Setzen von temperature auf etwa 0,8 gibt Variation zwischen den Läufen, ohne von der Idee abzuweichen. Und max_tokens ist hier optional, aber eine Obergrenze von 300 verhindert, dass eine gesprächige Antwort mehr kostet als nötig. Wenn du es weglässt, kann die Vervollständigung den Rest des 100.000-Token-Fensters nutzen.

Wenn du zehn Varianten einer Idee möchtest, loop nicht zehnmal mit denselben Einstellungen und hoffe. Erhöhe entweder die Temperatur und übergebe einen anderen seed pro Aufruf oder fordere zehn nummerierte Prompts in einer Antwort an und teile sie im Code. Die zweite Option ist günstiger, weil die Anweisungen nur einmal gesendet werden.

Strukturierte Prompts mit dem JSON-Modus zurückgeben

Freier Text ist für einen Menschen in Ordnung. Sobald ein Skript die Ausgabe verbraucht, willst du Felder. Der JSON-Modus macht die Antwort zu einem gültigen JSON-Objekt, sodass du den Prompt, die Elemente, die du ausschließen möchtest, und einige Tags lesen kannst, ohne einen zerbrechlichen Parser zu schreiben. Erwähne das Wort JSON und die erwarteten Schlüssel in der Systemnachricht und setze response_format.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)
import json

resp = client.chat.completions.create(
    model="uncensored",
    response_format={"type": "json_object"},
    messages=[
        {
            "role": "system",
            "content": (
                "Return a JSON object with the keys prompt (string), "
                "avoid (string) and tags (list of at most five short strings)."
            ),
        },
        {"role": "user", "content": "a night market in the rain, handheld camera"},
    ],
)

data = json.loads(resp.choices[0].message.content)
print(data["prompt"])
print(data["tags"])

Speichere das Objekt, nicht nur den Text. Eine Tabelle mit Spalten für die Idee, den finalen Prompt, die Tags und das Datum ermöglicht es dir, deine eigene Historie später zu durchsuchen, und macht es leicht zu sehen, welche Anweisungen die Prompts erzeugt haben, die du behalten hast.

Wenn die Ausgabe einem Format folgen muss, das JSON nicht abbildet, wie einer festen Reihenfolge beschrifteter Zeilen, sage dies mit einem konkreten Beispiel innerhalb der Systemnachricht. Modelle kopieren Beispiele zuverlässiger, als sie abstrakte Beschreibungen zu befolgen.

Das Ergebnis für interaktive Tools streamen

Wenn eine Person auf das Ergebnis wartet, zum Beispiel in einem internen Prompt-Tool oder einem Chat-Panel, streamme die Antwort, damit die ersten Wörter sofort erscheinen. Setze stream: true; die Antwort kommt als Server-Sent Events an, und die Nutzung wird am Ende des Streams gemeldet.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)

stream = client.chat.completions.create(
    model="uncensored",
    messages=[
        {"role": "system", "content": "Rewrite the user's prompt to be more specific about camera and light."},
        {"role": "user", "content": "a man walking through a foggy forest"},
    ],
    stream=True,
)

for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)
print()

Denke daran, dass eine gestreamte Anfrage ihren Concurrency-Slot hält, bis der Stream endet. Ein Voll-Key erlaubt 8 Anfragen gleichzeitig, also werden acht Benutzer, die gleichzeitig langsame Streams lesen, einen neunten blockieren. Für ein kleines internes Tool ist das mehr als genug. Für alles Öffentliche, queue Anfragen auf deiner Seite.

Einen Batch innerhalb der Ratenlimits ausführen

Die Prompt-Schreib-Aufgaben, die die meiste Zeit sparen, sind Batches: 500 Produkt-Shots, 200 Szenen-Ideen aus einem Skript, ein ganzer Spreadsheet mit groben Zeilen. Ein Voll-Key erlaubt 8 gleichzeitige Anfragen und 300 Anfragen pro Minute, und ein Trial-Key erlaubt 2 und 60. Ein Thread-Pool, der auf den Key abgestimmt ist, ist die einfachste Möglichkeit, innerhalb beider Zahlen zu bleiben.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veo3apis.com/v1",
    api_key="YOUR_API_KEY",
)
import time
from concurrent.futures import ThreadPoolExecutor
from openai import RateLimitError

SYSTEM = "Turn the idea into one 60 to 90 word video prompt. Reply with the prompt only."

def expand(idea: str) -> str:
    for attempt in range(4):
        try:
            resp = client.chat.completions.create(
                model="uncensored",
                messages=[
                    {"role": "system", "content": SYSTEM},
                    {"role": "user", "content": idea},
                ],
                max_tokens=300,
            )
            return resp.choices[0].message.content.strip()
        except RateLimitError as err:
            wait = int(err.response.headers.get("Retry-After", "5"))
            time.sleep(wait)
    raise RuntimeError("gave up on: " + idea)

ideas = ["a paper boat in a gutter", "a train crossing a salt flat", "a chef plating dessert"]

with ThreadPoolExecutor(max_workers=8) as pool:
    prompts = list(pool.map(expand, ideas))

for idea, prompt in zip(ideas, prompts):
    print(idea, "->", prompt[:80])

Ein 429-Fehler kann zwei Dinge bedeuten. Der Fehlercode rate_limited bedeutet, dass du die Anfragen pro Minute überschritten hast; concurrency bedeutet, dass zu viele Anfragen gleichzeitig liefen. Temporäre Überlastung gibt ebenfalls 429 mit einem Retry-After: 5-Header zurück. Die Schleife oben wartet so lange, wie der Header sagt, und versucht es erneut. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, also verdoppelt ein Retry die Kosten nicht.

Schreibe Ergebnisse während des Laufs auf die Festplatte, eine Zeile pro fertigem Prompt. Eine JSON-Lines-Datei funktioniert gut: ein Objekt pro Zeile, das die Idee, den Prompt und die Zeit enthält, sodass ein abgebrochener Lauf beim erneuten Start überspringen kann, was bereits erledigt ist. Ein Batch mit einigen tausend Aufrufen wird irgendwann einen schlechten Netzwerkzeitpunkt treffen, und du willst nicht von vorne beginnen.

Deinen Styleguide in das 100k-Kontextfenster einfügen

Prompts werden besser, wenn das Modell deine Regeln kennt. Mit einem 100.000-Token-Fenster, Prompt plus Vervollständigung, kannst du viel in die Systemnachricht einfügen: einen Styleguide, eine Liste verbotener Phrasen, zwanzig genehmigte Beispiel-Prompts und ein Glossar, wie dein Team Kamerabewegungen benennt.

Nutze diesen Platz gezielt und behalte eine Regel im Kopf: Das Modell befolgt das, was geschrieben steht, also schreibe Regeln so, als würdest du einen neuen Kollegen instruieren. Eine kurze Liste von fünf hervorragenden Beispielen schlägt fünfzig gemischte, weil das Modell das, was es sieht, mittelt. Setze die Beispiele in dem Format, das du zurückhaben möchtest. Wenn ein Projekt eine wiederkehrende Figur hat, schreibe das Charakterbogen einmal mit Haar, Kleidung und Alter (nur erwachsene Charaktere) in fester Formulierung beschrieben und teile dem Modell mit, diese Wörter wörtlich in jeden Prompt zu kopieren. Dies ist der günstigste Konsistenz-Trick: Dieselbe Phrase erscheint in jedem Prompt, sodass der Generator downstream jedes Mal dieselbe Beschreibung sieht.

Lange Anweisungen werden mit jedem Aufruf erneut gesendet, also werden sie mit jedem Aufruf berechnet. Bei $0,15 pro Million Input-Token kostet ein 3.000-Token-Styleguide $0,00045 pro Anfrage nur an Input. Das ist wenig, aber über 10.000 Anfragen sind es $4,50, also kürze den Guide, sobald er funktioniert. Die Preisseite enthält die vollständigen Preise, wenn du deine eigenen Zahlen berechnen möchtest.

Häufige Probleme und wie man sie behebt

Einige Fehler tauchen immer wieder in Prompt-Schreib-Pipelines auf.

  • Preamble in der Ausgabe. Antworten, die mit "Hier ist dein Prompt:" beginnen, landen im Generator. Beende die Systemnachricht mit "Antworte nur mit dem Prompt" und bereinige das Ergebnis von Leerraum.
  • Prompts, die zu lang sind. Mehr Wörter ergeben nicht immer besseres Video oder Bilder. Setze eine Wortreichweite in den Anweisungen und prüfe sie im Code.
  • Dieselbe Idee, dieselbe Ausgabe. Wenn du seed mit einem festen Wert übergibst, wiederholen sich die Läufe. Ändere den Seed pro Element oder lasse ihn weg, wenn du Variation möchtest.
  • Rollen mischen. Halte Regeln in der Systemnachricht und die Idee in der User-Nachricht. Beides in einen Block zu setzen, lässt das Modell deine Regeln als Inhalt behandeln, den es umschreiben soll.
  • Drift über einen langen Batch. Die Qualität kann nachlassen, wenn dieselben Anweisungen tausende Male ausgeführt werden. Prüfe Stichproben von Anfang, Mitte und Ende des Laufs und halte die Systemnachricht unter Versionskontrolle, damit du weißt, welche Formulierung welchen Batch erzeugt hat.
  • Kein Review-Schritt. Lies eine Stichprobe jedes Batches durch, bevor du Prompts an ein teures Downstream-Tool sendest. Zehn Minuten Lesen sparen viele verschwendete Renders.

Um zu starten, erstelle ein Konto, beanspruche das kostenlose Testguthaben in Höhe von $0,50 auf der API-Schlüssel-Seite und führe das erste Skript oben aus. Das kostenlose Testguthaben gilt einmal pro Person, ist 7 Tage lang gültig und erfordert keine Kreditkarte. Die Dokumentation listet jeden Parameter auf, der durchgereicht wird, einschließlich top_p, stop und der Penalties.

01

Fragen und Antworten

Kann diese API das Video selbst generieren?

Nein. Es generiert nur Text. Nutze es, um den Prompt zu schreiben, und gib diesen dann an das Video-Tool deiner Wahl weiter.

Wie viele Prompts kann ich pro Minute schreiben?

Ein vollständiger API-Schlüssel erlaubt 300 Anfragen pro Minute und 8 gleichzeitig. Ein Test-API-Schlüssel erlaubt 60 pro Minute und 2 gleichzeitig.

Was passiert, wenn ich zu viele Anfragen sende?

Du erhältst HTTP 429 mit dem Code rate_limited oder concurrency. Warte auf den Retry-After-Wert und sende die Anfrage erneut.

Werden meine Prompts zum Training verwendet?

Nein. Prompts werden nicht zum Trainieren verwendet.

Dein Schlüssel ist nur ein Formular entfernt

Erstelle ein Konto, kopiere den Schlüssel, ändere die Basis-URL. Das ist die gesamte Einrichtung.

API-Schlüssel erhaltenLies die Dokumentation