Panduan Awal API LLM Tanpa Sensor

Pengesahan: Menetapkan Kunci API anda

Kunci API anda mengesahkan setiap permintaan. Anda menerima kunci ini serta-merta selepas mendaftar dengan Google atau alamat e-mel. Jaga ia dengan selamat, kerana ia memberikan akses kepada kredit pra-dibayar anda. Kunci bertindak sebagai pengenal tunggal anda untuk had kadar dan bil. Putar secara manual melalui papan pemuka jika perlu, dengan mengambil perhatian bahawa kunci baharu menggantikan yang lama serta-merta.

Struktur URL Asas dan Hujung

URL asas ialah HTTPS://api.chatunfiltered.com/v1. Struktur ini memastikan keserasian dengan SDK OpenAI piawai. Anda hanya perlu berinteraksi dengan pengepala penyelesaian sembang. Embedding, penjanaan imej, dan pemprosesan audio tidak tersedia. Kekalkan URL asas anda konsisten merentasi semua konfigurasi klien untuk mengelakkan kesilapan pengalihan.

Copycurl https://api.chatunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server status"}]
  }'

Membuat Permintaan POST Pertama Anda

Hantar permintaan POST ke /v1/chat/completions untuk menjana teks. Sertakan kunci API anda dalam header Authorization. Tetapkan model kepada "uncensored" untuk mengakses LLM tanpa sensor yang khusus. Badan permintaan mesti mengandungi larik mesej dengan arahan anda. Respons mengembalikan penggunaan token dan kandungan yang dijana. Pendekatan langsung ini meminimumkan latensi berbanding proksi berbilang model.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Memahami Format Respons dan Aliran

Terima respons dalam format JSON piawai atau strimkannya melalui Server-Sent Events. Penstriman membolehkan anda memproses token semasa ia dijana, yang meningkatkan latensi yang dirasakan untuk output panjang. Chunk terakhir dalam aliran mengandungi jumlah penggunaan token untuk pengebilan yang tepat. Anda juga boleh memaksakan mod JSON untuk output data berstruktur. Pilih kaedah yang paling sesuai dengan seni bina aplikasi anda.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Mengkonfigurasi Parameter: Suhu, Top-P, dan Alat

Laraskan suhu dan top_p untuk mengawal keacakan respons. Gunakan tool_choice untuk keupayaan panggilan fungsi. Model ini menyokong mod JSON yang ketat melalui response_format. Anda juga boleh menetapkan jeda henti untuk menghentikan penjanaan pada titik tertentu. Parameter ini membolehkan kawalan halus terhadap tingkah laku model tanpa sensor tanpa lapisan perutean luar.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pengendalian Ralat dan Penjejakan Penggunaan Token

Tangani ralat 401 untuk kunci tidak sah dan ralat 402 untuk kredit tidak mencukupi. Had kadar mengembalikan 429 apabila anda melebihi 300 permintaan setiap minit. Tetingkap konteks anda merangkumi 100,000 token untuk prompt dan penyelesaian digabungkan. Ralat dan penolakan tidak menggunakan kredit pra-dibayar anda. Jejak penggunaan token dalam pecahan aliran akhir untuk mengurus kos dengan tepat.