Epäsuodattamaton LLM API -pika-aloitus

Todennus: API-avaimen asettaminen

API-avaimesi todentaa jokaisen pyynnön. Saat tämän avaimen välittömästi kirjautumisen jälkeen Google- tai sähköpostitilin kautta. Säilytä se turvallisesti, sillä se antaa pääsyn esimaksuttomiin varoihisi. Avain toimii ainoana tunnuksena nopeusrajoituksille ja laskutukselle. Kierrä sitä manuaalisesti hallintapaneelista tarvittaessa, huomioon ottaen, että uusi avain korvaa vanhan välittömästi.

Perus-URL ja päätepisteen rakenne

Perusosoite on HTTPS://api.chatunfiltered.com/v1. Tämä rakenne varmistaa yhteensopivuuden standardien OpenAI-SDK:iden kanssa. Sinun tarvitsee vain vuorovaikutuksessa keskustelutäydennyspäätepisteen kanssa. Upotuksia, kuvagenerointia ja äänenkäsittelyä ei ole saatavilla. Pidä base_url-yhteensopivuus vakiona kaikissa asiakasmäärityksissä välttääksesi reititysvirheet.

Copycurl https://api.chatunfiltered.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Check server status"}]
  }'

Ensimmäisen POST-pyynnön tekeminen

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions tekstin luomiseksi. Sisällytä API-avaimesi Authorization-otsakkeeseen. Aseta malli arvoksi "uncensored" päästäksesi käsiksi omistautuneeseen sensuroimattomaan LLM:ään. Pyyntöruumiin tulee sisältää messages-taulukko, jossa on promptisi. Vastaukset palauttavat token-käytön ja luodun sisällön. Tämä suoraviivainen lähestymistapa minimoi viiveen verrattuna monimalliseen välityspalvelimeen.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.chatunfiltered.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ymmärrä vastausformaatit ja streamaus

Vastaanota vastauksia standardissa JSON-muodossa tai streamaa ne Server-Sent Events -tekniikan avulla. Streamaus mahdollistaa tokenien käsittelyn niiden generoinnin aikana, mikä parantaa havaittua viivettä pitkissä tulosteissa. Streamin viimeinen palautus sisältää pyynnön kokonaiskäytön tarkan laskutuksen varmistamiseksi. Voit myös pakottaa JSON-tilan rakenteisille data-tulosteille. Valitse menetelmä, joka sopii parhaiten sovelluksesi arkkitehtuuriin.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.chatunfiltered.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Parametrien määrittäminen: Lämpötila, Top-P ja Työkalut

Säädä lämpötilaa ja top_p hallitaksesi vastauksien satunnaisuutta. Käytä tool_choicea funktion kutukapasiteetteihin. Malli tukee tiukkaa JSON-tilaa response_formatin kautta. Voit myös asettaa lopetussekvenssit keskeyttämään generoinnin tiettyihin pisteisiin. Nämä parametrit mahdollistavat hienosäätöisen hallinnan sensuroimattoman mallin käyttäytymisessä ilman ulkoisia reitityskerroksia.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Virheenkäsittely ja tokenkäytön seuranta

Käsittele 401-virheet virheellisistä avaimista ja 402-virheet riittämättömästä krediitista. Nopeusrajoitukset palauttavat 429-virheen, kun ylität 300 pyyntöä minuutissa. Kontekstiluukkusi kattaa 100 000 tokeniä syötteessä ja vastauksessa yhdessä. Virheet ja hylkäykset eivät kuluta esimaksukrediittiasi. Seuraa token-käyttöä viimeisessä suoratoistopalautuksessa hallitaksesi kustannuksia tarkasti.