Gyors bevezetés: Integálja az uncensored LLM-t percek alatt

Beállítás: base_url és API-kulcs konfigurálása

Konfigurálja környezetét az alap URL-címmel és egy generált API-kulccsal a kérdések azonnali küldéséhez. A végpont a HTTPS://api.norestrictai.com/v1 címen található, amely teljesen kompatibilis a hivatalos OpenAI SDK-kkal és a legtöbb harmadik féltől származó ügyfélprogrammal. Kulcsot azonnal generálhat Google-hitelesítéssel vagy e-maillel, telefonszám megadása nélkül. Ez a kulcs hitelesíti az összes későbbi kérést, és felülírja a korábbi kulcsot, ha újragenerálja azt. Nem követjük nyomon a promptjait képzés céljából, így adatai privát maradnak, miközben különböző paramétereket tesztel.

Az első kérés küldése: a /v1/chat/completions végpont

Küldje el az első kérését a /v1/chat/completions végpontra a preferált HTTP kliensével vagy SDK-jával. A modell azonosítója "uncensored", amelyet úgy hangoltak, hogy tartalom-elutasítás nélkül válaszoljon jogszerű felnőtt tartalmakra. Az Authorization fejlécben Bearer tokenként kell megadnia az API kulcsát. Ez az egyetlen végpont kezeli az összes szöveggenerálást, külön hívások nélkül az embeddingekhez vagy képfeldolgozáshoz.

Íme egy alap példa cURL-lel:

Copycurl https://api.norestrictai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 12"}]
  }'

Ez a kérés bemutatja a válasz kapásához szükséges minimális struktúrát. A rendszerüzenet (system prompt) beállításával meghatározhatja a modell viselkedését az Ön specifikus felhasználási esetéhez. A válasz a generált szöveget tartalmazza a choices tömbben.

Streamelt válaszok: a SSE darabkák hatékony kezelése

Kezelje hatékonyan a streamelő válaszokat az Server-Sent Events (SSE) darabok olvasásával azok generálása során. Ez a megközelítés csökkenti a felhasználók számára észlelt késleltetést, mivel a tartalmat fokozatosan továbbítja, ahelyett, hogy várna a teljes befejezésre. Minden darab a szöveg egy kis részét tartalmazza, lehetővé téve az eredmények valós idejű megjelenítését. Az utolsó darab tartalmazza a teljes token-felhasználási statisztikát a pontos számlázás érdekében. Ez a módszer különösen hasznos hosszú formátumú generáláshoz vagy interaktív chat felületekhez.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Győződjön meg arról, hogy az ügyfél helyesen kezeli a részleges darabokat a összefűzési hibák elkerülése érdekében. A streamelési válasz ugyanazt a struktúrát tartja meg, mint a nem streamelő válaszok, de folyamatos áramlásban adja át az adatokat.

Haladó paraméterek: hőmérséklet, top_p és seed vezérlés

A kimenetek kreativitásának és reprodukálhatóságának szabályozása temperature, top_p és seed paraméterekkel. A temperature szabályozza a modell véletlenszerűségét, az alacsonyabb értékek determinisztikusabb eredményeket adnak. A top_p korlátozza a nucleus mintavételezést egy bizonyos valószínűségi tömegre, finomítva a tokenek diverzitását. A seed paraméter lehetővé teszi specifikus kimenetek reprodukálását tesztelés vagy hibakeresés céljából. Ezek a paraméterek együtt működnek a modell viselkedésének finomhangolásához további konfiguráció nélkül.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.norestrictai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

A Python SDK használata egyszerűsíti a paraméterátadást és a válaszkezelést. Ezeket az értékeket dinamikusan beállíthatja az alkalmazása kontextusától függően. Próbáljon ki különböző kombinációkat, hogy megtalálja a koherencia és a kreativitás optimális egyensúlyát.

Szerkezetett kimenet: a JSON mód kényszerítése a megbízhatóság érdekében

Erőszakolja meg a strukturált JSON kimenetet a response_format paraméter json_object értékre állításával. Ez a funkció biztosítja, hogy a modell érvényes JSON-t adjon vissza, ami kritikus fontosságú az alacsonyabb szintű alkalmazásokkal vagy adatbázisokkal való integrációhoz. Definálhat egy sémát a rendszer promptjában, hogy irányítsa a modell struktúráját. Ez csökkenti az elemzési hibákat és egyszerűsíti az adat kinyerését a válaszból. Különösen hasznos adatvezérelt tartalom vagy API válaszok generálásához.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.norestrictai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

A Node SDK kényelmes módszereket biztosít a JSON feldolgozáshoz és validáláshoz. Könnyen integrálhatod meglévő munkafolyamataidba. Győződj meg róla, hogy a promptok egyértelműek a várt szerkezettel kapcsolatban a megbízhatóság maximalizálása érdekében.

Tool use: a function calling és tool_choice engedélyezése

Függvényhívás engedélyezése, hogy a modell külső eszközöket vagy függvényeket hívjon meg a felhasználói bemenet alapján. Definálhat egy eszközöket tartalmazó készletet sémákkal és leírásokkal a kérésben. A modell dönti el, mikor hívjon eszközt, és adja át a szükséges argumentumokat. Ez a képesség kiterjeszti a modell használatát a egyszerű szöveggeneráción túl. Az eszköz kiválasztását a tool_choice paraméterrel vezérelheti, hogy kényszerítsen vagy engedélyezzen bizonyos viselkedéseket. Ez a funkció elengedhetetlen agens alkalmazások vagy összetett munkafolyamatok építéséhez.