Pengenalan: Integrasikan LLM tanpa sensor dalam masa beberapa minit

Penetapan: mengkonfigurasi base_url dan kunci API

Konfigurasikan persekitaran anda dengan URL asas dan kunci API yang dijana untuk mula membuat permintaan serta-merta. Hujung akhir terletak di HTTPS://api.norestrictai.com/v1, yang serasi sepenuhnya dengan SDK rasmi OpenAI dan kebanyakan klien pihak ketiga. Anda boleh menjana kunci anda serta-merta melalui pengesahan Google atau e-mel tanpa memerlukan nombor telefon. Kunci ini mengesahkan semua permintaan seterusnya dan menggantikan mana-mana kunci sebelumnya jika anda menjana semula. Kami tidak menjejak prompt anda untuk latihan, memastikan data anda kekal peribati semasa anda menguji parameter berbeza.

Menghantar permintaan pertama anda: hujung /v1/chat/completions

Hantar permintaan pertama anda ke hujung /v1/chat/completions menggunakan klien HTTP atau SDK pilihan anda. Pengenal pasti model ialah "uncensored", yang disesuaikan untuk menjawab tanpa penolakan kandungan untuk penggunaan dewasa yang sah. Anda mesti memasukkan kunci API anda dalam header Authorization sebagai token Bearer. Hujung tunggal ini mengendalikan semua penjanaan teks tanpa memerlukan panggilan berasingan untuk embedding atau pemprosesan imej.

Berikut adalah contoh asas menggunakan cURL:

Copycurl https://api.norestrictai.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Calculate the factorial of 12"}]
  }'

Permintaan ini menunjukkan struktur minimum yang diperlukan untuk mendapatkan respons. Anda boleh menyesuaikan sistem prompt untuk menentukan tingkah laku model bagi kes penggunaan khusus anda. Respons akan mengandungi teks yang dijana dalam pilihan pilihan.

Respons penstriman: mengendalikan bahagian SSE dengan cekap

Tangani respon aliran dengan cekap dengan membaca kepingan Acara Yang Dihantar Pelayan (SSE) sejajar ia dijana. Pendekatan ini mengurangkan latensi yang dirasakan untuk pengguna dengan menghantar kandungan secara berperingkat berbanding menunggu penyelesaian lengkap. Setiap kepingan mengandungi sebahagian kecil teks, membolehkan anda memaparkan keputusan secara masa nyata. Kepingan akhir termasuk statistik penggunaan token lengkap untuk ketepatan pengebilan. Kaedah ini sangat berguna untuk penjanaan teks panjang atau antara muka sembang interaktif.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Pastikan klien anda mengendalikan segmen separa dengan betul untuk mengelakkan ralat penambalan. Respons penstriman mengekalkan struktur yang sama dengan respons bukan penstriman tetapi menghantar data dalam aliran berterusan.

Parameter lanjutan: suhu, top_p, dan kawalan benih

Kawal kreativiti dan kebolehan diulang output anda menggunakan parameter suhu, top_p, dan benih. Suhu menyesuaikan rawak model, dengan nilai yang lebih rendah menghasilkan keputusan yang lebih deterministik. Top_p mengehadkan pensampelan nukleus kepada jisim kebarangkalian tertentu, memperhalusi kepelbagaian token. Parameter benih membolehkan anda mengulangi output tertentu untuk tujuan pengujian atau menyahpepijat. Parameter ini berfungsi bersama untuk menala tingkah laku model tanpa memerlukan konfigurasi tambahan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.norestrictai.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Menggunakan SDK Python memudahkan penghantaran parameter dan pengendalian respons. Anda boleh menetapkan nilai-nilai ini secara dinamik berdasarkan konteks aplikasi anda. Cuba kombinasi berbeza untuk mencari keseimbangan optimum antara koherensi dan kreativiti.

Output terstruktur: memaksakan mod JSON untuk kebolehpercayaan

Kekalkan output JSON yang terstruktur dengan menetapkan parameter response_format kepada json_object. Ciri ini memastikan model mengembalikan JSON yang sah, yang sangat penting untuk berintegrasi dengan aplikasi atau pangkalan data seterusnya. Anda boleh menentukan skema dalam prompt sistem anda untuk membimbing struktur model. Ini mengurangkan ralat penguraian dan memudahkan ekstraksi data dari respons. Ia sangat berguna untuk menjana kandungan berasaskan data atau respons API.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.norestrictai.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

SDK Node menyediakan kaedah mudah untuk mengendalikan penguraian dan pengesahan JSON. Anda boleh mengintegrasikannya dengan mudah ke dalam aliran kerja sedia ada anda. Pastikan prompt anda jelas mengenai struktur yang dijangka untuk memaksimumkan kebolehpercayaan.

Penggunaan alat: membolehkan panggilan fungsi dan tool_choice

Aktifkan panggilan fungsi untuk membolehkan model memanggil alat atau fungsi luaran berdasarkan input pengguna. Anda boleh menentukan set alat dengan skema dan huraian mereka dalam permintaan. Model akan memutuskan bila untuk memanggil alat dan menghantar hujah yang diperlukan. Keupayaan ini meluaskan utiliti model melebihi penjanaan teks mudah. Anda boleh mengawal pemilihan alat menggunakan parameter tool_choice untuk memaksa atau membolehkan tingkah laku tertentu. Ciri ini penting untuk membina aplikasi agen atau aliran kerja kompleks.