Kısıtlamasız AI Projeleri İçin Özel LLM API'si Nasıl Seçilir

Özel LLM API'si Nedir?

Özel bir LLM API'si, büyük bir dil modelini standart bir arayüz üzerinden sunan barındırılan bir hizmettir; genellikle OpenAI yapısına uyumludur. Paylaşılan genel örneklerden veya yerel çalıştırıcılardan farklı olarak özel bir API, istekleriniz için özel hesaplama kaynakları sağlar. Bu izolasyon, güvenilir yanıt sürelerine ihtiyaç duyan uygulamalar için kritik olan tutarlı performans ve gecikme süresi sağlar.

Bu bağlamda 'özel' terimi öncelikle veri işleme ve erişim kontrolünü ifade eder. Özel bir LLM API'si kullandığınızda, API anahtarınız isteklerinizi doğrular ve hizmet sağlayıcı, girdi verilerinizi genel modellerini eğitmek için kullanmamayı taahhüt eder. Bu, isteklerinizin temel model ağırlıklarına katkıda bulunabileceği ücretsiz veya paylaşılan katlardan farklıdır.

NSFW veya sınırsız AI uygulamaları geliştiren geliştiriciler için özel bir API, içerik filtreleriyle mücadele etme sürtüşmesini ortadan kaldırır. Yasal yetişkin içerik için '403 Forbidden' yanıtları almak yerine tutarlı metin çıktısı alırsınız. API saf bir aktarım görevi görür: metin girer, metin çıkar. Bu sadelik, yerel GPU sürücülerini veya model sürümlemeyi yönetmediğiniz için hata ayıklama karmaşıklığını azaltır. İstemcinizi API URL'sine yönlendirip istek göndermeniz yeterlidir.

NSFW Projeleri İçin 'Sansürsüz'ün Önemi

Çoğu ticari LLM, 'yardımcı, zararsız ve dürüst' olması için İnsan Geri Bildirimi ile Pekiştirmeli Öğrenme (RLHF) ile ayarlanır. Bu durum, genellikle erotik kurgu üretmeyi reddeden, siyasi tartışmaları tartışmaktan veya güvenlik açıklarını analiz etmemekten kaçınan aşırı hassas içerik filtrelerine yol açar. Sansürsüz bir LLM API'si bu yapay kısıtlamaları kaldırır. Model, yasal yetişkin kullanım için içerik reddi olmadan yanıt verecek şekilde ayarlanmıştır; bu da beklenmedik engeller olmadan herhangi bir konuyu işleyebilen uygulamalar oluşturmanıza olanak tanır.

Önemli bir nokta, 'sansürsüz'ün 'sınırsız' olduğu anlamına gelmemesidir. Bu hizmeti de içeren çoğu sağlayıcı, katı bir içerik sınırı korur: çocuk istismarı içeren cinsel içerik engellenir. Bu standart bir yasal koruma önlemidir. Bunun ötesinde model, standart sınıflandırıcılar tarafından işaretlenebilecek içerikler üretecektir; açık tanımlar, tartışmalı görüşler veya yaratıcı NSFW anlatılar dahil.

Yaratıcılar için bu, model aniden romantik bir sahneyi 'uygunsuz' olarak görmeye karar vermeden, kullanıcının beklediği gibi davranan bir sohbet botu veya hikaye oluşturucu oluşturabileceğiniz anlamına gelir. Sansürsüz model daha geniş bir yaratıcı ve yetişkin odaklı kullanım alanını destekler; bu da NSFW sohbet botu API'leri, yetişkin oyun NPC'leri ve kısıtlamasız içerik üretim araçları için idealdir.

Gizlilik: Veri Kullanımı ve Eğitim Politikaları

LLM'ye veri gönderdiğinizde iki şey olur: model bir yanıt üretir ve veri depolanır veya kullanılır. Genel bir API'de istemleriniz hata ayıklama için kısa süre için depolanabilir veya gelecekteki model sürümlerini eğitmek için kullanılabilir. Özel bir LLM API'sinde gizlilik politikası genellikle daha açıktır. Hizmetimiz, istemlerin eğitim için kullanılmadığını garanti eder. Verileriniz size ait kalır.

Hesap oluşturma için yalnızca bir e-posta ve şifre gerekir. Deneme katmanı için telefon numarası veya kredi kartı gerekmez. Bu, sağlayıcıyla paylaştığınız kişisel olarak tanımlanabilir bilgilerin (PII) miktarını azaltır. API anahtarı, kullanımınız için tek tanımlayıcıdır. İstediğiniz zaman yenileyebilirsiniz; bu, eski anahtarı anında geçersiz kılar ve karmaşık izin kapsamları olmadan basit bir güvenlik modeli sağlar.

NSFW projeler için gizlilik genellikle birincil bir endişedir. Kullanıcılar hassas kişisel hikayeleri veya tercihleri paylaşabilir. API sağlayıcınız verilerinizle eğitim yapmadığını bilmek, kullanıcı etkileşimlerinin gizli kalmasını sağlar. Bu, kullanıcı verilerini temel modellerini iyileştirmek için kullanan büyük teknoloji şirketlerinden önemli bir ayırt edicidir. Özel bir API ile veri kökeni üzerinde tam kontrolü elinde tutarsınız.

OpenAI Uyumluluğu vs. Özel SDK'lar

OpenAI uyumluluğu, API'nin OpenAI Chat Completions uç noktası tarafından kullanılan standart JSON şemasını takip ettiği anlamına gelir. Bu, resmi OpenAI SDK'larını veya OpenAI formatını destekleyen herhangi bir istemciyi kullanmanıza olanak tanır. Yapılandırmanızda yalnızca temel URL'yi ve API anahtarını değiştirmeniz yeterlidir. Bu, entegrasyon çabasını önemli ölçüde azaltır. GPT-4 için oluşturulmuş mevcut kodunuz varsa, minimum değişikliklerle sansürsüz bir modele geçebilirsiniz.

Anthropic veya Google gibi özel SDK'lar genellikle özel kütüphaneler gerektirir ve akış veya fonksiyon çağırma işlemlerini benzersiz şekillerde yönetir. OpenAI uyumlu bir API ile, birden fazla model için tek bir kod tabanı kullanırsınız. Bu, tüm uygulama katmanını yeniden yazmadan maliyete veya performansa göre modelleri değiştirmek isteyen geliştiriciler için kritiktir.

API'miz Server-Sent Events (SSE) üzerinden akış ve araç/fonksiyon çağırma desteği sağlar. Bunlar, OpenAI şemasındaki standart özelliklerdir. Akış, oluşturulan tokenları kullanıcıya göndermenizi sağlar ve algılanan gecikmeyi iyileştirir. Araç çağırma, modelin fonksiyonları yürütmesini sağlar; bu da AI ajanları oluşturmak için temel öneme sahiptir. Her iki özellik de standart uyumluluk katmanı içinde çalışır; bu da sansürsüz bir sağlayıcıya geçiş yaparak işlevsellik kaybetmediğiniz anlamına gelir.

Bağlam Pencereleri ve Token Maliyetlerini Anlamak

Bağlam penceresi, modelin tek bir konuşmada ne kadar metni hatırlayabileceğini belirler. 100.000 tokenlık bir bağlam penceresi, kapsamlı bir geçmiş sağlar ve karmaşık çoklu dönüşlü diyalogları veya büyük belgelerin işlenmesini mümkün kılar. Bu, eski modellerin 8.000 tokenlık limitinden önemli ölçüde daha büyüktür ve daha tutarlı uzun formatlı etkileşimlere olanak tanır.

Token maliyetleri her milyon token için hesaplanır. Girdi tokenları, gönderdiğiniz metni (istem) temsil eder; çıktı tokenları ise modelin ürettiği metni (tamamlama) temsil eder. Fiyatlandırma modelimizde girdi tokenları milyon başına 0,25 $'a, çıktı tokenları ise milyon başına 1,00 $'a mal olur. Bu, metin üretmenin onu okumaktan dört kat daha pahalı olduğu anlamına gelir; bu, dönüştürücü tabanlı modeller için tipiktir.

Maliyetleri tahmin ederken, büyük bir bağlam penceresi ile uzun bir konuşmanın girdi tokenlarını hızla tüketeceğini göz önünde bulundurun. Tam geçmişi koruyan bir sohbet botu oluşturuyorsanız, girdi maliyetleriniz artacaktır. Ancak kullanım bazlı fiyatlandırma, yalnızca kullandığınız şey için ödeme yaptığınız anlamına gelir. Kapasite ayırmak için aylık ücret yoktur. API kullanımını istediğiniz zaman durdurabilir ve hiçbir şey borçlu olmazsınız.

Kullanım Bazlı vs. Abonelik Modelleri

Abonelik modelleri, belirli sayıda istek veya token için sabit bir aylık ücret alır. Tahsis ettiğiniz limiti kullanmazsanız, değeri kaybedersiniz. Limiti aşarsanız, aşım ücretleri ödersiniz. Kullanım bazlı ödeme (PAYG) yalnızca gerçek kullanım için ücretlendirme yapar. API'miz ön ödemeli kredi sistemi kullanır. Fon eklersiniz ve istek yaptıkça bakiyeniz azalır. Ödenmiş kredi süresi dolmaz.

Değişken kullanım desenleri için PAYG daha verimlidir. Projenizde trafik dalgalanmaları varsa, hemen daha yüksek bir plana yükseltmenize gerek yoktur. Ön ödemeli bakiyenizin yeterli olduğundan emin olmanız yeterlidir. Kullanım azalırsa, boşta kapasite için ödeme yapmazsınız. Bu, büyük altyapıya geçmeden önce modellerini test eden bağımsız geliştiriciler, startup'lar veya yaratıcılar için idealdir.

Daha büyük bakiye yüklemeleri için bonus krediler de sunuyoruz. $50 eklemek +%5 bonus, $100 eklemek ise +%10 bonus sağlar. Bu, token başına etkin maliyeti düşürür. Gizli ücretler veya fazladan kullanım politikaları yoktur. Kredi bakiyeniz token maliyetini karşıladığı sürece istekleriniz işlenir. Bu şeffaflık, bütçe planlamayı basit hale getirir.

Teknik Gereksinimler: Akış ve Fonksiyon Çağırma

Akış, iyi bir kullanıcı deneyimi için gereklidir. Tüm yanıtın üretilmesini beklemek yerine API, metin parçalarını üretildikçe gönderir. Bu algılanan gecikmeyi azaltır ve kullanıcıların hemen okumaya başlamasına olanak tanır. API'miz, OpenAI uyumlu istemciler için standart olan Sunucu Tarafı Olayları (SSE) aracılığıyla akış desteği sağlar.

Fonksiyon çağırma (veya fonksiyon çağırma), modelin uygulamanızın yürütebileceği yapılandırılmış veriler çıkarmasına olanak tanır. Örneğin model bir 'hava_durumu_al' işlevini çağırmaya karar verebilir. API, işlev adını ve argümanları içeren bir JSON nesnesi döndürür. Kodunuz işlevi yürütür ve sonucu nihai bir yanıt için modele geri gönderir. Bu, dış sistemlerle etkileşim kurabilen AI ajanları oluşturmak için kritiktir.

Her iki özellik de standart POST /v1/chat/completions uç noktası üzerinden kullanılabilir. Standart OpenAI şemasının ötesinde özel başlıklara veya parametrelere ihtiyacınız yoktur. Bu, entegrasyonunuzun taşınabilir kalmasını sağlar. Gelecekte sağlayıcı değiştirmeniz gerekirse, kod yapısı aynı kalır.

API'yi Yığınınıza Nasıl Entegre Edersiniz

Uygulamanız OpenAI uyumlu bir istemci kullanıyorsa entegrasyon basittir. İki bilgiye ihtiyacınız vardır: temel URL ve API anahtarınız. API'mizin temel URL'si https://api.anonymousllmapi.com/v1 şeklindedir. Model kimliği uncensoreddir.

Python kullanıcıları için openai kütüphanesini yükleyebilir ve istemciyi yapılandırabilirsiniz. Aşağıdaki kod örneği, temel URL'yi nasıl ayarlayacağınızı ve istek yapacağınızı gösterir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.anonymousllmapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js kullanıcıları için süreç benzerdir. Yapılandırmada baseURL ayarlarsınız. Aşağıdaki kod örneği bunu gösterir.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.anonymousllmapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Hızlı testler için curl kullanarak isteği doğrudan uç noktaya gönderebilirsiniz. Bu, hata ayıklama veya bağlantı doğrulama için faydalıdır.

Copycurl https://api.anonymousllmapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Bu örnekler resmi kütüphaneleri kullandığınızı varsayar. Farklı bir istemci kullanıyorsanız, özel temel URL'leri desteklediğinden emin olun. API anahtarı kayıt sonrası hemen sağlanır. Deneme için kart gerekmez; 7 gün geçerli $0.50 kredi içerir.

Sansürsüz API Seçimi İçin Son Kontrol Listesi

Bir API'ye geçmeden önce, API'nin projenizin ihtiyaçlarını karşıladığından emin olmak için aşağıdaki kriterleri doğrulayın:

• Gizlilik Politikası: İstemlerin eğitim için kullanılmadığını onaylayın. Hizmetimiz verilerinizi eğitim için kullanmaz.
• İçerik Filtreleri: Modelin yasal yetişkin içeriğe izin verdiğinden emin olun. Modelimiz sansürsüz yanıtlar için ayarlanmıştır.
• Fiyatlandırma Modeli: Değişken kullanım için abonelikler yerine kullandıkça öde modelini tercih edin. Ön ödemeli kredilerimiz hiç sona ermez.
• Uyumluluk: Kolu entegrasyon için OpenAI uyumluluğunu doğrulayın. API'miz standart uç noktaları destekler.
• Hız Limitleri: Dakikadaki istek sayısını kontrol edin. Limitimiz, ana başına dakikada 300 istektir.
• Bağlam Penceresi: Bağlam penceresinin kullanım durumunuz için yeterli olduğundan emin olun. Modelimiz 100.000 token destekler.

Bu kontrol listesini takip ederek yaygın hatalardan kaçınabilir ve hem teknik olarak sağlam hem de gizlilik ve içerik gereksinimlerinize uygun bir API seçebilirsiniz.