استدعاءات Unlimited AI API: شرح حدود المعدل
هل يمكنك إجراء عدد غير محدود من استدعاءات unlimited ai api؟ لا يوجد حد شهري لاستدعاءات هذه الـ API، ولكن هناك حدان للمعدل: الطلبات في الدقيقة والطلبات في آن واحد. إليك ما تعنيه هاتان القيمتان عملياً وكيفية كتابة كود يبقى ضمنهما.
تم التحديث
نقاط رئيسية
- المفتاح الكامل يسمح بـ 300 طلب في الدقيقة و8 طلبات متزامنة؛ ويسمح مفتاح التجربة بـ 60 و2.
- تعني 429 مع رمز rate_limited تجاوز الحدّ المعدل في الدقيقة؛ ويرمز رمز concurrency إلى تجاوز حدّ الطلبات المتزامنة.
- يحتل طلب البث المتدفق مكان التزامن الخاص به حتى ينتهي البث.
- استخدم مؤشراً بقيمة 8 وأعد المحاولة على استجابة 429 مع تأخير تصاعدي، مع احترام رأس Retry-After.


الحدّان جنباً إلى جنب
للوصول إلى استدعاءات API غير المحدودة من حيث عدم وجود حد شهري، أنت مغطى: الفوترة مسبقة الدفع ووفقًا للرمز، بدون حصة استدعاءات. ما يحدد معدل الإرسال هو زوج من حدود المعدل التي تحمي وحدات معالجة الرسومية المشتركة.
| نوع المفتاح | الطلبات في الدقيقة | طلبات متزامنة |
|---|---|---|
| مفتاح كامل | 300 | 8 |
| مفتاح التجربة | 60 | 2 |
حدود ثابتة أخرى: جسم الطلب يصل إلى 8 MB، ونافذة سياق بحجم 100,000 رمز (الموجّه بالإضافة إلى الإكمال). تنطبق هذه الحدود على كل طلب، وليس في الدقيقة الواحدة.
حدّا المعدل مستقلان. يمكنك تجاوز حدّ التوازي أثناء إرسال 20 طلباً فقط في الدقيقة إذا كان كل طلب يستغرق وقتاً طويلاً، ويمكنك تجاوز الحدّ لكل دقيقة مع استدعاءات سريعة وقصيرة جداً.
ما تعنيه الأرقام للأحمال العملية الحقيقية
طريقة سريعة لتحديد حجم حملك هي قانون ليتل: الطلبات المتزامنة = معدل الوصول × متوسط المدة.
- شات بوت، 100 مستخدم نشط. إذا أرسل كل مستخدم رسالة كل 60 ثانية، فهذا يعني 100 طلب في الدقيقة، وهو أقل بكثير من 300. يستغرق كل رد حوالي 10 ثوانٍ، لذا فإن متوسط التوازي هو (100 / 60) × 10، أي حوالي 17. هذا يتجاوز 8، لذا تحتاج إلى طابور انتظار، وليس مجرد حلقة إعادة محاولة.
- دفعة من 10,000 موجّه قصير. عند 300 في الدقيقة، تكون مدة التشغيل الدنيا هي 10,000 / 300 = 33.3 دقيقة. للوصول إلى 300 في الدقيقة مع 8 فتحات، يجب أن يكون متوسط مدة الاستدعاء 1.6 ثانية (8 × 60 / 300). تؤدي الاستدعاءات الأطول إلى تحويل الاختناق إلى التوازي: عند 8 ثوانٍ لكل استدعاء، تمنح 8 فتحات 60 استدعاء في الدقيقة ويستغرق العمل حوالي 167 دقيقة.
- مطور واحد يكتب سكريبت. طلب أو طلبان في وقت واحد لا يقتربان من أي حد.
الدرس هو أنه بالنسبة إلى التوليد الطويل، يكون التوازي تقريباً دائماً هو الحد الذي تصل إليه أولاً. المخرجات القصيرة تصطدم بسقف الحدّ لكل دقيقة.
قراءة رؤوس حدّ المعدل
يحمل كل استجابة رؤوساً يمكنك تسجيلها أو استخدامها للتكيف:
X-RateLimit-Limit-Requests: حدّك لكل دقيقة.X-RateLimit-Limit-Concurrency: حدّك للتوازي.X-Balance-USD: الرصيد المتبقي.X-Request-Id: اقتبسه للدعم إذا بدا شيء ما خاطئاً.
باستخدام مكتبة Python SDK الخاصة بـ OpenAI، استخدم غلاف الاستجابة الخام لرؤيتها:
from openai import OpenAI
client = OpenAI(base_url="https://api.unlimitedaiapi.com/v1", api_key="YOUR_KEY")
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": "Reply with one word."}],
)
print(raw.headers.get("X-RateLimit-Limit-Requests"))
print(raw.headers.get("X-RateLimit-Limit-Concurrency"))
print(raw.headers.get("X-Balance-USD"))
completion = raw.parse()
print(completion.choices[0].message.content)
تحقق من هذه القيم مرة واحدة عند بدء التشغيل، وحدّ حجم مجموعة العاملين بناءً على قيمة التزامن بدلاً من تعيين ثابت بقيمة 8. بهذه الطريقة، يعمل نفس الكود لكل من مفتاح التجربة والمفتاح الكامل.
ما يخبرك به 429
تجاوز أحد الحدود يعيد استجابة HTTP 429 مع رمز خطأ:
rate_limited: عدد كبير جداً من الطلبات في الدقيقة. قلل السرعة.concurrency: عدد كبير جداً من الطلبات النشطة. انتظر حتى ينتهي أحدها.
تُعيد واجهة برمجة التطبيقات أيضًا 429 مع رأس Retry-After: 5 عندما تكون محمّلة مؤقتًا. في كل الحالات، يكون الرد الصحيح هو نفسه: انتظر، ثم حاول مرة أخرى، باستخدام قيمة الرأس عند وجودها.
فخ واحد مع البث المتدفق: يشغل الطلب المتدفق فتحة التوازي الخاصة به حتى ينتهي البث. إذا فتح العميل تدفقاً ثم توقف عن القراءة، أو ترك واجهة المستخدم الاتصالات معلقة، تظل هذه الفتحات مشغولة. أغلق دائماً التدفقات التي تتخلى عنها.
مشغّل دفعات يحترم كلا الحدّين
يحتفظ هذا السكربت بأقصى حد 8 طلبات نشطة، ويوزّع البدء للحفاظ على أقل من 300 طلب في الدقيقة، ويعيد المحاولة مع تأخير عند استجابة 429. عدّل CONCURRENCY و RPM لمفتاح التجربة.
import asyncio, random
from openai import AsyncOpenAI, RateLimitError
client = AsyncOpenAI(base_url="https://api.unlimitedaiapi.com/v1", api_key="YOUR_KEY", max_retries=0)
CONCURRENCY, RPM = 8, 300
sem = asyncio.Semaphore(CONCURRENCY)
interval = 60 / RPM # 0.2 s between starts
async def call(prompt, attempt=0):
async with sem:
try:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError as e:
if attempt >= 6:
raise
wait = float(e.response.headers.get("Retry-After", 5)) + random.random()
await asyncio.sleep(wait * (1.5 ** attempt))
return await call(prompt, attempt + 1)
async def main(prompts):
tasks = []
for p in prompts:
tasks.append(asyncio.create_task(call(p)))
await asyncio.sleep(interval)
return await asyncio.gather(*tasks)
results = asyncio.run(main(["Summarise: ..."] * 50))
يُفرج عن المؤشر أثناء الانتظار على استجابة 429، لذا تستمر المهام الأخرى في التقدم. تعيين max_retries=0 على العميل يمنع الـ SDK من إجراء إعادة محاولة مخفية فوق إعادة المحاولة الخاصة بك.
نصائح للتصميم للحجم الكبير
- استخدم الطابور، ولا توزع المهام. طابور مهام مع 8 عمال يتفوق على إنشاء خيط لكل طلب وإعادة المحاولة.
- أضف الارتجاج. إذا تأخر العديد من العاملين لنفس المدة، فإنهم يعودون معاً ويتصادمون مرة أخرى.
- حدد الحد الأقصى للمخرجات. تعيين
max_tokensيقلل مدة المكالمة، مما يرفع الإنتاجية الفعالة ضمن حد التزامن. - فضّل الموجّهات الأقل حجماً عندما يسمح العمل بذلك، على سبيل المثال تصنيف 20 عنصر في كل طلب بدلاً من عنصر واحد. هذا يقلل عدد الطلبات بمقدار 20 مرة. انتبه لحد نافذة السياق البالغ 100,000 رمز.
- تتبع التكلفة جنباً إلى جنب مع السرعة. عند $0.15 لكل مليون رمز مدخل و$0.50 لكل مليون رمز مخرج، تبلغ تكلفة مهمة مكونة من 10,000 طلب بحجم 2,000 رمز مدخل و300 رمز مخرج $4.50. انظر صفحة الأسعار لمعرفة مبالغ الشحن والمكافآت.
إذا كانت حدود المفتاح الكامل منخفضة جداً لمنتجك، أخبرنا بذلك عبر صفحة الدعم مع معدل الطلب المتوقع ومتوسط طول المخرجات.
أخطاء شائعة تبدو وكأنها حدود
بعض الفشل يبدو وكأنه حد معدل ولكن له سبب آخر.
عواصف إعادة المحاولة
العميل الذي يعيد المحاولة فوراً عند كل استجابة 429 يجعل المشكلة أسوأ. عشرة عملاء يعيدون المحاولة بدون تأخير يحافظون على عداد الدقائق عند الحد الأقصى، لذا لا ينجح أي منهم. التأخير مع العشوائية ليس خياراً عند الحجم الكبير.
حساب الطلبات، وليس المحاولات
إعادة المحاولة تُحسب كطلبات أيضاً. إذا كان خطتك 300 طلب في الدقيقة و 20% من المكالمات يتم إعادة محاولتها، فإن طلبك الفعلي هو 360. ميزها بتشغيل حلقة البداية عند حوالي 80% من الحد، مثلاً 240 طلب في الدقيقة.
انتهاء المهلة الذي يلغي العمل
إذا استسلم عميلك بعد 30 ثانية بينما الخادم لا يزال يولد، فقد تفتح طلب بديل بينما لا يزال الطلب الأول يحتفظ بمكان. اضبط مهلات العميل لتكون أعلى من أطول مدة تولي متوقعة، أو قلل max_tokens.
اختبار يدوي سريع
لرؤية حد يتم تفعيله عن قصد باستخدام مفتاح تجربة، أرسل ثلاثة طلبات في نفس اللحظة:
for i in 1 2 3; do
curl -s -o /dev/null -w "%{http_code}
" https://api.unlimitedaiapi.com/v1/chat/completions -H "Authorization: Bearer YOUR_KEY" -H "Content-Type: application/json" -d '{"model":"uncensored","messages":[{"role":"user","content":"Write a 300 word story."}]}' &
done; wait
على مفتاح تجربة (2 متزامن)، يجب أن ترى استجابتين 200 واستجابة واحدة 429.
إلى أين تذهب بعد ذلك
احصل على مفتاح من صفحة مفتاح API؛ رصيد التجربة بنقرة واحدة كافٍ لاختبار منطق إعادة المحاولة الخاص بك ضد استجابات 429 الحقيقية، حيث أن حدود مفتاح التجربة البالغ 60 طلب في الدقيقة و 2 متزامن سهلة الوصول إليها عن قصد. يوضح الدليل كل نقطة نهاية، وتوضح ملاحظات LangChain والوكلاء كيفية تحديد التزامن داخل أطر عمل الوكلاء، حيث يمكن أن يؤدي مهمة مستخدم واحدة إلى إنشاء عدة مكالمات متزامنة.
المزيد من الأدلة
أسئلة وأجوبة
هل هناك حد يومي أو شهري على مكالمات API؟
لا. الفوترة مسبقة الدفع لكل رمز ولا يوجد حد للمكالمات. تنطبق فقط حدود الدقيقة والتزامن.
ماذا يحدث عندما أتجاوز 300 طلبًا في الدقيقة؟
تُعيد الـ API استجابة HTTP 429 مع رمز الخطأ rate_limited. انتظر وأعد المحاولة، مستخدمًا رأس Retry-After إذا كان موجودًا.
لماذا أحصل على خطأ في الطلبات المتزامنة مع حركة مرور منخفضة؟
توليدات النصوص الطويلة والدفق المفتوح تحتفظ بفتحة حتى الانتهاء. ثماني طلبات بطيئة تكفي لملء مفتاح كامل، لذا حدّ max_tokens وأغلق الدفقات غير المستخدمة.
هل يتم احتساب رسوم استجابات 429؟
لا. الطلبات الفاشلة أو المرفوضة لا يتم خصم تكلفتها.
مفتاحك على بُعد نموذج واحد
أنشئ حساباً، وانسخ المفتاح، ثم غيّر URL الأساسي. هذه هي الإعدادات الكاملة.