معجم الذكاء الاصطناعي

الاستدلال أخذ العينات طريقة اختيار النموذج لكل رمز تالٍ من احتمالاته المتوقعة، بدلاً من أخذ الرمز الأرجح دائماً. الاستدلال إقامة البيانات إبقاء معالجة البيانات داخل منطقة محددة، مثل الاتحاد الأوروبي أو الولايات المتحدة، وكثيراً ما يفرضها القانون أو العقد. الاستدلال الاستضافة الذاتية تشغيل نموذج مفتوح الأوزان على خوادمك أو مثيلاتك السحابية بدلاً من استدعاء واجهة مزوّد. الاستدلال البث المتدفق إرسال مخرجات النموذج إلى المستخدم رمزاً تلو رمز أثناء توليدها، بدلاً من انتظار الإجابة كاملة. الاستدلال الجهد (جهد الاستدلال) إعداد في نماذج الاستدلال يتحكم في مقدار تفكيرها قبل الإجابة، مقايضاً التكلفة والسرعة بالجودة. الاستدلال الحد الأقصى للرموز الحد الذي تضعه لعدد الرموز التي يجوز للنموذج توليدها في إجابة واحدة. الاستدلال الذكاء الاصطناعي على الجهاز تشغيل النماذج مباشرة على الهواتف والحواسيب وغيرها من الأجهزة بدلاً من السحابة. الاستدلال الرموز في الثانية معدل توليد النموذج لمخرجاته، وهو مقياس شائع للسرعة.

الاستدلال تسعير السياق الطويل أسعار أعلى لكل رمز يفرضها بعض المزوّدين حين يتجاوز الطلب الواحد عتبة حجم معينة.

الاستدلال حدّ المعدّل السقف الذي يضعه المزوّد لعدد الطلبات أو الرموز المسموح بها في الدقيقة أو اليوم.

الاستدلال درجة الحرارة إعداد يتحكم في عشوائية مخرجات النموذج: القيم المنخفضة تعطي إجابات مركّزة وقابلة للتكرار، والعالية إجابات أكثر تنوعاً.

الاستدلال رموز التفكير رموز يولّدها نموذج الاستدلال أثناء معالجة المسألة قبل إجابته النهائية، وتُحتسب مخرجات.

الاستدلال زمن الرمز الأول (TTFT) المدة من إرسال الطلب حتى وصول أول رمز من الإجابة.

الاستدلال مفتاح الواجهة البرمجية (API Key) سلسلة سرية تعرّف حسابك عند استدعاء واجهة المزوّد، ومن يملكها يستطيع إنفاق رصيدك.

الاستدلال Top-p (أخذ العينات النووي) إعداد يحصر اختيار النموذج في أصغر مجموعة من الرموز المرجّحة التي يبلغ مجموع احتمالاتها p.