معجم الذكاء الاصطناعي

السلامة الاختبار العدائي (Red Teaming) مهاجمة نظام ذكاء اصطناعي عمداً لكشف إخفاقاته وسلوكياته الضارة قبل إطلاقه. السلامة الإشراف على المحتوى رصد المحتوى الضار، كخطاب الكراهية والعنف والمحتوى الجنسي، وتصفيته في النصوص أو الصور. السلامة التحيّز ظلم منهجي في مخرجات النموذج، يكون غالباً موروثاً من أنماط بيانات تدريبه. السلامة التزييف العميق وسائط اصطناعية واقعية، فيديو أو صوت غالباً، تُظهر شخصاً يقول أو يفعل ما لم يقله أو يفعله. السلامة الذكاء الاصطناعي المسؤول تطوير الذكاء الاصطناعي واستخدامه بطرق عادلة وشفافة وخاضعة للمساءلة وتحترم الخصوصية وآمنة. السلامة الضوابط الوقائية فحوصات وقواعد حول نظام الذكاء الاصطناعي تحجب المدخلات أو المخرجات غير الآمنة وتبقيه ضمن نطاقه المقصود. السلامة العلامة المائية الرقمية تضمين إشارة غير مرئية في الصور أو الأصوات أو النصوص المولّدة بالذكاء الاصطناعي لتمييزها لاحقاً كمحتوى اصطناعي.

السلامة بطاقة النظام مستند ينشره المزوّد مع النموذج يصف قدراته وتقييماته وحدوده واختبارات سلامته.

السلامة تنظيم الذكاء الاصطناعي قوانين تحكم طريقة بناء الذكاء الاصطناعي واستخدامه، مثل قانون الذكاء الاصطناعي الأوروبي الذي يحدد الالتزامات حسب مستوى المخاطر.

السلامة حقن الموجِّهات هجوم تحاول فيه تعليمات مخفية داخل محتوى يقرؤه النموذج، كصفحة ويب أو بريد أو مستند، اختطافَ سلوكه.

السلامة سلامة الذكاء الاصطناعي العمل على منع أنظمة الذكاء الاصطناعي من التسبب في ضرر، سواء بسوء الاستخدام أو الحوادث أو السلوك غير المقصود.

السلامة قابلية التفسير مدى قدرة الناس على فهم سبب إنتاج نظام الذكاء الاصطناعي لمخرَج معين.

السلامة كسر القيود (Jailbreak) موجِّه مصمم لدفع النموذج إلى تجاهل قواعد السلامة وإنتاج محتوى يرفضه عادة.