التدريب
المواءمة
جعل أنظمة الذكاء الاصطناعي تسعى إلى الأهداف التي يقصدها مطوروها ومستخدموها، وتتصرف بشكل مفيد وصادق وآمن.
يشمل عمل المواءمة طرق تدريب مثل RLHF، ومبادئ مكتوبة توجّه السلوك، واختبارات للمخرجات الضارة، وأبحاثاً حول كيفية تمثيل النماذج للأهداف.
الأسئلة الشائعة
ماذا يعني المواءمة؟
جعل أنظمة الذكاء الاصطناعي تسعى إلى الأهداف التي يقصدها مطوروها ومستخدموها، وتتصرف بشكل مفيد وصادق وآمن. يشمل عمل المواءمة طرق تدريب مثل RLHF، ومبادئ مكتوبة توجّه السلوك، واختبارات للمخرجات الضارة، وأبحاثاً حول كيفية تمثيل النماذج للأهداف.