البنية
المحوِّل (Transformer)
بنية الشبكة العصبية التي تقوم عليها جميع النماذج اللغوية الحديثة تقريباً، وأساسها آلية الانتباه.
ظهر المحوّل عام 2017، ويعالج جميع رموز التسلسل بالتوازي مستخدماً الانتباه لتحديد الرموز السابقة المهمة لكل رمز جديد. وتعني GPT «المحوّل التوليدي المدرَّب مسبقاً».
الأسئلة الشائعة
ماذا يعني المحوِّل (Transformer)؟
بنية الشبكة العصبية التي تقوم عليها جميع النماذج اللغوية الحديثة تقريباً، وأساسها آلية الانتباه. ظهر المحوّل عام 2017، ويعالج جميع رموز التسلسل بالتوازي مستخدماً الانتباه لتحديد الرموز السابقة المهمة لكل رمز جديد. وتعني GPT «المحوّل التوليدي المدرَّب مسبقاً».