نموذج لغوي حديث من آبل يكتب نصوصًا طويلة بسرعة فائقة

FS-DFM: توليد سريع ودقيق للنصوص الطويلة باستخدام نماذج لغة الانتشار قليلة الخطوات

تكشف الدراسة الأخيرة أن فريقاً من باحثي أبل وجامعة ولاية أوهايو قدم نموذجاً جديداً يُعرف بمطابقة التدفق المنفصلة قليلة الخطوات، وهو شكل من نماذج الانتشار يهدف إلى توليد النتيجة النهائية دفعة واحدة أو بخطوات قليلة بدلاً من التوليد المتسلسل لكل رمز.

أثبت الباحثون أن FS-DFM قادر على كتابة مقاطع كاملة الطول في ثماني جولات تحسين سريعة، مما يعادل جودة نماذج الانتشار التي كانت تحتاج إلى أكثر من ألف خطوة للوصول إلى نتيجة مماثلة.

اعتمد الباحثون في FS-DFM على نهج مكوَّن من ثلاث خطوات: أولاً، درّبوا النموذج على التعامل مع ميزانيات مختلفة لعدد تكرارات التحسين، ثم استخدموا نموذجاً معلِّماً توجيهياً لمساعدة النموذج على إجراء تحديثات أكبر وأكثر دقة في كل تكرار دون تجاوز النص المقصود، وأخيراً عدّلوا آلية عمل كل تكرار ليصل بالنموذج إلى النتيجة النهائية بخطوات أقل وبثبات أعلى.

أوضح الباحثون أنهم يخططون لإصدار نقاط تحقق للرموز والنماذج لتسهيل إعادة الإنتاج وإجراء مزيد من الأبحاث.