أعلن سام ألتمان عن إنشاء وظيفة جديدة في OpenAI تحمل اسم “رئيس الاستعداد” بهدف مراقبة تطورات أنظمة الذكاء الاصطناعي المتقدمة والتنبؤ بمخاطرها المحتملة قبل وقوعها.
وصف الدور بأنه سيكون ذا ضغط عالٍ، وأن الشخص المناسب يحتاج إلى أعصاب فولاذية وعقل تقني حاد، وربما كوب قهوة قوي لمواجهة ضغوط العمل.
وأوضح أن الشركة تمتلك أساسًا قويًا لقياس قدرات النماذج لكنها بحاجة إلى فهم أعمق لكيفية إساءة استخدامها ووضع آليات تقلل من آثارها السلبية مع الحفاظ على الفوائد الكبيرة التي توفرها هذه التقنيات.
مبادئ رئيس الاستعداد
تؤكد أفكار ألتمان أن الأسئلة صعبة وليست لها سوابق كثيرة؛ فالكثير من الأفكار التي تبدو جيدة قد تواجه حالات استثنائية حقيقية.
تأتي هذه الخطوة في وقت تظهر فيه أنظمة مثل ChatGPT وخلفاؤها قدرات متقدمة في التفكير والتحليل والبرمجة، مع بعض النتائج غير المتوقعة التي قد تكون مقلقة.
كما حذر من أن الأساليب التقليدية للاختبار لم تعد كافية، وأن OpenAI بحاجة إلى نهج أعمق وأكثر تنظيمًا لمراقبة النماذج، مركزًا على ما قد تفعله إذا تُركت دون رقابة.
وبحسب بيان رسمي من OpenAI، سيكون رئيس الاستعداد مسؤولًا عن قيادة الإطار الداخلي لتقييم المخاطر المرتبطة بالذكاء الاصطناعي وبناء نماذج للتهديدات وتطوير آليات أمان قابلة للتوسع.
وسيُشرف على التنسيق بين فرق البحث والهندسة والسياسات والحوكمة لضمان أن السلامة تظل أولوية في جميع مراحل العمل، والمشاركة في اتخاذ قرارات حساسة حول توقيت إطلاق القدرات الجديدة أو إيقافها إذا لزم الأمر.
وأشار ألتمان إلى أن الوظيفة تتطلب معرفة تقنية قوية وخبرة في إدارة المخاطر والقدرة على اتخاذ قرارات حاسمة في ظروف غير واضحة، وأن المرشح المثالي يجب أن يزدهر وسط الغموض ويكون مستعدًا لتحمل مسؤولية الحفاظ على الجيل القادم من أنظمة الذكاء الاصطناعي من الانحراف.
وتبحث OpenAI عن مرشحين لديهم خلفيات في سلامة الذكاء الاصط ai أو الأمن السيبراني أو نمذجة التهديدات، وقادرين على العمل عبر فرق متعددة التخصصات وربط البحث التقني بصناعة القرار الاستراتيجي، ليصبح الشخص المختار الحارس الداخلي لنماذج ChatGPT المستقبلية لضمان توافقها مع القيم والنيات البشرية مع زيادة قدراتها وتعقيدها.
ويرى ألتمان أن هذه الخطوة تمثل تحولًا أكثر رصانة في نهج OpenAI تجاه الابتكار، بعد سنوات من دفع حدود التقنية وإبهار المستخدمين، حيث تولي الشركة الآن اهتمامًا متزايدًا بالاستعداد لما قد يفعله الذكاء الاصطناعي مستقبلًا.
