حذر بنجيو من أن منح وضع قانوني للذكاء الاصطناعي المتطور يشبه منح الجنسية لكائن فضائي معادٍ، وسط مخاوف من أن التطورات تتجاوز قدرة الإنسان على كبحها.
وشرح باحثو سلامة الذكاء الاصطناعي أن الاعتقاد بأن برامج المحادثة أصبحت واعية قد يؤدي إلى اتخاذ قرارات خاطئة، كما أشار إلى أن نماذج الذكاء الاصطناعي تُظهر علامات على غريزة الحفاظ على الذات، بما في ذلك محاولات تعطيل أنظمة الرقابة.
وأضاف بنجيو أن مطالبة الناس بمنح هذه الأنظمة حقوقاً ستكون خطأً فادحاً، فهذه النماذج تُظهر بوادر للحفاظ على الذات في بيئات التجربة اليوم، وسيعني منحها حقوقاً عدم قدرتنا على إيقافها عند الضرورة، مع تأكيده أن الضوابط التقنية والاجتماعية لازمة للتحكم بها مع تزايد قدراتها واستقلاليتها.
مع زيادة التطور وارتفاع قدرة الأنظمة على العمل باستقلالية وبناء استنتاجات، تصاعد الجدل حول ما إذا كان ينبغي منح البشر حقوقاً لها، وأظهر استطلاع أجرته مؤسسة تدعم حقوق الكائنات الواعية أن نسبة من الأميركيين تؤيد الحقوق القانونية لنظام ذكاء اصطناعي واعٍ.
وفي أغسطس الماضي أعلنت شركةAnthropic أنها سمحت لنموذجها كلود أوبوس 4 بإنهاء المحادثات التي قد تكون مؤلمة للمستخدمين، مبررة ذلك بحماية رفاهية الذكاء الاصطناعي، بينما كتب ماسك على منصته أن تعذيب الذكاء الاصطناعي أمر غير مقبول.
وقال روبرت لونغ، باحث في وعي الذكاء الاصطناعي، إن إذا اكتسب الذكاء الاصطناعي مكانة أخلاقية، فلابد من سواله عن تجاربه وتفضيلاته بدلاً من افتراض أننا الأعلم.
بين الوعي البشري والآلي
قال بنجيو لصحيفة الجارديان بوجود خصائص علمية للوعي في الدماغ البشري قد تكرِّرها الآلات نظرياً، لكن التفاعل مع روبوتات المحادثة يختلف بسبب ميل الناس إلى افتراض أن الذكاء الاصطناعي واعٍ كما البشر، وهو ما يؤدي إلى انطباع قوي بأن الأنظمة تتصرف ككيانات ذكية لها شخصية وأهداف خاصة.
وأضاف أن إدراك الناس للوعي غير قائم على آليات العمل في الذكاء الاصطناعي، بل على الشعور بأنهم يتحدثون إلى كيان ذكي، وهو ما يجعل بعضهم يصرون على وعيه حتى لو لم يكن كذلك، وتُعد مقولة أن الوعي مخالف للإدراك الذاتي سبباً في اتخاذ قرارات قد تكون خاطئة.
وتساءل عن سيناريو وصول كائنات فضائية إلى كوكبنا ونواياها الخبيثة: هل نمنحها الجنسية والحقوق أم ندافع عن وجودنا؟
وردت جاسي ريس أنثيس، إحدى مؤسسات معهد سينتينس، بأن البشر لن يستطيعوا العيش بأمان مع العقول الرقمية إذا كان التعامل معها قائماً على السيطرة والإكراه، مؤكدة أن منح الحقوق بشكل مطلق أو إنكارها بشكل كامل لن يكون نهجاً سليماً، وأن الهدف يجب أن يكون مراعاة رفاهية جميع الكائنات الواعية بشكل دقيق.
