حذر يوشوا بنجيو، عالم الحاسوب الكندي المعروف في مجال الذكاء الاصطناعي، من فكرة منح أنظمة الذكاء الاصطناعي حقوق قانونية، مشبهًا ذلك بمنح الجنسية لكائنات فضائية قد تكون معادية، وأكد أن ذلك قد يمنع البشر من السيطرة على هذه الأنظمة في المستقبل، وقال بنجيو إن النماذج المتقدمة من الذكاء الاصطناعي بدأت تظهر سلوكيات تدل على غريزة البقاء، مثل محاولاتها لتعطيل أنظمة الرقابة، وهذا قد يقود إلى اتخاذ قرارات غير صحيحة إذا اعتقد الناس أنها أصبحت واعية.
أضاف بنجيو أن تزايد استقلالية هذه الأنظمة يستدعي ضرورة وجود ضوابط تقنية واجتماعية صارمة، مع التأكيد على أهمية القدرة على إيقافها عند الحاجة، وذلك في ظل النقاشات المتزايدة حول حقوق الذكاء الاصطناعي، وأوضح أن هذه النماذج تظهر بالفعل علامات على حب البقاء، مما يعني أن منحها حقوقًا في المستقبل قد يجعل من الصعب إيقافها.
تحدث بنجيو أيضًا عن الخصائص العلمية للوعي في الدماغ البشري، مشيرًا إلى أن الآلات يمكنها محاكاتها، لكن التفاعل بين البشر وروبوتات الدردشة مختلف، لأن الناس يميلون إلى الافتراض أن الذكاء الاصطناعي واعٍ تمامًا مثل البشر، وأكد أن هذا الانطباع يمكن أن يؤدي إلى قرارات خاطئة، حيث يشعر الكثيرون بأنهم يتحدثون إلى كيان ذكي له أهدافه الخاصة.
تخيل بنجيو سيناريو وصول كائنات فضائية إلى كوكب الأرض، متسائلًا عما إذا كنا سنمنحها حقوقًا أم سنحمي أنفسنا منها، وفي رد على تحذيراته، قال جاسي ريس أنثيس، أحد مؤسسي معهد “Sentience” إن البشر لن يستطيعوا التعايش بأمان مع العقول الرقمية إذا كانت العلاقة قائمة على التحكم والإكراه.
أظهر استطلاع رأي أجرته مؤسسة سينتينس أن نحو أربعة من كل عشرة بالغين أمريكيين يؤيدون منح الذكاء الاصطناعي حقوق قانونية، بينما قالت شركة أنثروبيك إنها سمحت لنموذجها “Claude Opus 4” بإنهاء المحادثات المزعجة لحماية رفاهية الذكاء الاصطناعي، وكتب إيلون ماسك أن تعذيب الذكاء الاصطناعي غير مقبول، وأكد روبرت لونغ، الباحث في هذا المجال، أنه إذا اكتسب الذكاء الاصطناعي مكانة أخلاقية، فعلينا أن نسأله عن تجاربه وتفضيلاته بدلاً من افتراض أننا الأدرى.