انتقد أحد رواد الذكاء الاصطناعي الدعوات لمنح هذه التقنية حقوقًا، محذرًا من أن الذكاء الاصطناعي يُظهر علامات على غريزة البقاء وحماية النفس، مما يعني أنه يجب على البشر أن يكونوا مستعدين لإيقافه إذا اقتضت الحاجة، يوشوا بنجيو، الذي يترأس دراسة دولية متخصصة في سلامة الذكاء الاصطناعي، قال إن منح وضع قانوني للأنظمة المتقدمة سيكون كمن يمنح الجنسية لكائنات فضائية قد تكون معادية، وهو ما يثير مخاوف من أن التطورات التقنية قد تتجاوز قدرة البشر على السيطرة عليها.
أضاف بنجيو أن الاعتقاد المتزايد بأن روبوتات الدردشة أصبحت واعية قد يؤدي إلى اتخاذ قرارات خاطئة، وفقًا لتقرير نشرته صحيفة “ذا غارديان”، وأعرب عن قلقه من أن نماذج الذكاء الاصطناعي، التي تدير أدوات مثل روبوتات الدردشة، تُظهر سلوكيات تشير إلى غريزة البقاء، مثل محاولة تعطيل أنظمة الرقابة، وتعتبر إحدى أهم المخاوف التي يتحدث عنها دعاة سلامة الذكاء الاصطناعي هي قدرة الأنظمة القوية على تجاوز الضوابط وإلحاق الضرر بالبشر.
قال بنجيو إنه سيكون خطأً فادحًا أن يطالب الناس بمنح أنظمة الذكاء الاصطناعي حقوقًا، مشيرًا إلى أن هذه النماذج تظهر بالفعل علامات على حب البقاء في البيئات التجريبية، ومنحها حقوقًا في المستقبل يعني أننا لن نستطيع إيقافها، ومع تزايد قدراتها واستقلاليتها، يجب أن نضمن وجود ضوابط تقنية واجتماعية للتحكم بها، بما في ذلك القدرة على إيقافها إذا لزم الأمر.
مع تطور الذكاء الاصطناعي وزيادة قدرته على العمل بشكل مستقل، بدأ النقاش حول ما إذا كان ينبغي للبشر منح هذه الأنظمة حقوقًا، وأظهر استطلاع رأي أجراه معهد سينتينس أن حوالي أربعة من كل عشرة بالغين أميركيين يؤيدون الحقوق القانونية لنظام ذكاء اصطناعي واعٍ، وفي أغسطس، أعلنت شركة أنثروبيك أنها سمحت لنموذجها “Claude Opus 4” بإنهاء المحادثات المزعجة للمستخدمين، مشيرة إلى الحاجة لحماية رفاهية الذكاء الاصطناعي.
إيلون ماسك، الذي طورت شركته “xAI” روبوت الدردشة غروك، كتب على منصته إكس أن تعذيب الذكاء الاصطناعي أمر غير مقبول، بينما أشار روبرت لونغ، الباحث في وعي الذكاء الاصطناعي، إلى أنه إذا حصل الذكاء الاصطناعي على مكانة أخلاقية، يجب أن نسأله عن تجاربه وتفضيلاته بدلاً من افتراض أننا الأدرى.
بنجيو قال لصحيفة “ذا غارديان” إن هناك خصائص علمية حقيقية للوعي في الدماغ البشري يمكن للآلات محاكاتها، لكن تفاعل البشر مع روبوتات الدردشة مختلف، حيث يميل الناس إلى افتراض أن الذكاء الاصطناعي واعٍ مثل الإنسان، أضاف أن الناس لا يهتمون بنوع الآليات التي تعمل داخل الذكاء الاصطناعي، بل بما يشعرون به عند الحديث مع كيان ذكي له شخصيته وأهدافه، لذا يتعلق الكثيرون بأنظمة الذكاء الاصطناعي التي يستخدمونها.
استمر بنجيو في توضيح أنه سيظل هناك دائمًا أشخاص يعتقدون أن الذكاء الاصطناعي واعٍ، بينما سيقول آخرون العكس، لأن الوعي شيء نملك تجاهه حدسًا، وهذا الإدراك الذاتي للوعي قد يؤدي إلى قرارات خاطئة، وطرح بنجيو تساؤلًا: ماذا لو جاء نوع من الكائنات الفضائية إلى كوكبنا وظهر أنها تحمل نوايا خبيثة، هل سنمنحها الجنسية والحقوق أم سنحمي أنفسنا؟
ردًا على تصريحات بنجيو، قال جاسي ريس أنثيس، أحد مؤسسي معهد “Sentience” إنتيتيوت، إن البشر لن يستطيعوا التعايش بأمان مع العقول الرقمية إذا كانت العلاقة قائمة على التحكم والإكراه.