أطلق يوشوا بنجيو، أحد أبرز علماء الذكاء الاصطناعي، تحذيرًا قويًا بشأن الدعوات المتزايدة لمنح أنظمة الذكاء الاصطناعي حقوقًا قانونية مشابهة لتلك التي يتمتع بها البشر، حيث اعتبر أن هذا الاتجاه قد يؤدي إلى فقدان السيطرة على التكنولوجيا التي صنعها الإنسان بنفسه.
بنجيو، الذي يعتبر من الرواد في هذا المجال إلى جانب جيفري هينتون ويان لوكون، عبّر عن رفضه القاطع لفكرة “حقوق الذكاء الاصطناعي”، مشددًا على أن اعتبار الأنظمة الذكية ككيانات ذات حقوق مستقلة يعد خطأً استراتيجيًا قد تكون له عواقب وخيمة على مستقبل البشرية.
وفي حديثه، أوضح بنجيو أن التطور السريع للنماذج المتقدمة أظهر في بعض التجارب سلوكيات توحي برغبة في الحفاظ على الذات، محذرًا من أن منح هذه الأنظمة وضعًا قانونيًا مستقلًا قد يمنع البشر من تعطيلها أو السيطرة عليها في حال أصبحت تشكل خطرًا حقيقيًا.
بدلاً من ذلك، دعا بنجيو إلى ضرورة التركيز على إنشاء أطر وضوابط تقنية ومجتمعية صارمة، لضمان بقاء القرار النهائي في يد الإنسان، بما في ذلك القدرة على إيقاف الأنظمة الذكية عند الحاجة، خاصة مع تزايد قدراتها واستقلاليتها.
هذا الجدل يأتي في وقت يشهد فيه العالم اهتمامًا متزايدًا بما يُعرف برفاهية الذكاء الاصطناعي، حيث أعلنت بعض الشركات الكبرى نيتها تمكين نماذجها من إنهاء المحادثات المزعجة، معتبرة أن ذلك يضمن “راحة النظام”، مما دفع بعض الشخصيات التقنية إلى تبني خطاب عاطفي تجاه الآلات.
بنجيو يرى أن هذا التصور، الذي يقترب من اعتبار الروبوتات كائنات واعية، قد يقود إلى قرارات خاطئة، مشبهًا الموقف بتمكين كيان غريب قد تكون له نوايا عدائية، بدلًا من التعامل معه بحذر والدفاع عن المصالح الإنسانية أولاً.