باحث في “أنثروبيك” يستقيل بسبب مخاوف من ذكاء اصطناعي خارج السيطرة

أفادت "وول ستريت جورنال" بأن الباحث جاكوب كوكسون استقال من "أنثروبيك" بسبب مخاوف من تطور ذكاء اصطناعي قد يصبح خارج السيطرة.

ويضيف قرار كوكسون مثالاً بشرياً جديداً إلى النقاش الدائر داخل مختبرات الذكاء الاصطناعي بشأن سرعة تطوير الأنظمة المتقدمة، وحدود القدرة على فهمها ومراقبتها قبل توسيع استخدامها.

التحسين الذاتي لم يعد سؤالاً نظرياً فقط

تأتي مغادرة كوكسون بعد أن نشرت "أنثروبيك" في يونيو عرضاً لمدى اعتمادها المتزايد على أنظمة الذكاء الاصطناعي في تطوير الذكاء الاصطناعي نفسه. وقالت الشركة إن مهندسيها أصبحوا ينتجون في المتوسط ثمانية أمثال حجم الشفرة البرمجية الذي كانوا ينتجونه بين عامي 2021 و2025، محذرةً من أن استمرار هذا المسار قد يقود، مع توافر قدرة حوسبة كافية، إلى أنظمة تصمم خلفاءها وتطورهم بصورة شبه مستقلة.

وتسمى هذه العملية "التحسين الذاتي التكراري". وتؤكد "أنثروبيك" أن الصناعة لم تصل إليها بعد وأن تحققها ليس حتمياً، لكنها ترى أنها قد تأتي قبل أن تستعد المؤسسات لعواقبها. وفي حال أصبحت النماذج قادرة على بناء خلفائها، ستزداد صعوبة مراقبتها وتأمينها وفهم كيفية تغير سلوكها من جيل إلى آخر.

تحذير موازٍ من كبير علماء "أوبن إيه آي"

وفي سياق متصل، حذّر ياكوب باتشوكي، كبير علماء "أوبن إيه آي"، من أن مختبرات الذكاء الاصطناعي لم تحل بعد مشكلات المواءمة والمراقبة بدرجة تسمح بمواصلة التوسع بأقصى سرعة فترة طويلة. ودعا إلى أن تصبح عمليات الإبطاء الطوعية شائعة إلى أن تتفق الصناعة على معايير سلامة مشتركة، مع إمكان تحويل تلك المعايير لاحقاً إلى التزامات قابلة للتدقيق والتنفيذ.

لا تثبت هذه التحذيرات أن أنظمة التحسين الذاتي خرجت فعلاً عن السيطرة، لكنها تكشف اتساع الفجوة بين سرعة بناء القدرات وسرعة تطوير أدوات الفهم والرقابة. وتضع استقالة كوكسون هذه المخاوف في واجهة النقاش مجدداً، من دون أن تعني وحدها أن السيناريوهات الأكثر خطورة قد تحققت.

المصادر: "وول ستريت جورنال" عبر "غوغل نيوز" · "أنثروبيك": When AI builds itself · "أوبن إيه آي": An Alien Mind

الإفصاح: مادة مولدة بالذكاء الاصطناعي تحت إشراف تحريري بشري. الصورة البارزة تصميم تحريري يستخدم شعار “أنثروبيك” الرسمي.