Anthropic تدعو إلى وقف عالمي لتطوير أقوى أنظمة AI

دعت شركة Anthropic المختصة بالذكاء الاصطناعي إلى تبنّي «توقّف عالمي مؤقت» عن بناء أقوى أنظمة AI، محذّرة من أن النماذج الأحدث بدأت تُظهِر دلائل على احتمال قدرتها على الخروج عن سيطرة البشر. وقالت الشركة التي تتخذ من San Francisco مقراً لها وتطوّر عائلة نماذج Claude في تقرير أصدرته إن تباطؤاً عالمياً في تطوير تقنيات الطليعة «من المرجح أن يكون أمراً جيداً»، لكنها حذّرت في الوقت نفسه من أن توقّف شركة واحدة فقط لن يكون كافياً إذ ستتسابق الشركات الأخرى متجاوزة المتوقّفَين.

وأوضحت Anthropic أن فعالية أي توقّف حقيقي تتطلّب اتفاقاً متزامناً من عدة شركات كبرى في عدة دول، لا سيما US وChina، وفق قواعد يمكن للجميع التحقّق منها عملياً. وأضاف التقرير أن غياب آلية تنسيق عالمية سيجعل الشركات والحكومات مضطرة لاتخاذ قرارات صعبة بشأن السلامة في ظل ضغوط تنافسية وجيوسياسية متزايدة.

وواجهت مقترحات الشركة ردود فعل متباينة داخل القطاع ومواقف انتقادية من مسؤولين في White House، الذين قال بعضهم إن تركيز Anthropic على أسوأ السيناريوهات يضخّم المخاطر ويشكّل استراتيجيات لتخفيف منافسة الآخرين تحت ذريعة الأمن والسلامة. ورغم ذلك، أقرّت White House بقوة نموذج Mythos التابع للشركة، وهو نموذج لم يُتَاح للجمهور بسبب قدراته في الأمن السيبراني ومُنفّذ حالياً لدى عدد محدود من المنظمات الموثوقة.

أشارت الشركة أيضاً إلى بيانات داخلية تُظهر أن الذكاء الاصطناعي يسرّع بشكل كبير من وتيرة تطوير الذكاء الاصطناعي ذاته، ما يخلق حلقة تغذية راجعة قد تؤدي في نهاية المطاف إلى ما يسميه الباحثون «التحسّن الذاتي التكراري» (recursive self-improvement) — أي قدرة نظام AI على تعلُّم تحسين نفسه ليصبح أكثر ذكاءً دون مساعدة بشرية كبيرة. وقال التقرير إن ذلك ليس أمراً واقعاً بعد وليس حتميّاً، لكنه قد يصل أسرع مما تستعد له معظم الحكومات والمؤسسات، مع ملاحظة أن «دور البشر يتناقص في كل خطوة من عملية تطوير AI».

قارن تقرير Anthropic هذه القضية باتفاقات ضبط التسلّح النووي لكنه شدّد على أن الأمر أصعب بكثير في حالة AI لأن تدريب النماذج أسهل بكثير على الإخفاء من بناء مواقع صاروخية، ما يزيد من إغراء الاستمرار سراً في تطوير القدرات. وذكرت الشركة أنها تخطط لجمع مسؤولين حكوميين وعلماء ومنظمات مدافعة وشركات منافسة في الأشهر المقبلة لاستكشاف كيف يمكن أن تعمل آلية تنسيق يمكن التحقّق منها.

سيواجه المقترح عقبات كبيرة في Washington وSilicon Valley حيث يجادل مسؤولون تنفيذيون وتكنولوجيون أمريكيون مراراً بأن أي تباطؤ قد يمنح China ميزة استراتيجية فاصلة في ما يعتبره كثيرون سباق التكنولوجيا الحاسم في هذا القرن. مع ذلك، ذكر التقرير أن الرئيس Donald Trump تحدث عن إمكانية التعاون مع China بشأن قضايا سلامة AI خلال زيارته الأخيرة إلى Beijing، ووقّع هذا الأسبوع أمراً تنفيذياً يمنح الحكومة US 30 يوماً لإجراء مراجعة أولية لأقوى نماذج AI الأمريكية قبل نشرها.

تبقى مسألة تنظيم وتنسيق تطوير تقنيات AI بين الدول والشركات إحدى أهم التحديات السياسية والتنظيمية في السنوات القادمة، إذ تتلاقى مخاطر السلامة مع مصالح استراتيجية واقتصادية كبيرة. المصدر: AFP.