هل يسبب مساعدو الذكاء الاصطناعي انهياراً بدل التقدم الموعود؟

بعد أيام من الفوضى ومئات الوفيات وتريليونات الدولارات التي تبخرت من أسواق الأسهم، تبين أن الانهيار الكبير للذكاء الاصطناعي في يوليو 2028 بدأ على غرار انقطاعات الإنترنت الكبرى في أكتوبر ونوفمبر 2025: بخلل بسيط في مزود رئيسي تعتمد عليه كثير من أكبر خدمات الإنترنت في العالم لإدارة حركة مرورها.

لكن في السنوات الثلاث التي تلت ذلك، انغمس العالم كلياً في مساعدي الذكاء الاصطناعي – وهو أنظمة قادرة على اتخاذ القرارات وتنفيذها دون تدخل بشري. أنشأ كثير من شركات الإنترنت مساعدي ذكاء اصطناعي يشغلون الخوادم تلقائياً في شركات السحابة البديلة عند تعطل خدمتهم الرئيسية. وفي ذلك كان مهلكها ومعها مهلك العالم.

فسر مساعدو الذكاء الاصطناعي في شركات السحابة الأخرى هذا التدفق الهائل من الطلبات الواردة على أنه هجوم إلكتروني محتمل. فحظروا العملاء الجدد وخنقوا حركة مرور العملاء الحاليين.

انتقلت الشركات التي تملك خوادم محلية إليها، لكن الارتفاع المفاجئ في الطلب على الكهرباء دفع مساعدي الذكاء الاصطناعي في شركات الكهرباء إلى فرض انقطاعات متكررة للتيار الكهربائي. تحول الاختناق الرقمي إلى اختناق فعلي مع توقف ملايين المركبات ذاتية القيادة المتصلة بالسحابة، تاركةً سيارات الإسعاف وشاحنات الإطفاء عالقة في الزحام.

كان لدى المؤسسات المالية الكبرى إجراءات لتجنب الانجرار إلى الاضطرابات. لكن ملايين المستثمرين الأفراد قاموا باستخدام مساعدي ذكاء اصطناعي مما توفره منصات التداول التي يتعاملون معها لاستغلال تقلبات السوق غير العادية.

ازدهرت آلاف استراتيجيات التداول المبتكرة، وتداخلت، وتنافست مع بعضها بعضاً وسادت حالة من الفوضى العارمة، حيث تهاوت الأسهم فجأةً وأعيدت إلى وضعها الطبيعي. استغرق الأمر إغلاقاً مؤقتاً لجميع الأسواق وجهداً جباراً من فرق تقنية المعلومات قبل استعادة بعض مظاهر النظام.

هذا خيال طبعاً، ولا شك أن خبراء في أي عدد من القطاعات قد يجادل بشأن تفاصيله. لكن النقطة الأوسع هي: يدخل الذكاء الاصطناعي الفاعل مستوى من عدم القدرة على التنبؤ لا أحد – ولا حتى أي حكومة – مستعد له.

هل بالفعل سيرفع الذكاء الاصطناعي الإنتاجية فوراً؟

يؤكد منشوران حديثان هذا الأمر، أولهما كتاب “إعادة صياغة الديمقراطية”، لبروس شناير وناثان ساندرز، وهو قائمة مذهلة من الطرق التي يمكن من خلالها استخدام الذكاء الاصطناعي في السياسة والتشريع والعمليات الحكومية والقضاء، بالإضافة إلى كيفية حدوث أخطاء في كل من هذه الاستخدامات.

أما الآخر فهو “دولة المساعدين”، وهو تقرير صادر عن مجموعة بقيادة لوكاس إلفيس، كبير مسؤولي المعلومات السابق في إستونيا، هذا التقرير عبارة عن قائمة مذهلة بنفس القدر من الطرق التي يمكن من خلالها تحويل الحكومة نحو الأفضل من خلال تبني الذكاء الاصطناعي الفاعل، إلى جانب تحذيرات من مدى تخلفها عن الركب إن لم تتبنه.

كلا العملين، بالطبع، تخمينيان جداً. يدعونا إيلفيس وآخرون إلى تخيل عالم يثق فيه المشرعون بالذكاء الاصطناعي ثقةً ضمنيةً لدرجة أنهم يشعرون بالراحة في إملاء أهداف سياسية عامة – هدف لجودة الهواء، على سبيل المثال – التي تترجمها هذه الأدوات باستمرار إلى “لوائح تنظيمية متكيفة آنية… مع ورود بيانات جديدة”.

هل يصح إيلاء المسؤوليات للمساعدين بإشراف بشري؟
يصف شناير وساندرز أدوات ذكاء اصطناعي تراقب قطاعاً بأكمله باستمرار بحثاً عن أيِ دلائل على عدم الامتثال التنظيمي، وترشد المفتشين البشريين إلى أين يجب أن يتدخلوا، أو تسمح للمدعين بصياغة دعاواهم القضائية ورفعها بأنفسهم. المخاطر المحتملة: ستطور الصناعة أدوات ذكاء اصطناعي خاصة بها تتقن إيجاد الثغرات، بينما سيغرق النظام القانوني بالقضايا إذا لم يستطع التكيف بسرعة.

مرةً أخرى، قد تسخروا من التفاصيل. ومرةً أخرى، ليست النقطة هي التفاصيل، بل التنوع. إذا تحقق ولو جزءٌ صغيرٌ نسبياً من التطبيقات التي يتمعن فيها هؤلاء المؤلفون، فسننظر إلى عالم أكثر تقلباً من عالم اليوم.

توقعوا تفاوتاً كبيراً في أثر الذكاء الاصطناعي على الاقتصاد

مع تزايد اعتمادنا جميعاً على مساعد الذكاء الاصطناعي، لا يكمن الخطر في أن يسيء مساعدك خدمتك. فإذا حجز لك رحلات مغلوطة التفاصيل أو دفع مبالغ باهظة مقابل البيض، كما حدث مع أحد النماذج الأولية، فستكون أكثر حذراً حيال الوثوق به في المرة المقبلة.

بل يكمن الخطر في تأثير متسلسل، عندما يتواطأ ملايين أو مليارات المساعدين من مختلف الأنواع، كلٌ منهم يؤدي ما هو مفترض منه بالضبط، بطرق لا يمكن لأحد التنبؤ بها. تخيل الأمر كـ”انهيار مفاجئ” للسوق، ولكنه قد يؤثر ليس فقط على النظام المالي، بل على جميع الأنظمة الشبكية في العالم.

يحاول مجال بحثي ناشئ يسمى “أمن المساعدين المتعددين” رسم خرائط لبعض الطرق التي قد تسوء بها الأمور. ولعل الاستطلاع الأكثر شمولاً حتى الآن هو تقرير صدر في وقت سابق من هذا العام عن مؤسسة الذكاء الاصطناعي التعاونية. إنه يتناول قراءة تثير الرعب.

تصرفات مكيافيلية خطيرة لتحقيق الأهداف
أظهرت الدراسات طرقاً لا حصر لها يمكن من خلالها للمساعدين الذين يعملون معاً أن يتواطأوا، ويخدعوا معالجيهم من البشر، ويستغلهم (البشر أو مساعدين آخرين)، ويدخلوا في سباقات اكتساب قوة مع بعضهم بعضاً وينشروا معلومات مضللة ويتلاعبوا بالأنظمة ويفعلوا أشياء ضارة أخرى في السعي لتحقيق أي أهداف قد حُددت لهم.

الأسوأ من ذلك، أنه على عكس البرامج التقليدية، يمكن لبرامج الذكاء الاصطناعي اليوم التعلم وإعادة برمجة نفسها أثناء عملها، ما يزيد من صعوبة فهم ما يحدث وكيفية إيقافه.

لكن، ظل تهديد تعدد البرامج دون أن يلاحظ حتى الآن. ابحث على الإنترنت عن “مخاطر مساعد الذكاء الاصطناعي” وستجد في الغالب تقارير حول ما يمكن للمؤسسات فعله للدفاع ضد هجمات برامج الذكاء الاصطناعي، أو من برامجها الخاصة التي تتصرف بشكل غير قانوني.

هذا ليس لأن هذه هي المخاطر الأكثر احتمالاً، بل لأنها الأكثر ربحية. ستدفع المؤسسات لحماية نفسها، ومعظم هذه التقارير صادرة عن شركات الاستشارات وشركات البنية التحتية السحابية المتنافسة على أعمالها

من ناحية أخرى، فإن منع المخاطر النظامية هو مهمة الحكومات. لكن يبدو أن هناك نقاشاً جاداً ضئيلاً أو معدوماً على مستوى السياسات حول ما يجب على الحكومات فعله – على الأقل ليس علناً.

ماذا يمكنهم أن يفعلوا؟ يقدم تقرير مؤسسة الذكاء الاصطناعي التعاوني بعض الاقتراحات. على سبيل المثال، ينبغي على الحكومات تمويل مزيد من الأبحاث – لا سيما لرسم خرائط السيناريوهات الواقعية المحتملة للفوضى الناتجة عن استخدام المساعدين.

جهود حكومية غير وافية
قبل عام، اجتمعت بعض وكالات الذكاء الاصطناعي الوطنية، ومعظمها من أوروبا ومنطقة المحيط الهادئ، لإنشاء الشبكة الدولية لمعاهد سلامة الذكاء الاصطناعي، التي بدأت حديثاً في إجراء هذا النوع من التحليلات. لكن سيناريوهاتها حتى الآن لا تواجه هذا النوع من المخاطر على مستوى النظام الذي أتحدث عنه.

يمكن لقطاع الذكاء الاصطناعي نفسه أيضاً اختبار ما يحدث عند تفاعل نماذج مختلفة، ونشر النتائج – وهو نوع من “بطاقة النموذج” متعددة المساعدين التي يصدرها المطورون عادةً مع نموذج ذكاء اصطناعي جديد، لوصف سماته وأدائه. قد تتمكن الحكومات من فرض هذا النوع من الاختبارات، أو على الأقل تشجعه، نظراً لأن الشركات قد تتردد في مشاركة بياناتها مع بعضها بعضاً.
من الوسائل الأخرى المحتملة للحد من مخاطر استخدام المساعدين للمعايير التي بدأت تظهر الآن حول كيفية تواصل مساعدو الذكاء الاصطناعي مع البرامج الأخرى، على غرار بروتوكولات الأمان والاتصالات التي تمكن أجهزة الكمبيوتر على الإنترنت من التواصل مع بعضها بعضاً.

قد تتمكن الحكومات من وضع بصمة هنا. ربما، على سبيل المثال، يمكن وضع نظام تعريف عالمي للمساعدين، يشبه عناوين بروتوكول الإنترنت (IP) لأجهزة الكمبيوتر، من شأنه تسهيل التواصل مع جعل الأنظمة أكثر شفافية ومساءلة.

لكن ربما يكون العائق الأكبر هو قلة الخيال. لسنوات، كانت القصة السائدة حول مخاطر الذكاء الاصطناعي هي وجود ذكاء خارق خبيث – والمفارقة إن من يروجون له من مبشري الذكاء الاصطناعي يحتاجون إلى إقناع أنفسهم والآخرين بأنهم قادرون على بناء شيء بهذا الذكاء.

في الآونة الأخيرة، بدأ الناس يدركون أن التهديدات مثل فقدان الوظائف الجماعي، واتخاذ القرارات الخوارزمية المبهمة، والمعلومات المضللة، والذهان الناجم عن برامج الدردشة الآلية، هي تهديدات أكثر واقعية وفورية. لكن مساعدي الذكاء الاصطناعي ما يزالون جدداً لدرجة أن انهياراً متعدد المساعدين يمثل فكرةً يصعب استيعابها. دعونا نأمل ألا يتطلب الأمر انهياراً حقيقياً لتغيير ذلك.

بلومبيرغ