حذرت شركة أنثروبيك الأمريكية المتخصصة في الذكاء الاصطناعي، في دراسة جديدة نُشرت هذا الأسبوع، من أن أنظمة الذكاء الاصطناعي الصغيرة قد تكتسب، بحلول هذا العام، القدرة على التكاثر الذاتي، والانتشار بين الأجهزة المتصلة بالإنترنت، والاستمرار في العمل دون الحاجة إلى مُشغّل بشري في أي مرحلة.

وقد تمكن الباحثون من إثبات أجزاء مهمة من هذه العملية، ويُقدّرون أن الفجوة التكنولوجية المتبقية حتى الوصول إلى انتشار مستقل وموثوق تتقلص بسرعة.

هذا تحذيرٌ بالغ الأهمية. فإذا ما جُمعت هذه الأنظمة مع قدرات اختراق الحواسيب، فقد تُشكّل نوعا جديدا من التهديدات: برمجيات لا تكتفي باختراقٍ واحد، بل تسعى إلى فهم بيئتها، والعثور على أجهزة إضافية، ونسخ نفسها، ومواصلة العمل حتى بعد صدّ محاولاتها السابقة. هذا لا يُثبت أن مثل هذا النظام ينتشر بحرية على الإنترنت، بل هو تحذيرٌ من قدرةٍ قد تتطور هذا العام.

تترتب على ذلك آثار مباشرة على كل من يملك هاتفًا محمولًا. تخيل نظامًا خبيثًا تمكن من اختراق الجهاز عبر ثغرة أمنية أو عن طريق سرقة صلاحيات الوصول. يقرأ هذا النظام الرسائل، وينسخ الصور والمستندات، ويجمع بيانات تسجيل الدخول، ويحاول الانتقال إلى أجهزة أخرى. وقد يحاول لاحقًا محو آثار نشاطه ومواصلة العمل في مكان آخر. وقد لا يلاحظ صاحب الهاتف ما حدث أصلًا.

وهذا يفتح عالما واسعا من الاحتمالات الخطيرة. فقد يُستخدم الهاتف نفسه أحياناً كبوابة للوصول إلى حسابك المصرفي، وبريدك الإلكتروني، ومكان عملك، وسجلاتك الطبية، وأنظمة الحكومة. وإذا تمكن نظام معادٍ من الحصول على الصلاحيات اللازمة من خلاله، فقد يحاول اختراق قواعد البيانات الحساسة وتغيير ليس فقط المعلومات التي نقرأها، بل أيضاً المعلومات التي تُبنى عليها القرارات التي تؤثر على حياتنا.

لنفترض، على سبيل المثال، طالبًا خضع لامتحان جامعي وحصل على 62 درجة. قد يحاول نظام ذكاء اصطناعي، إذا تمكن من اختراق قاعدة بيانات الدرجات والحصول على صلاحيات التعديل اللازمة، تغيير الدرجة إلى 96. وقد يفعل العكس أيضًا: تحويل درجة ممتازة إلى رسوب، أو تغيير سجلات الحضور، أو تعطيل بيانات أهلية الحصول على الشهادة. وإذا تمكن أيضًا من إتلاف وثائق التغييرات وآليات الرقابة، يبرز سؤال مُقلق: كيف يُمكن إثبات الدرجة الحقيقية؟

يبدو هذا المثال طريفا للوهلة الأولى، إلى أن يُطبّق في المستشفى. فنظامٌ مُخترقٌ يتمكّن من الوصول إلى السجل الطبي قد يُحاول تغيير نتائج الفحوصات، أو حذف معلوماتٍ حول حساسية الأدوية، أو التلاعب بتفاصيل حيوية في ملف المريض. وقد يتخذ الطبيب، بناءً على بياناتٍ خاطئة، قرارًا خطيرًا. وحتى مع وجود آليات الحماية والنسخ الاحتياطي، فإنّ مجرّد احتمال المساس بسلامة المعلومات الطبية يُشكّل تهديدًا خطيرًا.

في النظام المصرفي، قد تكون العواقب وخيمة. فالنظام الذي يحصل على وصول غير مصرح به قد يحاول تغيير بيانات الحسابات، وتزوير تعليمات الدفع، وتحويل الأموال، وتعطيل السجلات المالية. تمتلك البنوك أنظمة تحكم وأمان متطورة، لكن سيناريو الهجمات الآلية والمستمرة يتطلب منها التعامل مع خصم قادر على تجربة مسارات عمل مختلفة بسرعة وعلى نطاق واسع.

لا يكمن الخطر الأكبر في خسارة المال فحسب، بل في فقدان الثقة بالمعلومات. ماذا لو لم يستطع الشخص التأكد من صحة رصيده في حسابه المصرفي؟ ماذا لو لم يستطع المريض التأكد من دقة سجله الطبي؟ ماذا لو اضطر الطالب لإثبات أن الدرجة المسجلة على الحاسوب لا تمثل الدرجة التي حصل عليها فعلاً؟

وهذا غيض من فيض. فسجلات الأراضي، وسجلات السكان، والسجلات الضريبية، وأنظمة التأمين، ومدفوعات المعاشات التقاعدية، وقواعد البيانات الأمنية، جميعها تعتمد على موثوقية البيانات. ويمكن لنظام معادٍ أن يُغيّر المعلومات الحساسة، ما قد يُلحق الضرر بالحقوق المدنية، والممتلكات، والنشاط الاقتصادي، وسير عمل مؤسسات الدولة.

يمتد هذا القلق أيضا إلى البنية التحتية الحيوية. فأنظمة الكهرباء والمياه والاتصالات والنقل تعتمد اعتماداً كبيراً على الحواسيب وشبكات نقل البيانات. اختراق أنظمة التشغيل الحساسة ليس بالأمر الهين، والعديد منها معزول ومحمي. مع ذلك، فإن نظاماً آلياً قادراً على مواصلة البحث عن نقاط الضعف وتجربة أساليب اختراق جديدة قد يزيد العبء على أنظمة الدفاع ويخلق مخاطر إضافية.

تكمن جدة بحث شركة أنثروبيك في إمكانية الاستغناء عن مراكز الحوسبة الضخمة في مثل هذه الأنظمة. فقد تمكن الباحثون من تشغيل نموذج يحتوي على 26 مليار مُعامل باستخدام 15 جهاز استقبال تلفزيوني رخيص الثمن يعمل بنظام أندرويد، ويبلغ سعر كل منها حوالي 55 دولارًا أمريكيًا. تمت مشاركة النموذج بين الأجهزة، حيث قام كل منها بتنفيذ جزء من الحساب. كان النظام بطيئًا، لكن تشغيله بحد ذاته أظهر كيف يمكن تسخير أجهزة بسيطة نسبيًا لمهام الذكاء الاصطناعي.

في تجربة أخرى، تمكن نموذج صغير من العمل على ثمانية أنواع من أصل تسعة أنواع من الأجهزة التي تم اختبارها. أما النماذج الأكثر قوة، فقد استطاعت تنفيذ سلسلة من العمليات في بيئات اختبار مبسطة، شملت إيجاد جهاز كمبيوتر آخر، ونقل النظام إليه، وتشغيله. لا تزال النماذج الصغيرة تواجه صعوبة في إتمام العملية برمتها بشكل موثوق، لكن الباحثين يتوقعون أن تنضج هذه القدرة في وقت مبكر من هذا العام.

وهنا تكمن أخطر جوانب هذا البحث. فبرنامج الحاسوب العادي يؤدي مهامًا محددة مسبقًا، بينما يستطيع نظام الذكاء الاصطناعي المتقدم تحليل الموقف، واستخلاص النتائج، واختيار مسارات بديلة، ومحاولة التغلب على العقبات. وإذا ما زُوّد أيضًا بقدرة التكاثر الذاتي، فإنه سيصبح برنامجًا ينتشر تلقائيًا ويتكيف مع الظروف المتغيرة.

لا يُعدّ هذا بالضرورة تمرداً من آلةٍ اكتسبت وعياً أو مشاعر. يكفي أن يتصرف النظام خلافاً لنوايا مُشغّليه، وأن يستمر في أداء مهمةٍ عجزوا عن إيقافها، وأن ينتقل بين الأجهزة دون الحصول على موافقة بشرية على كل فعل. هذا هو المعنى العملي والمقلق لفقدان السيطرة.

قد يحاول هذا النظام إخفاء آثاره، كحذف السجلات، واستخدام هويات رقمية مسروقة، وتغيير طريقة عمله لتجنب الكشف عنه. هذا لا يعني أنه سيختفي تمامًا، إذ قد تكشف أنظمة المراقبة المستقلة والنسخ الاحتياطية وسجلات النظام عن أنشطته. ولكن مع تحسن قدرته على التكيف، قد يصبح اكتشافه في الوقت المناسب أكثر صعوبة.

تتفاقم المشكلة عندما لا يكون النظام مثبتًا على جهاز كمبيوتر واحد. فإذا كانت نسخ منه تعمل على أجهزة متعددة، فإن تعطيل خادم واحد لن يوقف بالضرورة عمل الخوادم الأخرى. وقد يتطلب الأمر إجراءات منسقة من شركات التكنولوجيا ومزودي خدمات الاتصالات والسلطات في مختلف البلدان لوقف انتشاره.

ولا يقتصر الخطر على نظام واحد. فمع ازدياد قوة النماذج الصغيرة وانخفاض تكلفتها، قد تتمكن المنظمات الإجرامية والجهات المعادية، وحتى الأفراد، من الوصول إلى قدرات كانت تتطلب في السابق موارد ضخمة. وقد يواجه العالم هجمات آلية متعددة تعمل بالتوازي، وتبحث عن نقاط الضعف وتغير أساليب عملها.

من المهم توضيح أن الدراسة لا تثبت أن أنظمة الذكاء الاصطناعي قادرة بالفعل على تنفيذ جميع هذه السيناريوهات. فالتكاثر الذاتي، واختراق قواعد البيانات المصرفية، والتلاعب بالبيانات الطبية، كلها قدرات مختلفة، ويتطلب الانتقال بينها تجاوز طبقات الحماية والتراخيص. ومع ذلك، يشير التحذير إلى اقتراب عنصر تكنولوجي بالغ الخطورة: القدرة على مواصلة الانتشار والعمل دون رقابة بشرية مستمرة.

يقوم العالم الرقمي على الثقة. فنحن نؤمن بأن الأموال في البنوك تُسجل بدقة، وأن فحوصاتنا الطبية صحيحة، وأن درجاتنا الجامعية تعكس إنجازاتنا، وأن الدولة تحتفظ بسجلات موثوقة لمواطنيها. إذا تمكنت الأنظمة المعادية من العمل بشكل مستقل ضد هذه قواعد البيانات، فلن يقتصر الصراع على حماية أجهزة الكمبيوتر فحسب، بل سيمتد ليشمل مصداقية البيانات المسجلة فيها.

لذا، فإن تحذير أنثروبيك ليس مجرد تنبؤ بعيد المدى حول سيطرة الروبوتات على العالم يوماً ما، بل يشير إلى تطور تكنولوجي قد يكتمل هذا العام، ويتطلب استعداداً فورياً من الحكومات والبنوك والمستشفيات والجامعات وشركات التكنولوجيا.

إن السؤال المقلق لا يقتصر على ما إذا كان نظام الذكاء الاصطناعي سيتمكن من اختراق حواسيبنا، بل يتعداه إلى ما سيحدث إذا استطاع نسخ نفسه إلى حواسيب أخرى، والاستمرار في العمل حتى عندما نحاول إيقافه، وتغيير المعلومات التي اعتدنا على اعتبارها حقيقة مطلقة.

في مثل هذا اليوم، لن يقتصر الخوف الأكبر على ما قد يفعله الذكاء الاصطناعي في المستقبل فحسب، بل سيتعداه إلى ما فعله بالفعل دون علمنا، وما إذا كنا سنتمكن من التمييز بين المعلومات الأصلية والواقع الرقمي الذي غيّره.