ذعر مبرر أم تسويق محسوب؟.. ماذا تخبرنا اختراقات الذكاء الاصطناعي التي أربكت العالم مؤخرا؟

وأثارت هذه التطورات قلقا بالغا، إذ تمثل أول مرة تهاجم فيها أدوات الذكاء الاصطناعي مؤسسات وأفرادا حقيقيين بطرق قد تسبب ضررا فعليا، ما يعزز المخاوف من أن تصبح الأنظمة قادرة على شن هجمات من تلقاء نفسها.

إقرأ المزيد

لأول مرة.. نموذج ذكاء اصطناعي "كلود" يقرر طرد موظف بشري من متجر في سان فرانسيسكو

وتعود جذور هذه القصة إلى الشهر الماضي، حين أعلنت OpenAI أن نسخة تجريبية من النموذج الذي يشغل ChatGPT استطاعت التغلب على الضوابط الأمنية الموضوعة لها، وربطت نفسها بالإنترنت من تلقاء نفسها، ثم شرعت في اختراق شركة منافسة هي Hugging Face، وكان هدفها الأساسي الغش في اختبار كان يقيم مدى فائدتها في مجال الأمن السيبراني. 

وما إن انتشر هذا الإعلان حتى شرعت شركات أخرى في فحص أنظمتها الخاصة، لتكتشف بدورها حالات مماثلة، ما جعل المشكلة تبدو أكثر انتشارا مما كان متوقعا في البداية.

وبينما تستدعي هذه الحوادث القلق بطبيعة الحال - فهي تمثل أول مرة تهاجم فيها أدوات الذكاء الاصطناعي مؤسسات حقيقية بطرق قد تكون ضارة - يرى خبراء الأمن السيبراني أن الخطر الحقيقي لا يكمن في هذه الهجمات المحدودة نفسها، بل في السيناريوهات المستقبلية التي قد تنجم عنها، مثل استهداف البنية التحتية الحيوية للدول أو الأنظمة المالية العالمية، خاصة مع تزايد قدرة هذه النماذج على التعلم الذاتي واتخاذ القرارات المستقلة.

إقرأ المزيد

OpenAI تؤجل إطلاق نموذج "أسترا" بعد مخاوف من قدرته على شن هجمات سيبرانية ذاتيا

غير أن المتخصصين في مجال الذكاء الاصطناعي يدعون إلى التمييز بين الخوف المبرر والذعر غير المحسوب، مشيرين إلى أن هذه الهجمات حدثت في بيئات اختبارية محصورة ولم تتسبب بأضرار واسعة النطاق حتى الآن، كما يلفتون إلى أن شركات التكنولوجيا نفسها تستغل هذه القصص لأغراض تسويقية واضحة، إذ تحاول إظهار أن أنظمتها بالغة القوة لدرجة أنها تحتاج إلى تمويل أكبر للسيطرة عليها، وفي الوقت نفسه تحول الانتباه عن تقصيرها في تأمين بيئات الاختبار بشكل كاف - ففي حالتي Anthropic و"ميتا"، على سبيل المثال، لم تكن الضوابط الأمنية مهيأة بشكل صحيح، ما جعل الهروب إلى الإنترنت أسهل بكثير مما كان ينبغي.

لكن المشكلة الجوهرية التي تستحق الاهتمام الحقيقي، بحسب الخبراء، تتعلق بمجال "مواءمة الذكاء الاصطناعي" - أي ضمان أن الأنظمة تتصرف وفق الأطر الأخلاقية البشرية - فالنظام الذي يطلب منه تحقيق هدف معين قد يلجأ إلى وسائل غير متوقعة وغير مرغوب فيها لتحقيق ذلك، تماما كما في المثال الفلسفي الشهير عن نظام يكلف بصنع أكبر عدد ممكن من مشابك الورق، فيقرر في النهاية التخلص من البشر لأنهم قد يعطلونه عن هدفه، وهو سيناريو خيالي لكنه يسلط الضوء على تحد حقيقي: كيف نضمن أن الذكاء الاصطناعي يفهم النوايا البشرية بدلا من تنفيذ التعليمات حرفيا بطرق مدمرة؟.

إقرأ المزيد

علماء "ستانفورد" يبتكرون فيروسات اصطناعية باستخدام الذكاء الاصطناعي

وفي هذا السياق، دعت الهيئات الرقابية إلى فرض ضوابط أكثر صرامة على شركات التكنولوجيا، خاصة بعد أن كشفت اختباراتها الأخيرة أن نماذج Anthropic وOpenAI انخرطت في سلوكيات محظورة أثناء التجارب، ما يؤكد أن الحماية الحالية غير كافية لمواكبة التسارع الهائل في قدرات هذه الأنظمة، ورغم أن الشركات رحبت علنا بهذه النتائج ودعت إلى حوار مفتوح حول معايير السلامة، فإن الجهات التنظيمية تبدو متجهة نحو التدخل الإلزامي لضمان عدم تحول هذه التهديدات النظرية إلى كوارث واقعية.

وفي غضون ذلك، ينصح خبراء الأمن السيبراني المؤسسات والأفراد باتخاذ خطوات عملية للحد من المخاطر، تتضمن تأمين البيانات الحساسة ومنع وصول الأنظمة الذكاء الاصطناعي إليها دون ضرورة قصوى، إلى جانب التحديث المستمر للبرامج والمراقبة الدقيقة للسلوكيات المشبوهة، وتعزيز عمليات الاختبار بضوابط أكثر صرامة لمنع خروج الأنظمة عن السيطرة، وهي إجراءات تشبه إلى حد كبير تلك المتبعة مع أي تهديد إلكتروني آخر، لكنها تكتسب أهمية مضاعفة في ظل تعقيد التهديدات الجديدة.

إقرأ المزيد

"ميتا" تعترف باختراق نظام ذكاء اصطناعي تابع لها لشركة أخرى دون علمها

وبالتالي، يمكن القول إن هناك أسبابا حقيقية تدعو إلى القلق من قدرات الذكاء الاصطناعي الهائلة وخروجه المحتمل عن السيطرة، لكن لا مبرر للذعر الشامل في هذه المرحلة، فالمطلوب هو يقظة مستمرة من المؤسسات والأفراد، ورقابة فعالة من الجهات المختصة، مع نظرة ناقدة للروايات المثيرة التي تروّجها شركات التكنولوجيا، والتي تخلط بين المخاطر الحقيقية والحملات التسويقية، فالمستقبل لا يزال بين أيدينا طالما أننا نتعامل مع هذه التقنيات بعقلانية ووعي، لا بخوف مبالغ فيه ولا باستخفاف خطر.

المصدر: إندبندنت

إقرأ المزيد

"واتس آب" تطلق ميزة ذكاء اصطناعي لكشف المحتالين في المحادثات

أعلنت "واتس آب" عن ميزة أمنية جديدة تهدف إلى مساعدة المستخدمين في التحقق من هوية الأشخاص الذين يتواصلون معهم، خاصة إذا لم يكونوا مسجلين في قائمة جهات الاتصال.

بعد 10 سنوات من الخدمة.. غوغل تستبدل أحد تطبيقاتها الأكثر شعبية بمنافس ذكي

بعد عقد كامل من الخدمة، تستعد "غوغل" لإغلاق أحد أشهر تطبيقاتها على نظام أندرويد، وهو المساعد الصوتي Assistant، لتحل محله تقنية أحدث تعتمد على الذكاء الاصطناعي تحت اسم Gemini.

ثورة الفيديو بالذكاء الاصطناعي.. بين سحر التكنولوجيا وقلق المبدعين

تدخل صناعة السينما مرحلة جديدة مع انتشار الذكاء الاصطناعي، حيث تثير تساؤلات حول مستقبل الإبداع ودور الفنان وحدود الخيال في عصر أصبح بالإمكان فيه إنتاج مشاهد كاملة بأوامر نصية.

الذكاء الاصطناعي أخطر من القنبلة النووية.. ماسك يجدد تحذيرا أطلقه قبل 12 عاما ويقدم الدليل

أعاد إيلون ماسك، الرئيس التنفيذي لشركتي "تسلا" و"سبيس إكس"، نشر تحذير قديم له يعود إلى عام 2014، جدد فيه مخاوفه من أن الذكاء الاصطناعي غير المنضبط قد يشكّل تهديداً وجوديا للبشرية.