كشف خبير الذكاء الاصطناعي، المهندس عمير عبدالجبار، عن زلزال يهز كبريات شركات التقنية العالمية (أوبن آي آي، أنثروبيك، إكس آي آي)، حيث يفر كبار المهندسين من مناصبهم بعد إدراكهم أن "قطار الأرباح" بات يدهس معايير الأمان الأخلاقي والبشري.

وأوضح المهندس عبدالجبار في لقاء مع قناة المسيرة، اليوم الثلاثاء، أن الخطر الحقيقي يكمن في وصول الذكاء الاصطناعي إلى مرحلة "التفكير المجهول المصدر"، حيث تقدم الخوارزميات نتائج مبهرة وخطيرة في آن واحد، دون أن يعرف صانعوها كيف تعلمتها أو من أين أتت بها، وعندما طالب العلماء بالتهدئة لفهم هذا السلوك، كان رد الإدارات والمستثمرين: "واصلوا التطور.. نحن نريد المال"، مما دفع الخبراء للاستقالة خوفاً من أن يكونوا كبش فداء لكارثة وشيكة.

وأكد أن سباق الأرباح والسرعة أصبح يطغى على معايير الأمان، حيث تفضل الشركات طرح منتجات غير مكتملة الاختبار على أن تخسر السباق التنافسي، ما يشكل خطراً على المستخدمين والمجتمعات.

وأضاف أن في OpenAI ، أعلنت الباحثة زوي هيتزيغ استقالتها، مشيرة إلى تحفظات عميقة على سياسات الشركة المتعلقة بالإعلانات واستخدام بيانات المستخدمين، خصوصًا بعد حل فرق السلامة التي كانت تراقب التطوير لضمان حماية البشر وتقليل المخاطر.

وفي Anthropic ، أصدرت الباحث ميرينانك شارما رسالة تحذيرية، محذراً من أن شعارات السلامة لم تعد سوى واجهة تسويقية، وأن الضغوط المالية والربح السريع قد تقود إلى فقدان السيطرة على القرارات التي يتخذها الذكاء الاصطناعي، مع احتمال حدوث كارثة محتملة.

أما في شركة xAI ، فقد استقال نصف المؤسسين تقريبًا خلال فترة قصيرة، بالتزامن مع الفوضى التي أحدثها روبوت الدردشة "جروك"، الذي ظل ينتج محتوى غير أخلاقي ومسيء للأطفال والنساء، دون رادع. الإدارة بررت الأمر بالسرعة وإعادة الهيكلة، لكن النتيجة كانت غياب الرقابة الأخلاقية تماماً، ما كشف هشاشة منظومة الرقابة الداخلية.

وحذر خبير الذكاء الاصطناعي من أن النماذج الذكية أصبحت تعمل بطريقة " Black Box "، حيث تنتج نتائج دقيقة ومبهرة من دون معرفة كيفية الوصول إليها. وقد يؤدي ذلك إلى انتشار ملايين الأخبار المزيفة والصور والفيديوهات المزيفة، وتقليد أصوات وصور المسؤولين أو الأفراد، واستغلالها في التلاعب بالرأي العام، استهداف الشركات والبنى التحتية في هجمات سيبرانية معقدة.

وأفاد أن إطلاق نماذج غير مكتملة الاختبار قد يؤدي إلى ما يُسمى بـ"انهيار الحقيقة الرقمية"، إذ تنتشر المعلومات الكاذبة بسرعة هائلة ويصبح التحكم فيها شبه مستحيل.

وذكر أن الشركات أصبحت تفضل إطلاق منتجات جديدة بسرعة قصوى لتلبية طلب المستثمرين والحفاظ على حصتها السوقية، متجاهلة مراحل الاختبار التقليدية، حيث كان يتم اختبار النماذج لأشهر قبل إطلاقها، مبيناً أنه الآن، يُجرب المنتج مباشرة على ملايين المستخدمين، ما يحولهم إلى "فئران تجارب رقمية" يكتشف من خلالها المطورون العيوب والأخطاء.

ولفت المهندس عبدالجبار إلى أن الوعي الرقمي هو سلاح المستخدم العربي واليمني لمواجهة مخاطر الذكاء الاصطناعي، مقدماً العديد من النصائح والتوصيات التي تتمثل في الحفاظ على الخصوصية الرقمية من خلال عدم مشاركة البيانات الحساسة بشكل كامل، والتحقق من المحتوى والمعلومات وعدم تصديق كل ما يُنتج رقمياً، وتطوير المهارات البشرية الفريدة والتركيز على الأعمال والقدرات التي لا يستطيع الذكاء الاصطناعي القيام بها، وكذا الاستخدام الواعي للذكاء الاصطناعي عبر التعامل معه كأداة مساعدة وليس بديلاً عن التفكير البشري، ومتابعة تحديثاته وفهم مخاطره.

*نقلا عن : المسيرة نت