مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

47 خبر
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران
  • العملية العسكرية الروسية في أوكرانيا
  • رياضة
  • تجدد التوتر وانهيار الحوار بين واشنطن وطهران

    تجدد التوتر وانهيار الحوار بين واشنطن وطهران

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • رياضة

    رياضة

  • إسرائيل توسع عملياتها في الضفة

    إسرائيل توسع عملياتها في الضفة

  • فيديوهات

    فيديوهات

  • الجيش الإسرائيلي يعلن مقتل جندي ثان متأثرا بجروح أصيب بها صباحا في قرية تل بالضفة الغربية

    الجيش الإسرائيلي يعلن مقتل جندي ثان متأثرا بجروح أصيب بها صباحا في قرية تل بالضفة الغربية

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

‏إعلام إيراني: تقارير أولية عن سقوط طائرة في جزيرة قشم (فيديو)

الثوري الإيراني: دمرنا مقر إقامة جنود أمريكيين وطائرات مقاتلة في الأردن ومنظومة باتريوت في أربيل

"تذاكر مجانية إلى جهنم".. "مقر خاتم الأنبياء" في إيران يعلن عن معادلة جديدة في ساحة المعركة

ترامب: على السعودية الانضمام إلى اتفاقيات أبراهام إذا أرادت اتفاقا نوويا مع أمريكا (فيديو)

مضيق هرمز يبتلع الترسانة الأمريكية الدقيقة ويجبر البنتاغون على اتخاذ قرار صعب

"التحالف العربي" يوضح مبررات قصف الحديدة ويحذر الحوثيين من استمرار "الأعمال العدائية"

لافروف: واشنطن عدلت فهمها لمخرجات قمة أنكوريج واتفقت مع تقييمات أوروبا وكييف

بيسكوف: القائد الأوكراني الجديد دراباتي سيحاسب على تصريحاته المهينة بحق الروس

ترامب: السعودية ركيزة للاستقرار وإيران لم تعد قوة مهيمنة لذا حان وقت التطبيع مع إسرائيل

7 شرائح.. نتنياهو يكشف كيف أقنع ترامب بقصف إيران (فيديو)

مكتب نتنياهو يعلق على ربط ترامب توقيع الاتفاق النووي مع السعودية بانضمامها إلى اتفاقيات أبراهام

الجيش الأمريكي يقصف خطأ ناقلة غاز ويقتل اثنين من طاقمها

مبادرة "PURL" وحقيقة تصريح ترامب عن معرفة بوتين بالمصدر الحقيقي لتوريد الأسلحة إلى أوكرانيا

ترامب: لا أعتقد أن الصين وروسيا تشاركان في الصراع الإيراني عبر بيع الأسلحة لطهران

الدفاع الروسية تعلن تحرير بلدتين في خاركوف وتكشف حصاد ضرباتها في أوكرانيا خلال أسبوع