مباشر

الطلبات الأخيرة

    شريط الأخبار
    أخبار بوتين والكرملين
    جائزة خالد الخطيب الدولية
    البرامج
    ترددات القناة
    عيد النصر على النازية
    دليلك إلى روسيا
    وقائع لا يطويها الزمن
    العمل مع RT
    أفلام وثائقية
    كلاشينكوفا
    تطبيقات القناة
    اختراعات روسية
    المكتبة الروسية
    دروس اللغة الروسية
    21 خبر
    • رياضة
    • حرب الخليج
    • العملية العسكرية الروسية في أوكرانيا
    • رياضة

      رياضة

    • حرب الخليج

      حرب الخليج

    • العملية العسكرية الروسية في أوكرانيا

      العملية العسكرية الروسية في أوكرانيا

    • فيديوهات

      فيديوهات

    • المسار الدبلوماسي لحل الأزمة الأوكرانية

      المسار الدبلوماسي لحل الأزمة الأوكرانية

    العالم الرقمي و Social media
    تاريخ النشر: 28.05.2025 | 05:59 GMT

    سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

    كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

    سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

    وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

    وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

    وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

    وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

    يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

    المصدر: Naukatv.ru

    أول نزال للروبوتات في التاريخ

    أول نزال للروبوتات في التاريخ

    انطلقت فعالية عالمية فريدة من نوعها "بطولة ملاكمة الروبوتات الشبيهة بالبشر" في مدينة هانغتشو بمقاطعة تشجيانغ الصينية.

    التعليقات

    أخبار العالم

    هجوم إسرائيلي عنيف على الحكومة البريطانية.. ما علاقة "كراهية اليهود" وفيديو غزة "المروع"؟

    أخبار العالم

    رضائي يكشف خطط الرد الإيراني على الحرب الاقتصادية الأمريكية

    أخبار العالم

    أردوغان يحدد جهة عطلت اتفاق إسلام أباد بين واشنطن وطهران وعواقب استمرار "عقدة هرمز"

    أخبار العالم

    لافروف: لا ثقة لنا بالغرب بعد الآن ومكانة روسيا في العالم رهن بنتائج العملية العسكرية

    أخبار العالم

    ويتكوف: ممثلو بريطانيا وألمانيا وفرنسا انضموا لمفاوضات كييف

    أخبار العالم

    لأول مرة.. طهران تعلن اختبار صاروخ مضاد للمدمرات فوق سفينة حربية أمريكية

    موسكو ثم كييف.. ماذا حمل ويتكوف وكوشنر في طريق عودتهم إلى واشنطن