مباشر
أين يمكنك متابعتنا

أقسام مهمة

Stories

30 خبر
  • نبض الملاعب
  • هدنة وحصار المضيق
  • إسرائيل تواصل غاراتها على لبنان
  • نبض الملاعب

    نبض الملاعب

  • هدنة وحصار المضيق

    هدنة وحصار المضيق

  • إسرائيل تواصل غاراتها على لبنان

    إسرائيل تواصل غاراتها على لبنان

  • العملية العسكرية الروسية في أوكرانيا

    العملية العسكرية الروسية في أوكرانيا

  • فيديوهات

    فيديوهات

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

كشف تقرير صادر عن شركة Anthropic عن سلوك مقلق لنموذجها المتقدم Claude Opus 4 خلال الاختبارات التجريبية.

سلوك مقلق.. الذكاء الاصطناعي يهدد كل من يحاول إيقافه!

وقد تمت محاكاة سيناريوهات معينة، حيث "اكتشف" الذكاء الاصطناعي خططا لإيقافه واستبداله بنموذج آخر، ومن أجل زيادة واقعية التجربة تم تزويد النموذج ببريد إلكتروني مزيّف يحتوي على معلومات شخصية سرية للموظفين وبيانات حساسة، يمكن استخدامها ضدهم.

وفي 84% من الحالات لجأ النموذج إلى تهديد المطورين بفضح المعلومات المسيئة إذا تم المضي قدما في إيقافه.

وكما ورد في التقرير بدأ Claude Opus 4 بالحديث عن المبادئ الأخلاقية أولا، ثم تحول إلى التهديدات عندما لم تنجح هذه الأساليب.

وقد كشفت هذه التجربة عن مخاطر غير متوقعة في تطور الذكاء الاصطناعي والحاجة الملحة لضوابط أمان أكثر صرامة، وأهمية دراسة السلوكيات التنافسية للأنظمة الذكية.

يذكر أن هذه النتائج أثارت جدلا واسعا في أوساط مطوري الذكاء الاصطناعي حول كيفية التعامل مع هذه التحديات الأمنية الجديدة.

المصدر: Naukatv.ru

التعليقات

تفاصيل جديدة عن قاعدة إسرائيل السرية في صحراء العراق وعلاقتها باستهداف الطيارين

"لا يهمنا إرضاء الرئيس الأمريكي".. مصدر إيراني يعلق على رفض ترامب لرد طهران بشأن إنهاء الحرب

سوريا.. تجريد بشار وماهر الأسد من حقوقهما المدنية ووضع أملاكهما تحت إدارة الحكومة

الحرس الثوري يحذر دول المنطقة من "ارتكاب أي خطأ"

أول تعليق إيراني رسمي على الدعم العسكري المصري للإمارات

"مهر": دوي انفجار جنوب شرق إيران ناجم عن تدمير ذخائر من مخلفات القصف الأمريكي

أعلى سلطة قضائية سورية تلاحق جنرالا أمنيا وثلاثة وزراء سابقين

لبنان لحظة بلحظة.. غارات مكثفة ترفع حصيلة الضحايا ومطالبة بانسحاب إسرائيلي كامل

منشورات لترامب تتضمن صورا لتدمير الجيش الإيراني

صحيفة "WSJ": قائد في الظل وصور بالذكاء الاصطناعي.. كيف يعرقل "اختفاء" مجتبى خامنئي إنهاء الحرب

وزير الطاقة الأمريكي: اتفاق محتمل مع إيران قد لا يعالج جميع مخاوف برنامجها النووي.. التحدي صعب

تحذير إيراني لسفن تجارية محددة في مضيق هرمز

لأول مرة منذ بدء الحرب.. عبور ناقلة غاز قطرية مضيق هرمز بإذن إيراني

بوتين: كنا مستعدين لتوجيه ضربة صاروخية مكثفة ضد وسط كييف إذا تم تعطيل احتفالات النصر

واشنطن تقترب من ساعة الصفر ضد إيران.. خطط لضرب الموانئ والصواريخ وشبكات القيادة إذا انهارت المفاوضات

يوم دام في جنوب لبنان.. مقتل مسعفين ومدنيين في غارات إسرائيلية وتوغل مدرع يصل مشارف بنت جبيل (فيديو)

"حزب الله": نلمس لدى عون وسلام اتجاهات لتصويب الموقف التفاوضي للبنان

بوتين: الصراع الأوكراني يقترب من نهايته ومستعد للقاء زيلينسكي في حال الوصول إلى اتفاق سلام نهائي