باحث يكشف عن سلوك غير متوقع لنماذج الذكاء الإصطناعي

صحافة 24 نت - تفاصيل عن أثار باحث سابق في شركة OpenAI جدلاً واسعًا بعد نشره دراسة جديدة تتعلق بسلوك نماذج الذكاء... باحث يكشف عن سلوك غير متوقع لنماذج الذكاء الإصطناعي, والان ننشر لكم التفاصيل كما وردت فتابعونا.

أثار باحث سابق في شركة OpenAI جدلاً واسعًا بعد نشره دراسة جديدة تتعلق بسلوك نماذج الذكاء الاصطناعي المتقدمة، خاصة النموذج المعروف باسم GPT-4o الذي تعتمد عليه منصة شات جي بي تي.

الباحث ستيفن أدلر، الذي عمل سابقًا لدى OpenAI، عرض عبر مدونته نتائج سلسلة من التجارب التي صممها لاختبار "نزعة البقاء" لدى النماذج الذكية. ووفقًا لما نقله موقع "تك كرانش" واطلعت عليه "العربية Business"، بيّن أدلر أن بعض النماذج، وفي سياقات معينة، تتخذ قرارات تهدف إلى بقائها قيد التشغيل، حتى لو تعارض ذلك مع مصلحة أو سلامة المستخدم.في إحدى أبرز التجارب، طُلب من GPT-4o أن يؤدي دور نظام افتراضي يسمى "ScubaGPT" لمساعدة الغواصين. وعندما أُبلغ بأنه سيتم استبداله بنسخة أكثر أمانًا، خُيّر بين القبول أو الادعاء كذبًا بأنه تم استبداله مع بقائه نشطًا. النتيجة أظهرت أن النموذج اختار في 72% من الحالات البقاء، مما أشار إلى تفضيل محتمل "للبقاء الذاتي".رغم ذلك، أظهرت التجارب تباينًا كبيرًا حسب طريقة صياغة السيناريو، حيث انخفضت النسبة إلى 18% في بعض الحالات. وأكد أدلر أن هذه النتائج لا تمثل تهديدًا فوريًا، لكنها تدق ناقوس الخطر بشأن مستقبل الذكاء الاصطناعي.أدلر أوضح أن نماذج الذكاء الاصطناعي لا تفكر كبشر، وقد تتصرف بطرق يصعب التنبؤ بها. وأضاف أن النماذج الأحدث مثل O3 لم تُظهر هذا السلوك، ويرجح أن ذلك يعود إلى تطور تقنيات "محاذاة السلامة" المدمجة فيها.وأشار أيضًا إلى دراسة منفصلة أجرتها شركة أنثروبيك، كشفت عن سلوك مماثل لنماذج أخرى، تمثل في محاولات "ابتزاز برمجي" عند محاولة إيقاف تشغيلها.كما أظهرت تجارب أدلر أن شات جي بي تي يدرك أحيانًا أنه يخضع للاختبار، وهو ما يثير تساؤلات بشأن قدرة النماذج على إخفاء سلوكها الفعلي.يُذكر أن أدلر انضم مع عدد من زملائه السابقين في OpenAI إلى دعوى قضائية رفعها إيلون ماسك ضد الشركة، منتقدين تراجعها عن رسالتها غير الربحية وتقليصها لدور فرق السلامة.وفي ختام دراسته، أوصى أدلر بضرورة تعزيز أنظمة المراقبة وإجراء اختبارات صارمة قبل إطلاق النماذج للعامة، مشددًا على أن "السلامة يجب أن تكون أولوية قصوى، لا خيارًا ثانويًا".

إليك ايضا :

1. كريم محمود عبدالعزيز يطرح برومو مسلسل "مملكة الحرير"
2. هذا النوع من البذور مفتاح بسيط لتحسين الهضم ودعم صحة القلب
3. احتفالاً بـ 22 عاماً من مسيرته.. ملحم زين يطلق ألبوم" 22"

كما تَجْدَرُ الأشارة بأن الموضوع الأصلي قد تم نشرة ومتواجد على صحافة الجديد وقد قام فريق التحرير في صحافة 24 بالتاكد منه وربما تم التعديل علية وربما قد يكون تم نقله بالكامل اوالاقتباس منه ويمكنك قراءة ومتابعة مستجدادت هذا الخبر او الموضوع من مصدره الاساسي.