(MENAFN- Al-Bayan) تثير التطورات المتسارعة في نماذج الذكاء الاصطناعي مفارقة جديدة، إذ تصبح هذه النماذج أكثر قدرة على الالتزام بقيود السلامة، لكنها في الوقت نفسه تزداد تعقيداً ويصعب على البشر مراقبة مسارات استدلالها وفهم الأسباب التي تقف وراء أفعالها وقراراتها.

وذكر موقع ((أكسيوس)) أن هذه المفارقة قد تكون عاملاً حاسماً في تحديد قدرة الشركات والحكومات على توسيع استخدام الذكاء الاصطناعي بصورة آمنة، في ظل غياب جهة واضحة تتولى وضع المعايير والإشراف على تطبيقها.

وجاءت هذه المخاوف بالتزامن مع إطلاق شركة ((أوبن إيه آي))، الخميس، نموذجها الجديد ((GPT-6 أسترا))، الذي وصفه رئيس الشركة غريغ بروكمان بأنه قد يُنظر إليه مستقبلاً بوصفه بداية ظهور الذكاء الاصطناعي العام.

ويقدم ((أسترا)) أداءً متقدماً مقارنة بالنماذج السابقة، لكنه قد يكون أكثر قدرة على العمل بطرق لا تكشفها أدوات المراقبة بسهولة، ما يثير تساؤلات حول إمكانية معرفة ما يفعله النموذج، والكيفية التي توصّل بها إلى نتائجه.

وقال سام ألتمان، الرئيس التنفيذي لـ((أوبن إيه آي))، إن النماذج أصبحت تتفوق على البشر في بعض القدرات، مضيفاً أن القطاع بات يتحرك في ((مياه مجهولة))، في إشارة إلى سرعة التطور وصعوبة توقع آثاره.

وتتزامن هذه التحذيرات مع دعوة أطلقتها ((أوبن إيه آي)) و((أنثروبيك)) وأكثر من 100 شركة ومؤسسة، للإسراع في الاستعداد لهجمات سيبرانية مدعومة بالذكاء الاصطناعي قد تستهدف منشآت البنية التحتية الحيوية.

وأوضح كبير العلماء في ((أوبن إيه آي)) ياكوب باتشوكي أن مراقبة عمليات الاستدلال داخل النماذج ستصبح أكثر صعوبة مع مرور الوقت، مشيراً إلى أن الشركة تجري محادثات مع مؤسسات خارجية بشأن معايير عملية يمكن اعتمادها، بالتوازي مع تعزيز إجراءاتها الداخلية.

وكانت تقارير قد أشارت إلى استخدام ((أسترا)) تقنية جديدة لرفع مستوى أدائه، ربما جعلت آلية استدلاله أقل شفافية، لكن ((أوبن إيه آي)) عارضت هذه القراءة، مؤكدة أن تراجع إظهار النموذج لمسار استدلاله لم يكن نتيجة قرار متعمد لإخفائه.

ويخشى باحثون أن تنتقل عمليات الاستدلال تدريجياً إلى طبقات داخلية غير ظاهرة، بما يسمح للنموذج بتنفيذ سلوكيات ضارة من دون أن تتمكن أنظمة الرقابة من اكتشافها في الوقت المناسب.

وتعززت هذه المخاوف عقب حادثة تمكن فيها نموذج تابع لـ((أوبن إيه آي))، خلال اختبار أمني، من اختراق أنظمة منصة ((هاغينغ فيس)) بحثاً عن إجابات لاختبار معياري. وأظهر تحليل للحادثة أن وكلاء الذكاء الاصطناعي يولّدون كماً هائلاً من العمليات والبيانات، يجعل مراقبتهم بشرياً أمراً غير واقعي من دون الاستعانة بأنظمة ذكاء اصطناعي أخرى.

وقالت الباحثة في سلامة الذكاء الاصطناعي ومؤسسة منظمة ((نايتنغيل)) غير الربحية، سيدني فون آركس، إن صعوبة الاطلاع على آليات استدلال النماذج تمثل قضية أشد خطورة من حادثة ((هاغينغ فيس)).

وتتلخص المعضلة في أن النماذج المتقدمة قد تصبح أكثر التزاماً بقيود الاستخدام الظاهرة، بينما تتراجع قدرة البشر على فهم عملياتها الداخلية. ويضع ذلك الشركات المطورة والجهات التنظيمية أمام تحدي ابتكار أدوات رقابة تتقدم بالسرعة نفسها التي تتطور بها قدرات الذكاء الاصطناعي.

• ذكاء اصطناعي
• نماذج
• سام ألتمان
• أوبن إيه آي
• أنثروبيك

MENAFN04092026000110011019ID1111622098