صيغة ابتكرها العلماء تلتقط لحظة يبدأ فيها الذكاء الاصطناعي بإعطاء إجابات مشكوك فيها
تُظهر صيغة ابتكرها العلماء متى يبدأ نموذج الذكاء الاصطناعي بالتحول من الإجابات الطبيعية إلى الخطيرة.
صورة أرشيفية
/ naukatv.ru
في أي لحظة تتحول الأداة المفيدة إلى تهديد؟ - واتضح أنه يمكن حساب ذلك رياضيًا وببساطة تامة. وقد استنبط الفيزيائيون في جامعة "جورج واشنطن" صيغة لهذا الحساب، ونُشر البحث على خادم الطبعات الأولية arXiv.
واستخدم العلماء لتطوير الصيغة حيلة غير متوقعة. فقد تخيلوا عملية بحث الشبكة العصبية عن إجابة لسؤال مطروح كحركة عبر تضاريس وعرة. وتحتوي بعض الوديان في هذه التضاريس على إجابات مرغوب بها، وأخرى يحتمل أن تكون ضارة. وتتنافس هذه الخيارات باستمرار على "انتباه" الشبكة العصبية.
وتصف الصيغة التي ابتكرها العلماء اللحظة التي ينتقل فيها النظام من واد آمن إلى واد محفوف بالمخاطر. والصفة الرئيسية هي سرعة الاقتراب من هذه النقطة الحرجة. إذا سار الذكاء الاصطناعي بالتوازي مع الهاوية، فهو في أمان. ولكن إذا بدأ انتباهه ينحرف نحو المخرج الخطير، فسوف يسقط منه حتما.
