کنترل هوش مصنوعی فوق هوشمند ناممکن خواهد بود
لینک وبسایت: پژوهشگران معتقدند امکان دارد هوش مصنوعی فوق هوشمند کنترل شدنی نباشد و به انسان ها لطمه برساند.
به گزارش گروه علم و آموزش ایرنا از وبگاه سایِنس اَلِرت (Science Alert)، دهه ها است که ایده هوش مصنوعی سرنگون کننده انسان ها موضوع بحث است و در سال ۲۰۲۱، دانشمندان در مقاله ای به این پرسش که «آیا قادر خواهیم بود یک کامپیوتر سطح بالای فوق هوشمند را کنترل نماییم یا نه؟» پاسخ منفی دادند.
نکته مهم این است که کنترل یک هوش مصنوعی فوق هوشمندِ بسیار دور از فهم انسان نیازمند شبیه سازی آنست به صورتی که بتوانیم آنرا تجزیه وتحلیل و کنترل کنیم؛ اما اگر نتوانیم آنرا درک نماییم، این شبیه سازی ناممکن است.
دانشمندان معتقدند اگر نتوانیم وضعیتی را که هوش مصنوعی مقرر است ارائه کند، بفهمیم نمی توانیم قوانینی مانند «صدمه نزدن به انسان ها» را ایجاد نماییم. هنگامی که سیستم کامپیوتری در سطحی بالاتر از قلمرو برنامه نویسان ما کار می کند، دیگر نمی توانیم حدودی قائل شویم.
براساس اظهارات پژوهشگران یک هوش مصنوعی فوق هوشمند چندوجهی است؛ بدین سبب بطور بالقوه قادر می باشد منابع متنوعی را برای دستیابی به اهدافی که برای انسان بطور بالقوه درک نشدنی است گردآوری کند.
به گفته دانشمندان هر برنامه ای که برای جلوگیری از لطمه رساندن هوش مصنوعی به انسان ها و نابودکردن جهان نوشته شده باشد، ممکنست به نتیجه برسد و متوقف شود یا نشود. از نظر ریاضی نا ممکن است که دراین زمینه اطمینان کامل داشته باشیم، به این معنا که این مسئله کنترل شدنی نیست.
یافتن جایگزین برای آموزش برخی اصول اخلاقی به هوش مصنوعی همچون این که دنیا را نابود نکند (چیزی که بگفته پژوهشگران نمی توان با هیچ الگوریتمی از انجام آن کاملاً مطمئن بود) محدودکردن قابلیت های فوق هوشمند است.
مسئله ای که در اینجا مطرح می شود این است که اگر قرار نیست از هوش مصنوعی برای حل مشکلات فراتر از محدوده توانایی های انسان استفاده نمائیم، پس چرا اصلاً باید آنرا ایجاد کنیم؟
ممکن است متوجه نشویم که چه زمانی یک هوش مصنوعی فوق هوشمند از گرد راه می رسد. این بدان مدلول است که باید آغاز به پرسیدن تعدادی از سؤالات جدی در مورد مسیرهایی نماییم که در آن قرار داریم.
مانوئل سبریان (Manuel Cebrian)، دانشمند کامپیوتر از انجمن ماکس پلانک آلمان، در سال ۲۰۲۱، اظهار داشت: ماشین فوق هوشمندی که جهان را کنترل می کند، به موضوع داستان های علمی تخیلی شباهت دارد؛ اما همین الان هم دستگاه هایی وجود دارند که تعدادی از کارهای مهم را بصورت مستقل انجام می دهند؛ بدون این که برنامه ریزان آنها کاملاً بدانند آنها چگونه این کارها را یاد گرفتند.
این مقاله در مجله تحقیقات هوش مصنوعی به چاپ رسیده بود. نسخه قبلی این مقاله برای نخستین بار در ژانویه ۲۰۲۱ منتشر گردید.
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب