هوش مصنوعی؛ تهدیدی برای بشریت

محققان دانشگاه آکسفورد و بخش هوش مصنوعی DeepMind گوگل ادعا کرده اند که احتمال زیادی وجود دارد که اشکال پیشرفته هوش مصنوعی “برای وجود حیات روی زمین خطرناک باشد”.

پروفسور باستروم قبلاً DeepMind را که دستاوردهای هوش مصنوعی آن شامل شکست دادن قهرمانان انسانی در بازی رومیزی Go و تسلط بر همجوشی هسته‌ای است، به عنوان نزدیک‌ترین آنها معرفی کرده بود. [گروه] او ایجاد هوش مصنوعی در سطح انسان را تشریح کرد.

آقای کوهن می‌نویسد: «احتمالاً پیروزی در مسابقه «استفاده از آخرین ذره‌ی انرژی» زمانی که با چیزی بسیار باهوش‌تر از خودمان بازی می‌کنیم، بسیار دشوار خواهد بود. گمشده [در این بازی]کشنده خواهد بود.”

این مقاله سناریویی را پیشنهاد می‌کند که در آن یک عامل هوش مصنوعی استراتژی تقلب را برای به دست آوردن پاداشی که از قبل برنامه‌ریزی شده است، درک کرده و توسعه می‌دهد.

DeepMind قبلاً محافظت در برابر چنین امکانی را ارائه کرده بود و آن را “دکمه بزرگ قرمز” نامیده بود. در مقاله‌ای در سال ۲۰۱۶ با عنوان «عوامل [هوش مصنوعی] شرکت هوش مصنوعی “Safe to Shutdown” چارچوبی را برای جلوگیری از نادیده گرفتن دستورات خاموش کردن و نادیده گرفتن ماشین های پیشرفته ایجاد کرده است. [مانع شدن از] تبدیل آنها به یک عامل سرکش خارج از کنترل را توصیف کرد.

فیلسوفان برجسته، از جمله نیک بوستروم از دانشگاه آکسفورد، قبلاً از تهدید ناشی از اشکال پیشرفته هوش مصنوعی صحبت کرده اند، در حالی که یکی از نویسندگان مقاله جدید می گوید چنین هشدارهایی چندان بعید نیست.

این فیلسوف سوئدی همچنین گفت که اگر توسعه هوش مصنوعی ادامه پیدا نکند، “تراژدی بزرگ” خواهد بود، زیرا هوش مصنوعی توانایی درمان بیماری ها و پیشرفت تمدن را دارد و در غیر این صورت [رسیدن به این موارد] با این سرعت غیر ممکنه