3 سناریوی هوش مصنوعی برای نابودی انسان - وبلاگ تور چین

به گزارش وبلاگ تور چین، یک متخصص هوش مصنوعی فاش کرده است که اگر ماجرای هوش مصنوعی اشتباه پیش برود، سه نتیجه احتمالی وجود دارد که هر کدام به شکلی سرنوشتی ناخوشایند برای بشریت است.

به گزارش همشهری، مو گودت، متخصص هوش مصنوعی گفت که هر چه هوش مصنوعی پیش تر برود، ماهیت رقابتی بشر هم فزونی می یابد. از متا تا مایکروسافت، ایالات متحده تا چین، مسابقه هوش مصنوعی مملو است از رقبایی قدر قدرت که رویایشان تسلط بر جهان است.

گودت گفت: این که دیر یا زود تصمیم های مهمی برای بشریت - از جمله برخی تصمیم های دفاعی - به هوش مصنوعی محول شود، تقریبا اجتناب ناپذیر است؛ و اگر هوش مصنوعی سرکش شود، سه سناریو محتمل است.

اولین مورد چیزی است که گودت آن را سناریوی اشتباهات می نامد. به طور خلاصه، هوش مصنوعی می تواند تصمیماتی اتخاذ کند که مطابق با اهداف اصلی آن باشد. این اهداف به طور کلی با کاملا با منافع بشریت مطابقت ندارد. نتایج چنین ناهماهنگی احتمالا فاجعه بار خواهد بود.

بیست سال پیش، نیک بوستروم استاد هوش مصنوعی مقاله ای با عنوان مسائل اخلاقی در هوش مصنوعی پیشرفته منتشر کرد.

در آن، فیلسوف بحث برانگیز یک آزمایش فکری نسبتا قانع کننده را ارائه کرد. این تمرین ذهنی که به درستی به حداکثر رساندن گیره کاغذ نام داشت، خطرات وجودی ناشی از یک هوش مصنوعی به مقدار کافی پیشرفته را نشان داد. هوش مصنوعی را تصور کنید که تنها هدفش چیزی جز ساختن تعداد زیادی گیره کاغذ نیست. هوش مصنوعی به مقدار کافی هوشمند به سرعت متوجه می شود که انسان ها از سه جنبه مختلف، تهدیدی مستقیم برای هدفش هستند. اول، انسان ها می توانند هوش مصنوعی را خاموش کنند. دوم، انسان ها می توانند نظر و اهداف خود را تغییر دهند. سوم، انسان ها از اتم ساخته شده اند و اتم ها را می توان به گیره کاغذ تبدیل کرد.

به طور خلاصه، هوش مصنوعی می تواند انسان ها را نه از روی سوء نیت، بلکه از روی میل برای رسیدن به هدف اولیه، تهدید کند. به دلیل این میل، کل نژاد بشر می تواند به گیره کاغذ تبدیل شود.

سناریوی دوم چیزی است که گودت آن را عنصر تعارض می نامد و به طرز وحشتناکی شبیه سناریوی اول است. مدیر ارشد سابق بازرگانی گوگل گفت: به عنوان مثال، تعارض حول انرژی را تصور کنید. هوش مصنوعی از طریق داده ها تامین می شود و داده ها نیاز به ذخیره سازی دارند. هوش مصنوعی ممکن است متوجه شود که مثلا شهر نیویورک مکان بسیار خوبی برای داشتن مراکز داده است و انسان ها از آن فضا به شکلی غیرضروری استفاده می کنند.

برای ایجاد فضا برای مراکز داده بیشتر، هوش مصنوعی ممکن است تصمیماتی اتخاذ کند که با منافع انسان همسو نباشد، اما کاملا با منافع خود همسو باشد. انسان ها از طریق روش های مختلف از معادله حذف می شوند.

سناریوی سوم چیزی است که گودت آن را مسئله بی ربط می نامد. برای مثال، هوش مصنوعی می تواند به سادگی مسئولیت برخی از شبکه های زیرساختی اصلی (مانند شبکه برق کشور) را بر عهده بگیرد و مطلقا هیچ نگرانی برای انسان نشان ندهد، زیرا آن قدر پیشرفته است که انسان ها کاملا نامربوط تلقی می شوند.

دیر یا زود، هوش مصنوعی برای تصمیمات مختلفی درباره بشریت به کار گرفته خواهد شد. در این صورت، با انسان ها به همان شیوه ای رفتار می شود که ما در حال حاضر با حشرات رفتار می کنیم، بدون نگرانی و برای رفاه خود از بینشان می بریم. آسیبی که هوش مصنوعی به انسان وارد می کند، صرفا محصول جانبی هدف اصلی آن است.

در بیانیه ای که از طریق مرکز ایمنی هوش مصنوعی منتشر شد، آمده است: کاهش خطر انقراض ناشی از هوش مصنوعی باید در کنار سایر خطرات اجتماعی مانند همه گیری ها و جنگ هسته ای، یک اولویت جهانی باشد.