احتمال 10 یا 20 درصدی نابودی بشر توسط هوش مصنوعی

«ایلان ماسک»، مدیرعامل تسلا و اسپیس ایکس، در یک سمینار گفته است که 10 یا 20 درصد احتمال می دهد که هوش مصنوعی باعث نابودی بشریت شود. بااین حال، او معتقد است که باید این فناوری را پیش برد. این میلیاردر پیش تر نیز در یک تغییر موضع گفته بود که مزایای این فناوری نسبت به معایب آن بیشتر است.

براساس گزارش اینسایدر، ماسک در سمینار Great AI Debate دوباره درباره خطرات فناوری هوش مصنوعی و البته مزایای آن صحبت کرد. او گفت:

«من فکر می کنم احتمال دارد که [هوش مصنوعی] به بشریت پایان دهد؛ احتمالاً با جف هینتون [ملقب به پدرخوانده هوش مصنوعی] موافقم که این احتمال حدود 10 یا 20 درصد یا چیزی شبیه این است.»

ماسک اشاره ای نکرد که چگونه به این رقم رسیده است، بااین حال او از آینده هوش مصنوعی با خوش بینی نسبی یاد می کند.

نظرات ایلان ماسک درباره هوش مصنوعی و نابودی بشر

در این سمینار، ماسک تخمین زد که هوش دیجیتالی تا سال 2030 از مجموع تمام هوش انسانی فراتر خواهد رفت. درحالی که او باور دارد نکات مثبت احتمالی چنین هوشی بیشتر از نکات منفی آن باشد، اذعان کرد که اگر توسعه هوش مصنوعی به مسیر فعلی خود ادامه دهد خطری برای جهان وجود خواهد داشت.

«رومن یامپولسکی»، محقق ایمنی هوش مصنوعی و مدیر آزمایشگاه امنیت سایبری در دانشگاه لوئیزویل آمریکا، می گوید حق با ایلان ماسک است و هوش مصنوعی می تواند خطری برای حیات بشریت باشد؛ اما مالک ایکس در ارزیابی خود کمی محافظه کار است.

به باور یامپولسکی، احتمال اینکه هوش مصنوعی کنترل بشر را در دست بگیرد یا باعث یک رویداد پایان دهنده بشریت شود، بسیار بالاتر از 10 یا 20 درصد است. این محقق هوش مصنوعی می گوید چون کنترل هوش مصنوعی پیشرفته غیرممکن است، تنها امید ما این است که آن را نسازیم.

ایلان ماسک پیش تر درباره بهترین راه برای ایمن نگه داشتن انسان ها از این فناوری گفته بود:

«[هوش مصنوعی] را مجبور به دروغ گفتن نکنید؛ حتی اگر حقیقت ناخوشایند باشد. این موضوع خیلی مهم است.»

دراین باره محققان دریافته اند که وقتی هوش مصنوعی یاد بگیرد به انسان دروغ بگوید، اقدامات ایمنی فعلی برای کنترل هوش مصنوعی تقریباً غیرممکن می شود.