هشدار مدیرعامل سابق گوگل درباره خطرات هوش مصنوعی

«اریک اشمیت»، مدیرعامل سابق گوگل، هشدار می دهد وقتی سیستمی کامپیوتری، مانند هوش مصنوعی، به نقطه  خطرناکی برسد که بتواند خودش را بهبود بخشد، به طور جدی باید به فکر خاموش کردن آن بیفتیم.

اریک اشمیت در مصاحبه ای با ABC News درباره پیشرفت سیستم های کامپیوتری و هوش مصنوعی گفت: «درنهایت وقتی به کامپیوتر می گویید: همه چیز را بیاموز و هر کاری را انجام بده. به نقطه ای خطرناک می رسیم: زمانی که سیستم می تواند خودش را بهبود ببخشد، باید جدی به فکر خاموش کردن آن باشیم.»

مدیرعامل سابق گوگل هشدار می دهد اگر سیستم های هوش مصنوعی بیش از حد قدرتمند شوند، ممکن است به یک کلید برای کشتن آنها نیاز داشته باشیم. به گفته اشمیت، همان طور که سیستم ها به صورت فزاینده خودمختار می شوند، می توانند تهدیدهای جدید و جدی تری برای بشریت ایجاد کنند.

نظرات مدیرعامل سابق گوگل درباره خطرات هوش مصنوعی

اشمیت پیش بینی می کند هوش مصنوعی به مرور از عاملی خاص مانند کوپایلت مایکروسافت به سیستم  پیچیده تری که می تواند به تنهایی تصمیم  بگیرد، پیشرفت خواهد کرد. به گفته او، وقتی هوش مصنوعی به آن مرحله برسد، زمانش فرا می رسد که انسان وارد عمل شود و سیستم را خاموش کند. همچنین انسان ها باید مطمئن شوند خود هوش مصنوعی نمی تواند با خاموش شدنش مقابله کند.

اشمیت گفت: «به صورت استعاری، بهتر است کسی را داشته باشیم که دستش همیشه روی دوشاخه [هوش مصنوعی] باشد.»

اشمیت از جنبه دیگری نیز به این فناوری پیشرفته نگاه می کند؛ او به مجری ABC گفت هوش مصنوعی باعث می شود هر انسانی در جیبش چند فرد باهوش داشته باشد؛ هرکسی در این سیاره می تواند به راحتی «آلبرت اینشتین» یا «لئوناردو داوینچی» برای خودش داشته باشد تا در کارهای مختلف از آنها استفاده کند.

اشمیت بر این باور است که برای اطمینان از اینکه بشر بدون متحمل  شدن خسارات از این مزایا بهره ببرد، دولت ها باید نظارت بر هوش مصنوعی را آغاز کنند. البته فقط او نیست که چنین نظری دارد. پیش ازاین، «سم آلتمن»، مدیرعامل OpenAI، نیز از دولت ها خواسته بود «آژانسی بین المللی»، شبیه آژانس انرژی اتمی، تشکیل بدهند تا از ایمنی مدل های هوش مصنوعی مطمئن شوند.