خطر هوش مصنوعی جدی است

هوش مصنوعی شطرنج‌ بازی می‌کند، رانندگی می‌کند و حتی در تشخیص پزشکی و بیماری‌های مختلف هم کمک می‌کند. در سال‌های اخیر نمونه‌های زیادی از این فناوری ساخته شده و به کمک بشر امروز آمده است که از این میان می‌توان به AlphaGo کمپانی DeepMind گوگل و خودروی خودران تسلا اشاره کرد. این نوع هوش مصنوعی در‌واقع سیستم‌های هوشمند غیرانسانی است که طبق برنامه‌ریزی‌هایی که برایشان انجام می‌گیرد، کارهای خاصی را می‌توانند انجام دهند و به سرعت هم رشد می‌کنند.

درحالی که این فناوری توانمندی‌های بسیاری دارد، اما مشکلاتی را هم بر سر راه بشر قرار داده است. یکی از بدترین مشکلاتی که به دنبال استفاده از هوش مصنوعی رخ داد، برخورد یک خودروی خودران مجهز به هوش مصنوعی بود که در ماه مارس با عابرپیاده‌ای تصادف کرد و باعث مرگ او شد. محققان هنوز هم مشغول بررسی این پرونده هستند.

  نسل بعدی هوش مصنوعی

به گزارش sciencealert، دانشمندان معتقدند نسل بعدی هوش مصنوعی سهم بیشتری دارد. هوش عمومی مصنوعی یا هوش ماشینی (AGI) قدرت محاسباتی پیشرفته‌ و هوشی برابر با هوش انسان دارد. این سیستم توانایی یادگیری، حل مساله، سازگاری و ارتقا را هم دارد و حتی می‌تواند کارهایی فراتر از وظایف طراحی‌شده برای آن انجام دهد تا حدی که پیشرفت آن ممکن است از خلق‌کننده انسانی هم فراتر رود. معرفی AGI به سرعت باعث ایجاد سوپرهوش مصنوعی ASI می‌شود. البته هنوز هم خبری از این سیستم‌های پیشرفته هوش مصنوعی نیست اما قرار است در پایان قرن حاضر و در سال ۲۰۲۹ سرو کله آنها پیدا شود. شاید در نگاه اول این فناوری‌های هوشمند خیلی کارآمد باشد و کمک‌دست بشر شوند اما در‌واقع، ظهور این پدیده‌ها تازه اول نگرانی است، به‌طوری که انسان قادر به کنترل آنها نخواهد بود.

  خطراتی که AGI به دنبال دارد

بدون‌شک سیستم‌های AGI قادرند بشریت را دگرگون کنند. درست است که این فناوری‌ها از قابلیت‌های شاخصی چون درمان بیماری‌ها، حل چالش‌های جهانی پیچیده‌ای ازقبیل تغییرات آب و هوایی و امنیت غذایی برخوردارند اما شکست انسان در کنترل آنها می‌تواند فجایعی را به دنبال داشته باشد. خطرات احتمالی از این حقیقت ناشی می‌شوند که سیستم‌های سوپرهوش راه‌های کارآمدتری برای انجام کارها شناسایی خواهد کرد و از ترکیب استراتژی‌های خود به‌منظور دستیابی به اهداف و حتی ایجاد اهداف شخصی استفاده می‌کنند.

 به‌طور مثال سیستم هوش مصنوعی AGI را تصور کنید که برای پیشگیری از ویروس HIV تصمیم می‌گیرد این مشکل را با از بین بردن بیماران حامل این ویروس انجام دهد یا اینکه کسی را مسئول کشتن افرادی کند که از نظر ژنتیکی مستعد ابتلا به این ویروس هستند. یا در نمونه‌ای دیگر، پهپادهای نظامی خودکار AGI تصمیم می‌گیرند برای اطمینان از قرار نگرفتن در معرض دشمن، کل یک جامعه را نابود کنند. برای پیشگیری از بروز چنین چالش‌هایی، بشر باید به دنبال طراحی راه‌های ایمنی باشد تا به واسطه‌ آنها بتواند این سیستم‌های هوشمند را مدیریت کرده و خطرات آنها را برای بشریت به حداقل برساند.

  چگونه کنترل کنیم؟

کنترل سیستم‌های هوشمند AGI به آن آسانی هم نیست که فکرش را می‌کنید. کنترل بسیاری از رفتارهای انسانی به واسطه آگاهی، احساسات و استفاده از ارزش‌های اخلاقی در بشر امکان‌پذیر می‌شود، در حالی که AGI به هیچ‌کدام از اینها برای آسیب رساندن به ما نیاز ندارد بنابراین، این راهکارها به درد کنترل سیستم‌های هوش مصنوعی نمی‌خورند. اما با سه روش می‌توان کمی کنترل آنها را در دست گرفت.

 اول اینکه، این کنترل‌ها نیازمند اطمینان از این موضوع هستند که طراحان و توسعه‌دهنده‌های سیستم AGI، سیستم‌های ایمنی را طراحی کرده‌اند. دوم اینکه این کنترل‌ها مانند ارزش‌های اخلاقی، روش‌های عملی و قوانین مربوط به تصمیم‌گیری باید در داخل سیستم‌های AGI ایجاد شوند. از سوی دیگر، کنترل‌هایی را باید به سیستم‌های گسترده‌تری اضافه کرد، به‌طوری که AGI بتواند مقررات، کدهای تمرینی، فرآیندهای عملیاتی استاندارد، سیستم‌های کنترلی و زیرساختی را انجام دهد. اعمال این کنترل‌ها در سیستم‌های هوشمند کمک می‌کند تا بتوان تشخیص داد که چه زمانی به کنترل‌های جدید نیاز داریم. قرن آینده، دورانی حیاتی به شمار می‌رود که فرصتی فراهم می‌شود تا انسان‌ها سیستم‌های AGI امن و کارآمدی را طراحی کنند که به نفع جامعه و بشریت عمل کنند.

ندا اظهری