ویتالیک بوترین: هوش مصنوعی میتواند بشریت و همه موجودات زنده را بکشد

ویتالیک بوترین، یکی از بنیانگذاران اتریوم هشدار می دهد: «حتی مریخ هم ممکن است ایمن نباشد» اگر هوش مصنوعی فوق هوشمند علیه بشریت باشد.

به گفته ویتالیک بوترین، یکی از بنیانگذاران اتریوم، هوش مصنوعی فوق پیشرفته (AI)، که کنترل نشده باقی بماند، «شانس جدی» برای پیشی گرفتن از انسان برای تبدیل شدن به «نوع راس» بعدی سیاره را دارد.

او گفت، اما این به چگونگی دخالت بالقوه انسان در پیشرفت‌های هوش مصنوعی خلاصه می‌شود .

در یک پست وبلاگی در 27 نوامبر، بوترین، که از سوی برخی به عنوان یک رهبر فکری در فضای ارزهای دیجیتال شناخته می‌شود، استدلال کرد که هوش مصنوعی با سایر اختراعات اخیر – مانند رسانه‌های اجتماعی، پیشگیری از بارداری، هواپیما، اسلحه، چرخ و … تفاوت اساسی دارد. ماشین چاپ – از آنجایی که هوش مصنوعی می تواند نوع جدیدی از “ذهن” ایجاد کند که می تواند علیه منافع انسان باشد، و اضافه می کند:

هوش مصنوعی نوع جدیدی از ذهن است که به سرعت در حال افزایش هوش است و این شانس جدی برای سبقت گرفتن از قوای ذهنی انسان ها و تبدیل شدن به گونه های اوج جدید در این سیاره است.

بوترین استدلال کرد که برخلاف تغییرات آب و هوایی، یک بیماری همه گیر یا جنگ هسته ای ساخته دست بشر، هوش مصنوعی فوق هوشمند می تواند به طور بالقوه به بشریت پایان دهد و هیچ بازمانده ای از خود به جای نگذارد ، به خصوص اگر انسان را تهدیدی برای بقای خود بداند.

«یکی از راه‌هایی که هوش مصنوعی می‌تواند جهان را بدتر کند، (تقریبا) بدترین راه ممکن است: به معنای واقعی کلمه می‌تواند باعث انقراض انسان شود.»

بوترین افزود: «حتی مریخ ممکن است ایمن نباشد».

بوترین به نظرسنجی آگوست 2022 از بیش از 4270 محقق یادگیری ماشین اشاره کرد که 5 تا 10 درصد احتمال می‌دادند که هوش مصنوعی بشریت را بکشد.

با این حال، در حالی که بوترین تاکید کرد که ادعاهای این ماهیت افراطی هستند، راه‌هایی نیز برای غلبه انسان‌ها وجود دارد.

رابط های مغزی و خوش بینی فنی

بوترین ادغام رابط های مغز و کامپیوتر (BCI) را برای ارائه کنترل بیشتر بر اشکال قدرتمند محاسبات و شناخت مبتنی بر هوش مصنوعی پیشنهاد کرد.

BCI یک مسیر ارتباطی بین فعالیت الکتریکی مغز و یک دستگاه خارجی مانند رایانه یا اندام روباتیک است.

بوترین گفت که این امر حلقه ارتباطی دو طرفه بین انسان و ماشین را از ثانیه به میلی ثانیه کاهش می دهد و مهمتر از آن، اطمینان حاصل می کند که انسان درجاتی از “عملکرد معنی دار” را در سراسر جهان حفظ می کند.

بوترین پیشنهاد کرد که این مسیر ایمن‌تر خواهد بود، زیرا انسان‌ها می‌توانند در هر تصمیمی که توسط دستگاه هوش مصنوعی گرفته می‌شود، مشارکت داشته باشند.

ما [می‌توانیم] انگیزه تخلیه مسئولیت برنامه‌ریزی سطح بالا را به خود هوش مصنوعی کاهش دهیم و در نتیجه این احتمال را کاهش دهیم که هوش مصنوعی به تنهایی کاری کاملاً ناهمسو با ارزش‌های بشریت انجام دهد.»

بنیانگذار اتریوم همچنین “نیت فعال انسانی” را برای سوق دادن هوش مصنوعی به سمتی که به نفع بشریت باشد، پیشنهاد کرد، زیرا به حداکثر رساندن سود همیشه انسان ها را به سمت مطلوب ترین مسیر هدایت نمی کند.

بوترین به این نتیجه رسید که “ما، انسان ها، درخشان ترین ستاره در جهان هستیم”، زیرا ما فناوری را برای گسترش پتانسیل انسان برای هزاران سال توسعه داده ایم، و امیدواریم که بسیاری از موارد دیگر در آینده بیایند:

دو میلیارد سال دیگر، اگر زمین یا هر بخشی از کیهان هنوز زیبایی های زندگی زمینی را داشته باشد، این دست ساخته های انسانی مانند سفر فضایی و مهندسی زمین خواهد بود که آن را محقق کرده است.