هشدار ویتالیک بوترین در مورد آینده هوش مصنوعی: جایگزین چیست؟

در 27 نوامبر، ویتالیک بوترین، یکی از بنیانگذاران اتریوم، یک مطلب طولانی در مورد هوش مصنوعی و خطرات احتمالی آن منتشر، و دیدگاه خود را در مورد بحث‌های اخیر پیرامون «خوش‌بینی تکنولوژیکی» و خطرات هوش مصنوعی ارائه کرد.

این مقاله مفهوم «خوش‌بینی تکنولوژیکی» را بررسی و از حمایت مشتاقانه از پیشرفت فناوری حمایت می‌کند. با این حال، بوترین بیان می‌کند که کدام فناوری‌ها، از نظر او، باید تسریع یا کاهش یابد.

ویتالیک استدلال می‌کند که فناوری در قرن گذشته پیشرفت‌های گسترده‌ای در کیفیت زندگی، سلامت، راحتی، دسترسی به اطلاعات و موارد دیگر داشته است. با این وجود، برخی از فناوری‌ها مانند هوش مصنوعی به طور منحصربه‌فردی ریسک‌های بخصوصی از خود نشان داده‌اند – که شامل تهدیدات وجودی ناشی از هوش مصنوعی پیشرفته است که به طور بالقوه تصمیم به حذف بشریت می‌گیرد (همه ما فیلم‌های ترمیناتور را دیده‌ایم).

تلاش راب بنسینگر، محقق MIRI، برای نشان دادن تخمین افراد مختلف از احتمال اینکه هوش مصنوعی یا همه را بکشد یا کاری تقریباً به همان بدی انجام دهد.

ویتالیک یک دیدگاه جایگزین به نام «تسریع دفاعی» یا “d/acc” پیشنهاد کرد. این فرایند شامل تسریع عمدی فناوری‌هایی است که انتظار می‌رود جهان را ایمن‌تر و انعطاف‌پذیرتر کند. همچنین فناوری‌هایی را که احتمالاً قدرت را متمرکز یا خطرات کنترل نشده‌ای ایجاد می‌کنند، محدود یا کند می‌کند.

او چندین نمونه از فناوری‌های «دفاع‌ساز» ارائه کرد که ارزش تسریع دارند. اینها شامل زیرساخت‌ها و فن آوری‌های انعطاف‌پذیر برای پاسخ به همه‌گیری‌ها یا پاندمیک‌ها می‌شود. همچنین شامل رمزگذاری و بلاک چین برای حفظ حریم خصوصی و عدم تمرکز، و ابزارهایی برای توانمندسازی حکومت دموکراتیک است.

جهان‌های دفاع خواه به شکوفایی آرمان‌شهرهای کلاسیک – لیبرال حکومتی کمک می‌کنند. پس بیایید هر کاری که می‌توانیم انجام دهیم تا جهان را دفاعی‌تر کنیم.

او در مورد افزایش اقتدارگرایی دیجیتال و فناوری نظارت توتالیتر (که در حال حاضر وجود دارد) هشدار داد. این می‌تواند علیه مخالفان یا کسانی که از دولت سرپیچی می‌کنند و توسط تعداد انگشت شماری از غول‌های فناوری کنترل می‌شوند، استفاده شود.

بوترین اضافه کرد که بیشتر مردم ترجیح می‌دهند هوش مصنوعیِ بسیار پیشرفته را با یک دهه تاخیر ببینند تا اینکه در انحصار یک گروه یا شرکت واحد باشند.

انسان‌ها درخشان‌ترین ستاره

بوترین، به طور خاص، برای هوش مصنوعی پیشرفته، تمرکز بیشتر بر همکاری هوش مصنوعی و انسان را پیشنهاد کرد. از نظر او، ارتقای شناختی نسبت به سیستم‌های خودمختار نیز در تلاش برای مقابله با خطرات تسلط ابر هوشی، کاربردی است.

ویتالیک عقیده دارد که انسان‌ها «درخشنده‌ترین ستاره» هستند. او پیش از این گفته بود: «خیرهای زیادی می‌تواند از پیشرفت مداوم بشر، به سوی ستاره‌ها و فراتر از آن حاصل شود. اما دوشاخه‌های بزرگی در جاده وجود دارد و ما باید با دقت انتخاب کنیم. شتاب بگیرید، اما با دقت و خوب شتاب بگیرید.»

در همین حال در 26 نوامبر، 18 قدرت بزرگ جهانی توافق‌نامه‌ای غیر الزام‌آور برای ارتقای ایمنی و امنیت هوش مصنوعی امضا کردند.