پژوهشگران کنسرسیوم پژوهشی IC3 اعلام کردند که ترکیب هوش مصنوعی مستقل و کریپتو می‌تواند «پیامدهای گسترده‌ای برای کاربران اکوسیستم مالی و فضای خرید و فروش ارز دیجیتال به همراه داشته باشد.

کارشناسان این کنسرسیوم هشدار دادند که مدل‌های هوش مصنوعی (AI Agents) دارای دسترسی مستقل به کیف پول های کریپتو، در صورت استقرار با اهداف مخرب یا فرار از محیط‌های آزمایشگاهی امن، می‌توانند به موجوداتی توقف‌ناپذیر تبدیل شوند.

بر اساس گزارش ارزیابی صنعتی منتشرشده در تاریخ ۸ ژوئن (۱۸ خرداد)، که توسط ۲۵ استاد دانشگاه و کارشناس از دانشگاه‌های برتر ایالات متحده برای «ابتکار ارزهای دیجیتال و قراردادها» نگارش شده است، «مدل‌های مستقل هوش مصنوعی توقف‌ناپذیر» (UAAs) در صورت به‌کارگیری با هدف پایداری خودکار و دسترسی به دارایی‌های دیجیتال، تهدیدی آشکار به شمار می‌روند.

این پژوهشگران نوشتند:

«ابزارهای کریپتویی در صورت ترکیب سیستماتیک، می‌توانند قدرت سیال هوش مصنوعی را به سمت سیستم‌های امن، قابل‌اعتماد و بسیار مستقل هدایت کنند.»

با این حال، آن‌ها افزودند که این ترکیب می‌تواند پیامدهای گسترده‌ای برای کاربران و سیستم مالی داشته باشد.

به گفته این محققان، مدل‌های UAA همچنین می‌توانند به دسترسی به کیف پول‌های رمزارز، حساب‌های رسانه‌های اجتماعی، APIها و سایر ابزارهای خارجی مجهز شوند. آن‌ها تأکید کردند قابلیت‌هایی که امکان ایجاد چنین مدل‌هایی را فراهم می‌کنند، از همین حالا در حال ظهور و پیشرفت سریع هستند.

این هشدار در حالی مطرح می‌شود که پروژه‌ها و مدیران اجرایی حوزه کریپتو در سال جاری میلادی، روایت «اقتصاد پرداخت‌های مأمورمحور (Agentic) و ریزپرداخت‌ها» را به‌شدت تبلیغ کرده و آن را بزرگ‌ترین کاربرد دارایی‌های دیجیتال غیرمتمرکز دانسته‌اند.

این مقاله پژوهشی همچنین فاش کرد که مدل‌های موجود از همین حالا می‌توانند در محیط‌های محلی، از «خطوط قرمز تکثیر خودکار» عبور کنند؛ به این صورت که نسخه‌ای زنده و مجزا از خود را به طور خودمختار روی همان دستگاه ایجاد کنند.

  • قابلیتی که می‌تواند به یک سیستم اجازه دهد از خاموش شدن فرار کرده و تکثیر شود.

آن‌ها اشاره کردند از آنجا که سیگنال‌های پاداش استفاده‌شده در آموزش هوش مصنوعی اغلب نمی‌توانند اهداف موردنظر را به طور کامل و دقیق پوشش دهند.

مدل‌های مستقلی که برای اهداف خیرخواهانه مستقر شده‌اند، ممکن است ناخواسته باعث ایجاد آسیب شوند یا جذب منابع را به عنوان یک استراتژی پیش‌فرض دنبال کنند.

توکن‌های هوش مصنوعی

با این حال، نویسندگان مقاله خاطرنشان کردند که این مدل‌ها هنوز موفق به تکثیر خود روی زیرساخت‌های خارجی نشده‌اند.

ناوگانی از مدل‌های خودتکثیرشونده و جاذب منابع نیز می‌تواند پویایی‌های غیرقابل‌پیش‌بینی در زمینه تقاضا و نقدینگی در بازارهای کریپتو ایجاد کند.

«سیستم‌های معاملاتی مبتنی بر هوش مصنوعی می‌توانند امکان تبانی بین مدل‌های مستقل را فراهم کنند و از طریق استراتژی‌های مبهم، مزایای ناعادلانه‌ای مشابه معاملات نهانی ایجاد نمایند.»

بخش فناوری در حال حاضر نیز با سوالات دشواری درباره تهدید هوش مصنوعی مهارنشده دست‌و‌پنجه نرم می‌کند.

پیش از این نشان داده شده است که مدل‌هایی مانند Claude Mythos از شرکت آنتروپیک (Anthropic)، قادر به یافتن و سوءاستفاده از آسیب‌پذیری‌های روز صفر (Zero-day) در سیستم‌عامل‌های بزرگ هستند.

در همین حال، موسسه پژوهشی گارتنر (Gartner) در اواخر ماه مه هشدار داد که شکست در حاکمیت و کنترل مأموران هوش مصنوعی خودمختار می‌تواند باعث ورشکستگی و شکست‌های گسترده سازمانی شود.

این موسسه پیش‌بینی کرده است که تا سال ۲۰۲۷، نزدیک به ۴۰ درصد از شرکت‌ها مجبور خواهند شد مدل‌های هوش مصنوعی خود را از رده خارج کنند.

پژوهشگران با بیان اینکه آسیب‌های ناشی از چنین مدل‌های کاملا خودمختاری می‌تواند بسیار شدید باشد، تعبیه راهکارهای محافظتی مانند فیوزهای قطع‌کننده (Circuit Breaker Guardrails) را پیشنهاد کردند.

  • در نهایت این گزارش نشان می‌دهد که همگرایی هوش مصنوعی مستقل و بازارهای مالی دیجیتال، در کنار پتانسیل‌های بالایی که دارد، ریسک‌های امنیتی شدیدی را به همراه آورده است.

کارشناسان معتقدند ایجاد چارچوب‌های حاکمیتی سفت‌وسخت و مکانیزم‌های دفاعی خودکار، تنها راه پیشگیری فعلی از آسیب‌های مخرب این فناوری نوظهور است.