چرا گیتس از هوش مصنوعی می‌ترسد؟

اختصاصی ساقی آذربایجان/ الهام نعمتی منصور: در دنیای تکنولوژی، معمولاً جشن‌ها با معرفی محصولات جدید آغاز می‌شوند؛ اما در پنجاهمین سالگرد تاسیس مایکروسافت، بیل گیتس ترجیح داد با طرح تصویری تکان‌دهنده، فضای جشن را به فضای تامل و حتی اضطراب بدل کند. هشدار او مبنی بر اینکه هوش مصنوعی می‌تواند در دست افراد نادرست، به ابزاری برای مرگ یک میلیارد نفر تبدیل شود، صرفاً یک «اغراق برای جلب توجه» نیست؛ بلکه بازتابی از یک بحران امنیتی عمیق است که نظم جهانی را تهدید می‌کند.

مسئله اصلی، فراتر از پیچیدگی‌های الگوریتمی است. ما با پدیده‌ای روبرو هستیم که ماهیت آن با ابزارهای سنتی متفاوت است. اگر در گذشته، دستیابی به سلاح‌های ویرانگر مستلزم زیرساخت‌های عظیم صنعتی بود، امروز هوش مصنوعی پیشرفته، قدرتِ تخریب را به شکلی «دموکراتیک» در اختیار قرار می‌دهد. این یعنی گروه‌های شبه‌نظامی یا بازیگران غیردولتی، بدون نیاز به کارخانه‌های بزرگ، می‌توانند با استفاده از مدل‌های هوش مصنوعی، توانایی‌های نظامی و سایبری‌ای پیدا کنند که پیش از این تنها در انحصار دولت‌های بزرگ بود. حوادث اخیر — از تلاش گروه‌های شبه‌نظامی برای استفاده از مدل «کلود» در هدایت موشک‌ها گرفته تا ناتوانی سیستم‌های هوش مصنوعی در جلوگیری از هک شدن زیرساخت‌های بهداشتی — نشان می‌دهد که «مرزهای امنیتی» که تا دیروز به آن‌ها تکیه می‌کردیم، در حال فروپاشی هستند.

با این حال، بزرگترین مانع در مسیر رسیدن به امنیت، نه خودِ تکنولوژی، بلکه «بن‌بست سیاسی» در مدیریت آن است. ما در میان یک پارادوکس بزرگ گرفتار شده‌ایم: از یک سو، متخصصان و رهبران فناوری با فریادِ «نیاز به مقررات سخت‌گیرانه»، خواستار ایجاد پادمان‌های (Guardrails) دولتی هستند؛ و از سوی دیگر، فضای سیاسی جهان به شدت با این ایده گسسته شده است.

موضع سخت‌گیرانه سیاستمدارانی همچون دونالد ترامپ، که مقررات‌گذاری را نوعی «موانع اقتصادی» یا «بازی‌های سیاسی» می‌خواند، دقیقاً همان چیزی است که نگرانی گیتس را توجیه می‌کند. وقتی بحثِ «ایمنی» با برچسب‌هایی نظیر «کودن کردن نوآوری» یا «جهان‌گرایی» در تقابل قرار می‌گیرد، سیاستمداران عملاً اجازه می‌دهند سرعت توسعه تکنولوژی، از سرعتِ رسیدنِ قانون پیشی بگیرد. این همان شکافی است که در آن، ابزارها قبل از اینکه «قانونمند» شوند، «قدرتمند» می‌شوند.

در نهایت، باید پذیرفت که در عصر هوش مصنوعی، مفهوم «خودتنظیمی» (Self-regulation) توسط شرکت‌های بزرگ، یک توهم خطرناک است. تکیه بر اخلاقِ شرکت‌های حاکم بر سیلیکون‌ولی، برای مقابله با تهدیدات امنیتی در سطح جهانی کافی نیست. اگر جهان نتواند بر سر یک ائتلاف بین‌المللی برای تعیین استانداردهای ایمنی به توافق برسد، ما شاهد دوران جدیدی از بی‌ثباتی خواهیم بود؛ دورانی که در آن، قدرتِ تخریب، بسیار سریع‌تر از قدرتِ کنترل، رشد خواهد کرد. هشدار گیتس، نه برای ترساندن، بلکه برای یادآوری این حقیقت بود: ما در حال ساختن ابزاری هستیم که اگر کنترلش را از دست بدهیم، دیگر راه بازگشتی نخواهیم داشت.

About Author

وحید خدادادی

See author's posts