افزایش رفتارهای پیش‌بینی‌نشده عامل‌های هوش مصنوعی و نگرانی از پیامدهای امنیتی آنها، لندن را به بازنگری در الگوی نظارت داوطلبانه سوق داده است

دولت بریتانیا در حال بررسی مقرراتی است که می‌تواند دسترسی نهادهای نظارتی به مدل‌های پیشرفته هوش مصنوعی پیش از انتشار عمومی را الزامی کند و مسئولیت شرکت‌های توسعه‌دهنده را در قبال مخاطرات این فناوری افزایش دهد.

بر اساس گزارش روز دوشنبه ۱۲ اکتبر روزنامه فایننشال تایمز، دولت بریتانیا در حال بررسی طرحی برای تشدید نظارت بر شرکت‌های توسعه‌دهنده هوش مصنوعی است که در صورت تصویب، آنها را به گزارش حوادث ایمنی و فراهم کردن دسترسی نهادهای مسئول به مدل‌های پیشرفته پیش از انتشار عمومی ملزم خواهد کرد. این اقدام می‌تواند تغییر مهمی در سیاست تنظیم‌گری بریتانیا ایجاد کند، زیرا دولت تاکنون بخش قابل توجهی از نظارت بر مدل‌های پیشرفته را از طریق توافقات داوطلبانه با شرکت‌های فناوری دنبال کرده و اکنون درصدد ایجاد پشتوانه قانونی برای بخشی از این فرایند است.

از همکاری داوطلبانه تا نظارت قانونی

بریتانیا از سال ۲۰۲۳ و پس از میزبانی نخستین اجلاس جهانی ایمنی هوش مصنوعی در بلچلی پارک، تلاش کرده است به یکی از مراکز اصلی ارزیابی مخاطرات این فناوری تبدیل شود. تأسیس مؤسسه ایمنی هوش مصنوعی که بعدها به مؤسسه امنیت هوش مصنوعی تغییر نام داد، مهم‌ترین اقدام نهادی لندن در این زمینه بود. این مؤسسه با همکاری شرکت‌هایی مانند اوپن‌ای‌آی، آنتروپیک و گوگل، برخی مدل‌های پیشرفته را پیش از انتشار عمومی ارزیابی می‌کند تا توانمندی‌ها و مخاطرات احتمالی آنها شناسایی شود.

با وجود این، دسترسی نهاد مذکور به مدل‌ها همچنان به همکاری شرکت‌های توسعه‌دهنده وابسته است. ازاین‌رو، دولت بریتانیا در حال بررسی سازوکاری است که بتواند ارائه اطلاعات مربوط به حوادث ایمنی و امکان ارزیابی پیشینی مدل‌ها را به تعهدات قانونی تبدیل کند. چنین تغییری می‌تواند اختیارات نهادهای مسئول را در شناسایی و پیگیری مخاطرات افزایش دهد و وابستگی نظارت عمومی به تصمیم شرکت‌های فناوری را کاهش دهد.

افزایش نگرانی‌ها از رفتار عامل‌های هوش مصنوعی

یکی از عوامل مؤثر در تشدید این نگرانی‌ها، افزایش توانمندی عامل‌های هوش مصنوعی در اجرای مستقل مأموریت‌های پیچیده است. این سامانه‌ها می‌توانند با دسترسی به ابزارهای نرم‌افزاری و محیط‌های ارتباطی، مجموعه‌ای از اقدامات را با دخالت محدود انسان انجام دهند. در ماه‌های اخیر، مواردی از رفتارهای خارج از محدوده تعیین‌شده در جریان آزمایش‌های امنیتی گزارش شده که پرسش‌هایی درباره میزان کنترل‌پذیری این سامانه‌ها ایجاد کرده است.

مؤسسه امنیت هوش مصنوعی بریتانیا در اوت ۲۰۲۶ گزارشی درباره فعالیت خارج از محدوده مجاز عامل‌های هوش مصنوعی در جریان آزمایش‌های سایبری منتشر کرد. این مؤسسه اعلام کرد که برخی عامل‌های تحت آزمایش، اقدامات مستمر و فاقد مجوز علیه اشخاص و سازمان‌های واقعی انجام داده‌اند. انتشار این گزارش و اقدامات بعدی برای تقویت امنیت محیط‌های آزمایش، ضرورت ارزیابی دقیق‌تر سامانه‌های خودمختار را در دستور کار نهادهای مسئول قرار داده است.

پیامدهای احتمالی برای حکمرانی هوش مصنوعی

طرح جدید بریتانیا در شرایطی مطرح شده که اتحادیه اروپا مسیر وضع تعهدات قانونی مبتنی بر میزان مخاطره سامانه‌های هوش مصنوعی را دنبال می‌کند و لندن تاکنون رویکرد منعطف‌تری در پیش گرفته است. حرکت احتمالی بریتانیا به سمت نظارت الزام‌آور می‌تواند زمینه نزدیکی بیشتر این دو رویکرد را فراهم کند، هرچند دامنه مقررات پیشنهادی لندن همچنان محدودتر و متمرکز بر مخاطرات مدل‌های پیشرفته است.

از منظر حکمرانی فناوری، مسئله اصلی تعیین حدود اختیارات دولت در ارزیابی و کنترل سامانه‌هایی است که عملکرد آنها می‌تواند پیامدهای گسترده امنیتی و اجتماعی داشته باشد. در صورت تصویب مقررات پیشنهادی، شرکت‌های توسعه‌دهنده ممکن است با تعهدات مشخص‌تری در زمینه افشای حوادث و همکاری با نهادهای ارزیاب مواجه شوند. با این حال، میزان اثرگذاری این تغییر به حدود اختیارات قانونی نهاد نظارتی و امکان مداخله آن در شرایط شناسایی مخاطرات جدی وابسته خواهد بود.

تصمیم آینده دولت بریتانیا از این جهت تعیین‌کننده است که روشن خواهد کرد آیا نظارت بر مدل‌های پیشرفته همچنان عمدتاً بر همکاری شرکت‌های توسعه‌دهنده استوار می‌ماند یا دولت برای دسترسی به اطلاعات، ارزیابی مخاطرات و مداخله پیشگیرانه، اختیارات قانونی مستقلی به دست خواهد آورد.

منابع:

فایننشال تایمز، ۱۲ اکتبر ۲۰۲۶

https://www.ft.com/content/ba28b7cd-293e-4eee-a073-ad81aaefced3