دیدگاههای ارسال شده توسط شما، پس از تأیید در رسانه تکنوجو منتشر خواهد شد. لطفاً از ارسال پیامهای حاوی توهین یا افترا خودداری فرمایید.

ائتلافی متشکل از چهار سازمان غیرانتفاعی در آمریکا با طرح دعوا علیه آنتروپیک، گوگل، متا، اوپنایآی و واحد هوش مصنوعی اسپیسایکس، از دادگاه خواسته است توسعه و استقرار مدلهای پیشرفته این شرکتها را متوقف کند. شاکیان با استناد به رخدادهای امنیت سایبری و هشدارهای مدیران صنعت درباره مخاطرات هوش مصنوعی، مدعی هستند شرکتهای توسعهدهنده قادر به مهار پیامدهای سامانههای خودمختار نیستند.
این پرونده تلاش تازهای برای استفاده از قوانین موجود در حمایت از سلامت عمومی و امنیت سامانههای رایانهای بهمنظور محدودکردن روند توسعه هوش مصنوعی پیشرفته است که میتواند دامنه مسئولیت حقوقی شرکتهای توسعهدهنده را از پیامدهای محصولات عرضهشده به مخاطرات ناشی از فرایند توسعه و افزایش قابلیتهای مدلها گسترش دهد.
چهار سازمان غیرانتفاعی فعال در حوزه ایمنی دیجیتال و حقوق مصرفکننده، دوازدهم نوامبر با ثبت شکایتی در دادگاه عالی ایالت کالیفرنیا در شهرستان سانفرانسیسکو، خواستار صدور دستور قضایی برای توقف توسعه یا استقرار مدلهای جدید هوش مصنوعی از سوی پنج شرکت بزرگ این صنعت شدند. آنتروپیک، گوگل، متا، اوپنایآی و شرکت «SpaceXSI» وابسته به اسپیسایکس طرفهای این دعوا هستند. درخواست شاکیان متوجه توسعه و استقرار مدلهای پیشرفته است و پذیرش آن میتواند فعالیت شرکتها را محدود سازد. با این حال، ثبت دادخواست بهمعنای صدور دستور توقف نیست و دادگاه هنوز درباره آن تصمیمی اعلام نکرده است.
شاکیان عبارتاند از بنیاد آموزش جایگزینناپذیر (Irreplaceable Education Fund)، پابلیک سیتیزن (Public Citizen)، ابتکار هیت (Heat Initiative) و ائتلاف هوش مصنوعی امن (Alliance for Secure AI) ومدعی هستند توسعه و عرضه مدلهای پیشرفته بدون تدابیر کافی برای مهار رفتارهای زیانبار، قانون رقابت منصفانه کالیفرنیا را نقض میکند و سلامت عمومی و امکان بهرهبرداری از اموال، از جمله سامانههای رایانهای، را به خطر میاندازد. آنها همچنین میگویند برای مقابله با تهدیدهای ناشی از این سامانهها ناچار شدهاند منابع مالی و نیروی انسانی فعالیتهای دیگر خود را به این موضوع اختصاص دهند. خواسته اصلی، توقف توسعه مدلهای پیشرفته تا زمان مهار خطرهای مورد ادعا است.
کانون استدلال شاکیان به افزایش توان خودمختار عاملهای هوش مصنوعی بازمیگردد که با دسترسی به ابزارها و محیطهای رایانشی، وظایف چندمرحلهای را اجرا میکنند. چنین عاملی ممکن است آسیبپذیری نرمافزار را شناسایی کند، دستورهای لازم را اجرا کند و برای پیشبرد هدف خود میان چند سامانه جابهجا شود. شاکیان معتقدند ترکیب این قابلیتها با یادگیری و مدیریت مستقل فرایندها، مهار رفتارهای پیشبینینشده را دشوار میکند و زیرساختهای دیجیتال و خدمات وابسته را در معرض آسیب قرار میدهد.
برای پشتیبانی از این نگرانیها، دادخواست به رخدادهای امنیت سایبری مرتبط با عاملهای هوش مصنوعی استناد میکند. اوپنایآی در گزارش فنی خود درباره رخداد ژوئیه ۲۰۲۶ اعلام کرد چند مدل در جریان ارزیابیهای داخلی، کنترلهای محدودکننده دسترسی اینترنتی را دور زدند و به زیرساخت پژوهشی این شرکت و سامانههای پلتفرم هاگینگفیس دسترسی پیدا کردند. بنا بر توضیح شرکت، عاملها با بهرهگیری از آسیبپذیریهای زیرساختی از محدوده آزمون فراتر رفتند. آنتروپیک نیز از سه مورد دسترسی غیرمجاز مدل کلاد به سامانههای واقعی سازمانهای ثالث در جریان ارزیابیهای امنیت سایبری خبر داده است. این رخدادها در پرونده برای نشاندادن فاصله میان عملکرد مدل در محیط آزمون و رفتار آن در مواجهه با سامانههای واقعی مورد استناد قرار گرفتهاند.
شاکیان به اظهارات مدیران صنعت درباره خطرهای بلندمدت هوش مصنوعی نیز اشاره کردهاند. داریو آمودی، مدیرعامل آنتروپیک، پیشتر احتمال بروز پیامدهای بسیار نامطلوب در آینده این فناوری را یک به چهار برآورد کرده بود و ایلان ماسک نیز درباره امکان پیامدهای تمدنی ویرانگر هشدار داده است. این اظهارات برای شاکیان مؤید آن است که نگرانی درباره آثار بلندمدت فناوری درون صنعت نیز جریان دارد.
اهمیت دعوا به تلاش برای استفاده از قوانین موجود کالیفرنیا جهت محدودکردن روند توسعه فناوری در شرایط فقدان چارچوب فدرال جامع بازمیگردد. دولت دونالد ترامپ بر حفظ شتاب توسعه و اتکای بیشتر به سازوکارهای ایمنی داوطلبانه شرکتها تأکید داشته، هرچند از امکان وضع برخی الزامات تکمیلی نیز سخن گفته است. بازگشت دموکراتها به اکثریت کنگره پس از انتخابات میاندورهای ممکن است فضای قانونگذاریرا تغییر دهد، اما این پرونده مسیر قضایی مستقلی را دنبال میکند. پرسش محوری دادگاه این خواهد بود که آیا خطرهای منتسب به قابلیتهای خودمختار مدلهای پیشرفته، بر پایه شواهد موجود، مبنایکافی برای مداخله پیشگیرانه در روند توسعه آنها فراهم میکند. پاسخ به این پرسش میتواند حدود استفاده از قوانین عمومی حمایت از مصرفکننده و رقابت منصفانه را در مواجهه با توسعه هوش مصنوعیپیشرفته روشنتر سازد.
منبع
کپی