تکنوجو

TECHNOJO

رسانه تخصصی فناوری و هوش مصنوعی

خانه
سبک زندگی
تاریخ و تمدن
سیاست و اقتصاد
دنیای هنر
انسان رسانه
تصاویر روز
صدای انقلاب

تکنوجوTECHNOJO

تکنوجو؛ پایگاه تخصصی فناوری اطلاعات و هوش مصنوعی — آخرین اخبار، تحلیل‌ها و رویدادهای دنیای فناوری را با ما دنبال کنید.

خدمات و دسترسی سریع

  • صفحه اصلی
  • درباره ما
  • تماس با ما
  • جستجو و آرشیو

نمادهای اعتماد و ارتباط

نماد اعتماد الکترونیکی

© تمامی حقوق مادی و معنوی برای رسانه تکنوجو محفوظ است. ۱۴۰۳ - ۲۰۲۶

حریم خصوصی•شرایط استفاده•تبلیغات هوشمند
امروز
آمریکا و ۹ کشور دیگر اعلامیه حفاظت از زنجیره تأمین هوش مصنوعی را امضا کردند

آمریکا و ۹ کشور دیگر اعلامیه حفاظت از زنجیره تأمین هوش مصنوعی را امضا کردند

افشای انتقال ۳٫۵ میلیون تصویر از شهروندان فلسطینی به زیرساخت تشخیص چهره آمازون

افشای انتقال ۳٫۵ میلیون تصویر از شهروندان فلسطینی به زیرساخت تشخیص چهره آمازون

بررسی ضوابط گزارش‌دهی حوادث سایبری عامل‌های خودمختار در کاخ سفید

بررسی ضوابط گزارش‌دهی حوادث سایبری عامل‌های خودمختار در کاخ سفید

فرانسه مرکز بین‌المللی هوش مصنوعی دفاعی را در رن ایجاد می‌کند

فرانسه مرکز بین‌المللی هوش مصنوعی دفاعی را در رن ایجاد می‌کند

نروژ تخصیص برق به مراکز داده جدید را متوقف کرد

نروژ تخصیص برق به مراکز داده جدید را متوقف کرد

رقابت شرکت‌های هوش مصنوعی چین برای رزرو ظرفیت پردازشی انویدیا

رقابت شرکت‌های هوش مصنوعی چین برای رزرو ظرفیت پردازشی انویدیا

چهار سازمان آمریکایی خواستار توقف توسعه هوش مصنوعی پیشرفته شدند

چهار سازمان آمریکایی خواستار توقف توسعه هوش مصنوعی پیشرفته شدند

اعلام آمادگی مشروط ترامپ برای پذیرش ضوابط ایمنی هوش مصنوعی در رقابت با چین

اعلام آمادگی مشروط ترامپ برای پذیرش ضوابط ایمنی هوش مصنوعی در رقابت با چین

گزارش و
تحلیل ها

آخرین خبرها

image

گسترش همکاری‌های فناورانه در چارچوب ابتکار پکس سیلیکا

image

ابعاد تازه همکاری آمازون با ارتش اسرائیل

image

اختلال گسترده در زنجیره تأمین نرم‌افزارهای نظامی

image

تثبیت محدودیت قضایی بر مداخله دولت در پلتفرم‌ها

image

تلاش آمریکا برای بازنگری در مسئولیت شرکت‌های هوش مصنوعی

image

تلاش پاریس برای کاهش وابستگی به فناوری نظامی آمریکا

image

بازنگری در سیاست توسعه زیرساخت‌های دیجیتال با محوریت امنیت انرژی

دیگر ویدئو ها

دیدگاه‌ها و نظرات

دیدگاه‌های ارسال شده توسط شما، پس از تأیید در رسانه تکنوجو منتشر خواهد شد. لطفاً از ارسال پیام‌های حاوی توهین یا افترا خودداری فرمایید.

hey

شکایت علیه پنج غول فناوری با محوریت خطرهای خارج‌شدن مدل‌ها از کنترل

ائتلافی متشکل از چهار سازمان غیرانتفاعی در آمریکا با طرح دعوا علیه آنتروپیک، گوگل، متا، اوپن‌ای‌آی و واحد هوش مصنوعی اسپیس‌ایکس، از دادگاه خواسته است توسعه و استقرار مدل‌های پیشرفته این شرکت‌ها را متوقف کند. شاکیان با استناد به رخدادهای امنیت سایبری و هشدارهای مدیران صنعت درباره مخاطرات هوش مصنوعی، مدعی هستند شرکت‌های توسعه‌دهنده قادر به مهار پیامدهای سامانه‌های خودمختار نیستند.

این پرونده تلاش تازه‌ای برای استفاده از قوانین موجود در حمایت از سلامت عمومی و امنیت سامانه‌های رایانه‌ای به‌منظور محدودکردن روند توسعه هوش مصنوعی پیشرفته است که می‌تواند دامنه مسئولیت حقوقی شرکت‌های توسعه‌دهنده را از پیامدهای محصولات عرضه‌شده به مخاطرات ناشی از فرایند توسعه و افزایش قابلیت‌های مدل‌ها گسترش دهد.

چهار سازمان غیرانتفاعی فعال در حوزه ایمنی دیجیتال و حقوق مصرف‌کننده، دوازدهم نوامبر با ثبت شکایتی در دادگاه عالی ایالت کالیفرنیا در شهرستان سان‌فرانسیسکو، خواستار صدور دستور قضایی برای توقف توسعه یا استقرار مدل‌های جدید هوش مصنوعی از سوی پنج شرکت بزرگ این صنعت شدند. آنتروپیک، گوگل، متا، اوپن‌ای‌آی و شرکت «SpaceXSI» وابسته به اسپیس‌ایکس طرف‌های این دعوا هستند. درخواست شاکیان متوجه توسعه و استقرار مدل‌های پیشرفته است و پذیرش آن می‌تواند فعالیت شرکت‌ها را محدود سازد. با این حال، ثبت دادخواست به‌معنای صدور دستور توقف نیست و دادگاه هنوز درباره آن تصمیمی اعلام نکرده است.

شاکیان عبارت‌اند از بنیاد آموزش جایگزین‌ناپذیر (Irreplaceable Education Fund)، پابلیک سیتیزن (Public Citizen)، ابتکار هیت (Heat Initiative) و ائتلاف هوش مصنوعی امن (Alliance for Secure AI) ومدعی‌ هستند توسعه و عرضه مدل‌های پیشرفته بدون تدابیر کافی برای مهار رفتارهای زیان‌بار، قانون رقابت منصفانه کالیفرنیا را نقض می‌کند و سلامت عمومی و امکان بهره‌برداری از اموال، از جمله سامانه‌های رایانه‌ای، را به خطر می‌اندازد. آن‌ها همچنین می‌گویند برای مقابله با تهدیدهای ناشی از این سامانه‌ها ناچار شده‌اند منابع مالی و نیروی انسانی فعالیت‌های دیگر خود را به این موضوع اختصاص دهند. خواسته اصلی، توقف توسعه مدل‌های پیشرفته تا زمان مهار خطرهای مورد ادعا است.

کانون استدلال شاکیان به افزایش توان خودمختار عامل‌های هوش مصنوعی بازمی‌گردد که با دسترسی به ابزارها و محیط‌های رایانشی، وظایف چندمرحله‌ای را اجرا می‌کنند. چنین عاملی ممکن است آسیب‌پذیری نرم‌افزار را شناسایی کند، دستورهای لازم را اجرا کند و برای پیشبرد هدف خود میان چند سامانه جابه‌جا شود. شاکیان معتقدند ترکیب این قابلیت‌ها با یادگیری و مدیریت مستقل فرایندها، مهار رفتارهای پیش‌بینی‌نشده را دشوار می‌کند و زیرساخت‌های دیجیتال و خدمات وابسته را در معرض آسیب قرار می‌دهد.

برای پشتیبانی از این نگرانی‌ها، دادخواست به رخدادهای امنیت سایبری مرتبط با عامل‌های هوش مصنوعی استناد می‌کند. اوپن‌ای‌آی در گزارش فنی خود درباره رخداد ژوئیه ۲۰۲۶ اعلام کرد چند مدل در جریان ارزیابی‌های داخلی، کنترل‌های محدودکننده دسترسی اینترنتی را دور زدند و به زیرساخت پژوهشی این شرکت و سامانه‌های پلتفرم هاگینگ‌فیس دسترسی پیدا کردند. بنا بر توضیح شرکت، عامل‌ها با بهره‌گیری از آسیب‌پذیری‌های زیرساختی از محدوده آزمون فراتر رفتند. آنتروپیک نیز از سه مورد دسترسی غیرمجاز مدل کلاد به سامانه‌های واقعی سازمان‌های ثالث در جریان ارزیابی‌های امنیت سایبری خبر داده است. این رخدادها در پرونده برای نشان‌دادن فاصله میان عملکرد مدل در محیط آزمون و رفتار آن در مواجهه با سامانه‌های واقعی مورد استناد قرار گرفته‌اند.

شاکیان به اظهارات مدیران صنعت درباره خطرهای بلندمدت هوش مصنوعی نیز اشاره کرده‌اند. داریو آمودی، مدیرعامل آنتروپیک، پیش‌تر احتمال بروز پیامدهای بسیار نامطلوب در آینده این فناوری را یک به چهار برآورد کرده بود و ایلان ماسک نیز درباره امکان پیامدهای تمدنی ویرانگر هشدار داده است. این اظهارات برای شاکیان مؤید آن است که نگرانی درباره آثار بلندمدت فناوری درون صنعت نیز جریان دارد.

اهمیت دعوا به تلاش برای استفاده از قوانین موجود کالیفرنیا جهت محدودکردن روند توسعه فناوری در شرایط فقدان چارچوب فدرال جامع بازمی‌گردد. دولت دونالد ترامپ بر حفظ شتاب توسعه و اتکای بیشتر به سازوکارهای ایمنی داوطلبانه شرکت‌ها تأکید داشته، هرچند از امکان وضع برخی الزامات تکمیلی نیز سخن گفته است. بازگشت دموکرات‌ها به اکثریت کنگره پس از انتخابات میان‌دوره‌ای ممکن است فضای قانون‌گذاریرا تغییر دهد، اما این پرونده مسیر قضایی مستقلی را دنبال می‌کند. پرسش محوری دادگاه این خواهد بود که آیا خطرهای منتسب به قابلیت‌های خودمختار مدل‌های پیشرفته، بر پایه شواهد موجود، مبنایکافی برای مداخله پیشگیرانه در روند توسعه آن‌ها فراهم می‌کند. پاسخ به این پرسش می‌تواند حدود استفاده از قوانین عمومی حمایت از مصرف‌کننده و رقابت منصفانه را در مواجهه با توسعه هوش مصنوعیپیشرفته روشن‌تر سازد.

منبع

https://apnews.com/article/artificial-intelligence-ai-lawsuit-cyberattacks-anthropic-openai-03ece37b96979fe834f60976648504ba

 

هوش مصنوعی
توقف هوش مصنوعی
شکایت علیه هوش مصنوعی
پیشرفت هوش مصنوعی
خطرات پیشرفت هوش مصنوعی
آمریکا
هوش مصنوعی آمریکا

کپی