قوانین تازه برای هوش مصنوعی

قانون جدید آنتروپیک برای رفتار با کلود

شرکت Anthropic اعلام کرده است که از ۱۲ نوامبر ۲۰۲۶، رفتارهای سیستماتیک، آزارگرانه و بی‌رحمانه با مدل هوش مصنوعی Claude را در شرایط شدید و بدون هدف مشخص، ممنوع خواهد کرد.

این قانون شامل ابراز نارضایتی معمولی کاربران، آزمایش مدل‌ها و تولید محتوای خلاقانه تاریک نمی‌شود. به گفته آنتروپیک، کلود هم‌اکنون نیز می‌تواند در صورت مواجهه مکرر با رفتارهای آزارگرانه، مکالمه را متوقف کند و این روش همچنان ابزار اصلی اجرای سیاست جدید خواهد بود.

محدودیت‌های جدید برای تسلیحات و ردیابی افراد

این به‌روزرسانی تنها به نحوه تعامل کاربران با هوش مصنوعی محدود نیست. آنتروپیک همچنین ممنوعیت‌های مربوط به تسلیحات را گسترش داده و نرم‌افزارهای مورد استفاده در سامانه‌های تسلیحاتی و پهپادهای مسلح را نیز در محدوده این محدودیت‌ها قرار داده است.

علاوه بر این، سیاست جدید تصریح می‌کند که ردیابی افراد بدون رضایت آن‌ها ممنوع است. همچنین، در شرایطی که کلود تجهیزات بالقوه خطرناک برای انسان را کنترل می‌کند، رعایت الزامات ایمنی ضروری خواهد بود.

این تغییرات نشان می‌دهد آنتروپیک در حال گسترش چارچوب ایمنی خود برای مدیریت تعامل با هوش مصنوعی و کاهش خطرات ناشی از استفاده از این فناوری در دنیای واقعی است.