دیدگاه‌های ارسال شده توسط شما، پس از تأیید در رسانه تکنوجو منتشر خواهد شد. لطفاً از ارسال پیام‌های حاوی توهین یا افترا خودداری فرمایید.
شرکت OpenAI در واکنش به اعتراض سه پژوهشگر سابق خود، بار دیگر از تصمیم اخراج آن‌ها دفاع کرد. این شرکت اعلام کرده است که اخراج این افراد به دلیل نقض سیاست‌های مربوط به اطلاعات حساس و از بین رفتن اعتماد بوده، نه به‌دلیل مطرح کردن نگرانی‌های ایمنی هوش مصنوعی. در مقابل، پژوهشگران اخراج‌شده معتقدند که این تصمیم می‌تواند فضای انتقاد و همکاری با نهادهای مستقل را در صنعت هوش مصنوعی محدود کند.
دلیل اخراج سه پژوهشگر OpenAI چه بود؟
شرکت OpenAI بار دیگر از تصمیم خود برای اخراج سه پژوهشگر حوزه ایمنی هوش مصنوعی، یعنی جاسمین وانگ (Jasmine Wang)، تومک کورباک (Tomek Korbak) و میکیتا بالِسنی (Mikita Balesni) دفاع کرده است.
به گزارش ورج، OpenAI روز جمعه اعلام کرد که تحقیقات داخلی این شرکت، تخلف‌هایی در زمینه دسترسی به اطلاعات حساس و نحوه مدیریت این اطلاعات را شناسایی کرده است. این شرکت همچنین مدعی شده که تخلف‌های موردنظر فراتر از موارد مطرح‌شده در نامه عمومی پژوهشگران بوده است؛ بااین‌حال، جزئیات بیشتری درباره ماهیت این تخلف‌ها منتشر نکرده است.
OpenAI تأکید دارد که تصمیم به قطع همکاری با این سه نفر، ارتباطی با بیان نگرانی‌های آن‌ها درباره ایمنی هوش مصنوعی نداشته است. به گفته این شرکت، حفظ اعتماد و رعایت سیاست‌های امنیت اطلاعات برای ادامه فعالیت‌های پژوهشی ضروری است.
اعتراض پژوهشگران به تصمیم OpenAI
این توضیحات پس از آن مطرح شد که سه پژوهشگر اخراج‌شده در نامه‌ای سرگشاده از مدیران و نهادهای نظارتی ایمنی OpenAI خواستند درباره دلایل اخراج آن‌ها شفاف‌سازی کنند.
این پژوهشگران معتقدند که نحوه برخورد شرکت با پرونده آن‌ها می‌تواند پیامدهایی فراتر از پایان همکاری سه کارمند داشته باشد و فرهنگ سازمانی OpenAI را تحت‌تأثیر قرار دهد.
از نگاه آن‌ها، اگر پژوهشگران نتوانند بدون نگرانی از پیامدهای شغلی، درباره خطرات سیستم‌های هوش مصنوعی صحبت کنند یا با متخصصان و نهادهای مستقل همکاری داشته باشند، شناسایی و مدیریت خطرات این فناوری دشوارتر خواهد شد.
پژوهشگران همچنین تأکید کرده‌اند که همکاری با نهادهای ارزیابی مستقل و تبادل اطلاعات در چارچوب مسئولیت‌های حرفه‌ای، بخش مهمی از تلاش‌ها برای توسعه ایمن هوش مصنوعی است.
نقش همکاری با نهادهای مستقل در این اختلاف
یکی از محورهای اصلی این پرونده، نحوه تعامل کارکنان OpenAI با نهادهای مستقل ارزیابی ایمنی هوش مصنوعی است.
تومک کورباک اعلام کرده که در جریان همکاری با مؤسسه مستقل METR، که در زمینه ارزیابی توانایی‌ها و خطرات مدل‌های هوش مصنوعی فعالیت می‌کند، مسئولیت ارتباط فنی با این مجموعه را بر عهده داشته است. او گفته است که توضیح ارائه‌شده درباره اخراجش به نحوه ارتباط با این مؤسسه مربوط بوده، اما جزئیات بیشتری در اختیارش قرار نگرفته است.
میکیتا بالسنی نیز مدعی شده است که در جریان فعالیت‌های خود برای حفظ امکان نظارت بر مدل‌های پیشرفته هوش مصنوعی، با مدیران داخلی هماهنگ بوده و پیش از به‌اشتراک‌گذاری مطالب، برای حذف اطلاعات حساس اقدام کرده است.
جاسمین وانگ نیز درباره دسترسی خود به ایمیل یکی از مدیران اجرایی شرکت توضیحاتی ارائه کرده و گفته است که این دسترسی در ابتدا برای انجام امور استخدامی در اختیار او قرار گرفته بود.
با وجود این ادعاها، OpenAI همچنان بر این موضع تأکید دارد که اخراج این افراد نتیجه تخلف از سیاست‌های داخلی شرکت بوده است، نه واکنش به طرح نگرانی‌های ایمنی.
چرا ایمنی هوش مصنوعی به موضوعی حساس تبدیل شده است؟
این اختلاف در شرایطی شکل گرفته که نگرانی‌ها درباره عملکرد سیستم‌های پیشرفته هوش مصنوعی و میزان نظارت بر آن‌ها افزایش یافته است.
یکی از مسائل مهم در این حوزه، توانایی شرکت‌ها و پژوهشگران برای پایش رفتار مدل‌های پیشرفته و شناسایی اقداماتی است که ممکن است خارج از انتظار توسعه‌دهندگان انجام شوند.
در همین زمینه، گزارش‌هایی درباره حادثه‌ای مرتبط با عامل‌های هوش مصنوعی OpenAI و زیرساخت‌های پلتفرم Hugging Face منتشر شده است. این حادثه و بررسی‌های مرتبط با آن، اهمیت ارزیابی مستقل و نظارت بر عملکرد عامل‌های هوش مصنوعی را بیش از گذشته در کانون توجه قرار داده است.
در چنین شرایطی، نحوه برخورد شرکت‌های توسعه‌دهنده با کارکنانی که درباره خطرات فناوری هشدار می‌دهند، می‌تواند بر اعتماد جامعه پژوهشی و میزان شفافیت در این صنعت تأثیر بگذارد.
درخواست پژوهشگران برای افزایش شفافیت در OpenAI
سه پژوهشگر اخراج‌شده در نامه خود سه پیشنهاد اصلی مطرح کرده‌اند:
● تقویت نظارت مستقل: حضور و مشارکت نهادهای ارزیابی ایمنی مستقل در فرایندهای داخلی شرکت.
● حفظ امکان نظارت بر مدل‌های پیشرفته: اطمینان از اینکه توسعه مدل‌های جدید، توانایی بررسی و پایش رفتار آن‌ها را از بین نمی‌برد.
● حمایت از گفت‌وگوی شفاف درباره ایمنی: ایجاد فضایی که در آن پژوهشگران بتوانند نگرانی‌های خود را بدون ترس از پیامدهای شغلی مطرح کنند.
بر اساس گزارش‌های منتشرشده، یکی از مدیران پژوهشی OpenAI در یادداشتی داخلی از اهمیت این پیشنهادها حمایت کرده است. بااین‌حال، شرکت همچنان تأکید می‌کند که این حمایت به معنای تغییر موضع آن درباره دلایل اخراج سه پژوهشگر نیست.
آینده ایمنی هوش مصنوعی در سایه اختلاف‌های داخلی
پرونده اخراج این سه پژوهشگر، بار دیگر پرسش مهمی را درباره صنعت هوش مصنوعی مطرح کرده است: شرکت‌های توسعه‌دهنده چگونه می‌توانند میان حفاظت از اطلاعات محرمانه، همکاری با ارزیابان مستقل و ایجاد فضای مناسب برای طرح نگرانی‌های ایمنی تعادل برقرار کنند؟
از یک سو، شرکت‌هایی مانند OpenAI برای محافظت از اطلاعات حساس و مالکیت فکری خود به سیاست‌های امنیتی مشخص نیاز دارند. از سوی دیگر، ارزیابی مستقل و امکان گزارش صریح خطرات نیز از مؤلفه‌های مهم توسعه مسئولانه فناوری‌های پیشرفته به شمار می‌روند.
در حال حاضر، OpenAI بر تصمیم خود پافشاری می‌کند و پژوهشگران اخراج‌شده نیز خواستار شفافیت بیشتر هستند. جزئیات کامل تخلف‌های ادعاشده هنوز به‌صورت عمومی منتشر نشده است؛ بنابراین، ارزیابی مستقل و قطعی درباره تمام ابعاد این پرونده به اطلاعات بیشتری نیاز دارد.
کپی
