دیدگاه‌های ارسال شده توسط شما، پس از تأیید در رسانه تکنوجو منتشر خواهد شد. لطفاً از ارسال پیام‌های حاوی توهین یا افترا خودداری فرمایید.
آیا هوش مصنوعی می‌تواند جهان را از دریچه فرهنگ‌های مختلف ببیند یا بیشتر بازتاب‌دهنده ارزش‌ها و باورهای جوامعی است که داده‌های آموزشی آن را تولید کرده‌اند؟ پژوهشی درباره مدل‌های GPT و مقایسه پاسخ‌های آن‌ها با داده‌های روان‌شناختی و فرهنگی مردم ۶۵ کشور، بار دیگر مسئله سوگیری فرهنگی در هوش مصنوعی را به مرکز توجه آورده است.
پژوهش درباره ChatGPT چه می‌گوید؟
بر اساس نتایج گزارش‌شده از این پژوهش، پاسخ‌های مدل‌های GPT در برخی سنجش‌های فرهنگی، هم‌خوانی بیشتری با الگوهای فکری آمریکایی‌ها نشان داده‌اند تا با الگوهای مشاهده‌شده در بسیاری از جوامع دیگر.
در این بررسی، پاسخ‌های هوش مصنوعی با داده‌های روان‌شناختی و فرهنگی مردم کشورهای مختلف مقایسه شده‌اند. همچنین، برای بررسی شباهت میان دیدگاه‌های مدل‌های زبانی و ارزش‌های جوامع گوناگون، از داده‌های «پیمایش جهانی ارزش‌ها» (World Values Survey) استفاده شده است.
نتایج گزارش‌شده حاکی از آن است که پاسخ‌های GPT در برخی ابعاد به دیدگاه‌های رایج در ایالات متحده، بریتانیا، کانادا و کشورهای اروپای غربی نزدیک‌ترند؛ درحالی‌که در مقایسه با برخی جوامع دیگر، از جمله اتیوپی، پاکستان و قرقیزستان، تفاوت بیشتری دارند.
بااین‌حال، این یافته‌ها به معنای آن نیست که تمام پاسخ‌های هوش مصنوعی آمریکایی هستند یا همه مردم یک کشور الگوی فکری یکسانی دارند. میزان هم‌خوانی فرهنگی به نوع سؤال، روش سنجش و ابعاد مورد بررسی بستگی دارد.
تفکر WEIRD چیست و چه ارتباطی با هوش مصنوعی دارد؟
در روان‌شناسی و علوم رفتاری، اصطلاح WEIRD برای توصیف گروهی از جوامع به کار می‌رود که ویژگی‌های مشترکی دارند. این واژه از حروف اول پنج کلمه انگلیسی تشکیل شده است:
● W – Western: غربی
● E – Educated: تحصیل‌کرده
● I – Industrialized: صنعتی‌شده
● R – Rich: ثروتمند
● D – Democratic: دموکراتیک
این اصطلاح به این مسئله اشاره دارد که بخش مهمی از پژوهش‌های روان‌شناسی و علوم رفتاری بر جوامعی متمرکز بوده‌اند که عمدتاً در کشورهای غربی، صنعتی، ثروتمند و دموکراتیک زندگی می‌کنند.
مشکل زمانی ایجاد می‌شود که یافته‌های به‌دست‌آمده از این جوامع، بدون بررسی کافی، به همه انسان‌ها تعمیم داده شوند.
همین نگرانی درباره هوش مصنوعی نیز مطرح است. اگر بخش قابل‌توجهی از داده‌های آموزشی یک مدل زبانی از منابعی تأثیر بگیرد که بازتاب‌دهنده دیدگاه‌های جوامع غربی هستند، ممکن است پاسخ‌های آن نیز در برخی موقعیت‌ها با همان ارزش‌ها و پیش‌فرض‌ها هم‌خوانی بیشتری داشته باشند.
چه کسی به هوش مصنوعی یاد داده است که فکر کند؟
پاسخ کوتاه این است: انسان‌ها، داده‌ها و فرایندهای آموزش مدل.
مدل‌هایی مانند ChatGPT با استفاده از مجموعه‌های گسترده‌ای از داده‌های متنی و دیگر روش‌های آموزشی توسعه پیدا می‌کنند. این داده‌ها می‌توانند شامل کتاب‌ها، مقالات، وب‌سایت‌ها و انواع دیگری از محتوا باشند.
اما داده‌ها صرفاً مجموعه‌ای خنثی از اطلاعات نیستند. آن‌ها بازتاب‌دهنده زبان، تاریخ، ارزش‌ها، ساختارهای اجتماعی و حتی اختلاف‌نظرهای جوامعی هستند که محتوا را تولید کرده‌اند.
از سوی دیگر، انتخاب داده‌های آموزشی، طراحی فرایند آموزش و بازخوردهای انسانی نیز می‌توانند بر پاسخ‌های نهایی مدل اثر بگذارند.
بنابراین، اگر برخی فرهنگ‌ها در داده‌های آموزشی حضور پررنگ‌تری داشته باشند و برخی دیگر کمتر بازنمایی شوند، این عدم توازن ممکن است در پاسخ‌های هوش مصنوعی نیز نمود پیدا کند.
البته این موضوع به معنای آن نیست که مدل صرفاً دیدگاه‌های تولیدکنندگان داده را تکرار می‌کند. رفتار مدل‌های زبانی حاصل تعامل پیچیده‌ای میان داده‌های آموزشی، معماری مدل، روش‌های تنظیم و دستورالعمل‌های مورد استفاده است.
چرا سوگیری فرهنگی هوش مصنوعی اهمیت دارد؟
سوگیری فرهنگی در هوش مصنوعی صرفاً یک مسئله نظری یا دانشگاهی نیست. این موضوع می‌تواند بر نحوه استفاده از فناوری در زندگی روزمره، آموزش، کسب‌وکار و ارتباطات میان‌فرهنگی تأثیر بگذارد.
۱. تفاوت فرهنگی ممکن است به‌اشتباه نادیده گرفته شود
هنجارهای اجتماعی، شیوه‌های ارتباطی و برداشت مردم از مفاهیمی مانند آزادی، مسئولیت فردی، خانواده و عدالت در فرهنگ‌های مختلف یکسان نیستند.
اگر هوش مصنوعی در پاسخ‌گویی، یک الگوی فرهنگی را معیار پیش‌فرض قرار دهد، ممکن است نتواند تفاوت‌های فرهنگی را به‌درستی درک کند یا توضیح دهد.
۲. پاسخ‌های ظاهراً بی‌طرفانه ممکن است پیش‌فرض‌های فرهنگی داشته باشند
پاسخ‌های هوش مصنوعی معمولاً با لحنی منسجم و مطمئن ارائه می‌شوند. همین ویژگی ممکن است باعث شود کاربران، مفروضات فرهنگی نهفته در پاسخ‌ها را به‌سادگی تشخیص ندهند.
برای مثال، توصیه‌ای که در یک جامعه منطقی یا مناسب به نظر می‌رسد، ممکن است در جامعه‌ای دیگر با ارزش‌ها، ساختارهای خانوادگی یا هنجارهای اجتماعی متفاوتی روبه‌رو شود.
۳. فرهنگ‌های کمتر بازنمایی‌شده ممکن است سهم کمتری در تعریف دانش داشته باشند
اگر زبان‌ها، تجربه‌ها و دیدگاه‌های برخی جوامع در فرایند توسعه هوش مصنوعی کمتر حضور داشته باشند، احتمال دارد نیازها و اولویت‌های آن‌ها نیز به‌اندازه کافی در پاسخ‌های مدل منعکس نشود.
این مسئله برای زبان‌هایی مانند فارسی اهمیت ویژه‌ای دارد؛ زیرا کیفیت بازنمایی یک زبان تنها به تعداد واژه‌ها یا حجم متون موجود محدود نمی‌شود، بلکه به تنوع موضوعات، کیفیت منابع و حضور دیدگاه‌های گوناگون نیز وابسته است.
آیا ChatGPT می‌تواند از سوگیری فرهنگی فاصله بگیرد؟
کاهش سوگیری فرهنگی یکی از چالش‌های مهم در توسعه هوش مصنوعی است. برای نزدیک‌شدن به این هدف، چند اقدام اهمیت دارد:
● تنوع‌بخشی به داده‌های آموزشی: استفاده از منابع معتبر متعلق به زبان‌ها، فرهنگ‌ها و جوامع مختلف.
● ارزیابی چندفرهنگی: بررسی پاسخ‌های مدل با مشارکت افرادی از کشورهای گوناگون، نه صرفاً یک گروه محدود.
● شفافیت در محدودیت‌ها: مشخص‌کردن موقعیت‌هایی که در آن‌ها مدل ممکن است دانش یا درک کافی از یک زمینه فرهنگی نداشته باشد.
● توجه به بافت محلی: در نظر گرفتن تفاوت‌های زبانی، اجتماعی و تاریخی هنگام طراحی و ارزیابی پاسخ‌ها.
● پرهیز از تعمیم‌های کلی: جلوگیری از این فرض که دیدگاه‌های یک جامعه الزاماً نماینده همه انسان‌ها هستند.
البته حذف کامل سوگیری فرهنگی کار ساده‌ای نیست. حتی تعریف بی‌طرفی نیز ممکن است در فرهنگ‌های مختلف محل اختلاف باشد. به همین دلیل، هدف واقع‌بینانه‌تر آن است که سوگیری‌ها شناسایی، اندازه‌گیری و تا حد امکان کاهش داده شوند.
هوش مصنوعی بی‌طرف است یا بازتاب‌دهنده فرهنگ سازندگانش؟
مدل‌های هوش مصنوعی نه در خلأ شکل می‌گیرند و نه می‌توان آن‌ها را صرفاً بازتاب مستقیم یک فرهنگ دانست. پاسخ‌های آن‌ها حاصل مجموعه‌ای از عوامل فنی، زبانی، اجتماعی و انسانی است.
بااین‌حال، پژوهش‌هایی که تفاوت‌های فرهنگی میان پاسخ‌های هوش مصنوعی و دیدگاه‌های جوامع مختلف را بررسی می‌کنند، پرسشی مهم را پیش روی ما می‌گذارند: آیا فناوری‌ای که قرار است به مردم سراسر جهان خدمت کند، واقعاً تجربه‌ها و ارزش‌های متنوع آن‌ها را به‌اندازه کافی بازنمایی می‌کند؟
اهمیت این پرسش با گسترش استفاده از هوش مصنوعی در آموزش، تولید محتوا، تصمیم‌گیری و ارتباطات روزمره بیشتر می‌شود.
جمع‌بندی
هوش مصنوعی قرار نیست الزاماً مانند انسان‌های یک کشور خاص فکر کند؛ اما ممکن است در برخی موضوعات، الگوهای فکری و ارزش‌های فرهنگی بعضی جوامع را بیش از دیگران بازتاب دهد. یافته‌های مربوط به سوگیری فرهنگی مدل‌های GPT یادآور این نکته‌اند که هوش مصنوعی را نباید دانشی کاملاً بی‌طرف و جدا از زمینه اجتماعی تولید آن تصور کرد.
هرچه این فناوری در زندگی مردم کشورهای بیشتری نقش پیدا کند، ضرورت توسعه مدل‌هایی که زبان‌ها، فرهنگ‌ها و تجربه‌های متنوع انسانی را بهتر بازنمایی می‌کنند نیز افزایش خواهد یافت.
کپی
