نگرانی دانشمندان از تعصب «چت جی پی تی»

مطالعات تأیید می کنند که هوش مصنوعی چت جی پی تی که محبوب ترین مدل زبانی هوش مصنوعی در جهان است در پاسخ های خود دارای تعصب است.

- مطالعات تأیید می کنند که هوش مصنوعی چت جی پی تی که محبوب ترین مدل زبانی هوش مصنوعی در جهان است در پاسخ های خود دارای تعصب است.

به گزارش سایت قطره و به نقل ازایسنا و به نقل از آی ای، براساس مطالعه محققان دانشگاه کالیفرنیا، برکلی، چت جی پی تی متعلق به شرکت اُپن ای آی(OpenAI) که در حال حاضر محبوب ترین مدل زبان مبتنی بر هوش مصنوعی در جهان به حساب می آید، در اطلاعاتی که ارائه می کند بی طرف نیست.

مقاله آنها نشان می دهد که از آنجایی که چت جی پی تی از حجم عظیمی از مقالات دارای حق نشر به عنوان مجموعه داده ای که بر اساس آن آموزش یافته و پاسخ های خود را پایه گذاری می کند، استفاده می کند، سوگیری ذاتی در آن داده ها به نتایج چت جی پی تی نیز راه پیدا می کند.

محققان در مطالعه خود نوشتند که مدل های اُپن ای آی تعداد زیادی از انواع مختلف مقالات دارای حق نشر را در خود جای داده اند و این فرآیند تحت تاثیر تعداد دفعاتی است که قسمت های آن مقالات در فضای وب ظاهر می شوند.

به این ترتیب، اطلاعات مرتبط با مقالاتی که در فرآیند آموزش بیشتر مورد استفاده قرار گرفته اند، نسبت به اطلاعاتی که به طور مکرر مورد استفاده قرار نگرفته اند، بیشتر در پاسخ ها گنجانده می شو