به گفته محققان، مدل‌های زبانی مانند ChatGPT می‌توانند به روش‌هایی بیشتر از «کپی پیست» سرقت ادبی کنند.

10 مهر 14021 اسفند 1401 از بیل گیتس

Dongwon Lee اضافه کرد که نتیجه سرقت علمی چیزی غیرمنتظره نیست.

محققان بر روی شناسایی سه شکل سرقت ادبی متمرکز شدند: کلمه به کلمه یا مستقیماً کپی و چسباندن محتوا. بازنویسی یا بازنویسی و تغییر ساختار محتوا بدون ذکر منبع اصلی؛ و ایده، یا استفاده از ایده اصلی از یک متن بدون انتساب مناسب. آنها خط لوله ای برای تشخیص خودکار سرقت ادبی ساختند و آن را در برابر GPT-2 OpenAI آزمایش کردند زیرا داده های آموزشی مدل زبان به صورت آنلاین در دسترس است و به محققان اجازه می دهد متون تولید شده را با 8 میلیون سند مورد استفاده برای پیش آموزش GPT-2 مقایسه کنند.

تای لی، استادیار علوم کامپیوتر و اطلاعات در دانشگاه می سی سی پی می گوید: «اگرچه خروجی ممکن است جذاب باشد، و استفاده از مدل های زبان ممکن است سرگرم کننده باشد و برای کارهای خاص مفید به نظر برسد، به این معنی نیست که آنها کاربردی هستند. که به عنوان یک کاندیدای دکترا در ایالت پن شروع به کار بر روی این پروژه کرد. در عمل، ما باید به مسائل اخلاقی و کپی رایتی که تولیدکنندگان متن مطرح می‌کنند، رسیدگی کنیم.»

دونگ وون لی، استاد علوم و فناوری اطلاعات در ایالت پن می‌گوید: سرقت ادبی در طعم‌های مختلفی وجود دارد. ما می‌خواستیم ببینیم که آیا مدل‌های زبان نه تنها کپی و پیست می‌کنند، بلکه بدون اینکه متوجه شوند به اشکال پیچیده‌تری از سرقت ادبی متوسل می‌شوند یا خیر.

اگرچه نتایج این مطالعه فقط برای GPT-2 اعمال می‌شود، فرآیند تشخیص سرقت خودکار که محققان ایجاد کرده‌اند می‌تواند برای مدل‌های زبان جدیدتر مانند ChatGPT اعمال شود تا مشخص شود که آیا این مدل‌ها چقدر محتوای آموزشی را سرقت می‌کنند یا خیر. به گفته محققان، با این حال، آزمایش سرقت ادبی به توسعه دهندگان بستگی دارد که داده های آموزشی را در دسترس عموم قرار دهند.

به گفته دانشمندان، مطالعه کنونی می‌تواند به محققان هوش مصنوعی در ساخت مدل‌های زبانی قوی‌تر، قابل اعتمادتر و مسئولانه‌تر در آینده کمک کند. در حال حاضر، آنها از افراد می خواهند که هنگام استفاده از تولید کننده های متن احتیاط کنند.

به گفته محققان، این مطالعه نیاز به تحقیقات بیشتر در مورد تولیدکننده‌های متن و سؤالات اخلاقی و فلسفی که آنها مطرح می‌کنند، برجسته می‌کند.

این تیم متوجه شد که مدل‌های زبان هر سه نوع سرقت ادبی را مرتکب می‌شوند و هر چه مجموعه داده‌ها و پارامترهای مورد استفاده برای آموزش مدل بیشتر باشد، سرقت ادبی بیشتر اتفاق می‌افتد. آن‌ها همچنین خاطرنشان کردند که مدل‌های زبانی دقیق، سرقت ادبی را کاهش می‌دهند، اما موارد بازنویسی و سرقت علمی را افزایش می‌دهند. علاوه بر این، آنها نمونه هایی از مدل زبان را شناسایی کردند که اطلاعات خصوصی افراد را از طریق هر سه شکل سرقت ادبی افشا می کرد. محققان یافته های خود را در کنفرانس وب ACM 2023 که از 30 آوریل تا 4 مه در آستین، تگزاس برگزار می شود، ارائه خواهند کرد.