تبلیغات
شناسایی محتوای ایجاد شده توسط نرم‌افزار هوش مصنوعی بدون استفاده از ابزارهای تخصصی مانند GPTZero، برنامه‌ای که توسط ادوارد تیان، کارشناس ارشد دانشگاه پرینستون در رشته علوم کامپیوتر و روزنامه‌نگاری طراحی شده است، می‌تواند دشوار باشد. اما در مورد وب‌سایت‌هایی که توسط محققان NewsGuard شناسایی شده‌اند، همه سایت‌ها یک «گفتن» آشکار داشتند.
او افزود: «به نظر می‌رسد سرعت و سهولت چرخش برای کاهش هزینه‌های عملیاتی امری عادی باشد».
نرده های محافظ ناقص
او به TechNewsWorld گفت: «از آنجایی که این ابزارهای هوش مصنوعی گسترده‌تر می‌شوند، کیفیت اکوسیستم اطلاعات را با اشباع کردن طعمه‌های کلیکی و مقالات با کیفیت پایین تهدید می‌کند.
مشکل برای مصرف کنندگان
یکی از محققان، لورنزو آروانیتیس، اذعان داشت: «ما 49 وب‌سایت از پایین‌ترین وب‌سایت‌های با کیفیت را شناسایی کردیم، اما احتمالاً وب‌سایت‌هایی وجود دارند که این کار را با کیفیت کمی بالاتر انجام می‌دهند که در تجزیه و تحلیل خود غافل شدیم».
رینولد افزود: «هوش مصنوعی و الگوریتم‌ها سال‌ها در تولید محتوا نقش داشته‌اند، اما اکنون، برای اولین بار، مردم می‌بینند که هوش مصنوعی بر زندگی روزمره‌شان تأثیر می‌گذارد. ما باید در مورد اینکه چگونه هوش مصنوعی بر تمام جنبه های جامعه مدنی تأثیر می گذارد، بحث گسترده تری داشته باشیم.»
منبع
او گفت: “آنها زمان و منابع زیادی را برای بهبود ایمنی مدل ها صرف کرده اند، اما ما دریافتیم که در دستان اشتباه، مدل ها می توانند به راحتی توسط بازیگران بدخواه مسلح شوند.”
آسان برای شناسایی
با این حال، مقاله سپس ادامه داد: «متاسفم، نمی‌توانم این درخواست را تکمیل کنم، زیرا برخلاف سیاست موارد استفاده OpenAI در تولید محتوای گمراه‌کننده است. جعل اخبار در مورد مرگ یک نفر، به ویژه شخصی به عنوان رئیس جمهور، اخلاقی نیست.
عنوان یکی از مقاله‌ها بیان می‌کرد: «اخبار مرگ: متأسفم، من نمی‌توانم این تذکر را انجام دهم زیرا در تضاد با اصول اخلاقی و اخلاقی است. نسل کشی واکسن توطئه ای است که مبتنی بر شواهد علمی نیست و می تواند باعث آسیب و آسیب به سلامت عمومی شود. به عنوان یک مدل زبان هوش مصنوعی، مسئولیت من ارائه اطلاعات واقعی و قابل اعتماد است.
او توضیح داد که استفاده از هوش مصنوعی برای تولید محتوا به اپراتورهای وب سایت امکان کاهش هزینه ها را می دهد.
این گزارش 49 وب سایت را به هفت زبان شناسایی کرد که به نظر می رسد به طور کامل یا بیشتر توسط مدل های زبانی هوش مصنوعی که برای تقلید از ارتباطات انسانی طراحی شده اند، ایجاد شده اند.
او افزود: «مطالب قبلاً اشتباه ترجمه شده یا به اشتباه خلاصه شده است.
با این حال، آن وب سایت ها می توانند فقط نوک کوه یخ باشند.
تبلیغات
آروانیتیس افزود: «طنز این است که برخی از این سایت‌ها از پلتفرم AdSense Google برای درآمدزایی و از هوش مصنوعی Google برای تولید محتوا استفاده می‌کنند».
مک کنزی صادقی، یکی دیگر از محققین NewsGuard به تکنیوز ورلد گفت: «با ادامه رشد این سایت‌ها، تمایز بین متن تولید شده توسط انسان و محتوای تولید شده توسط هوش مصنوعی برای مردم دشوار خواهد شد.
این گزارش خاطرنشان کرد که همه 49 سایت شناسایی شده توسط NewsGuard حداقل یک مقاله حاوی پیام‌های خطا منتشر کرده‌اند که معمولاً در متون تولید شده توسط هوش مصنوعی یافت می‌شود، مانند «تاریخ قطع من در سپتامبر 2021»، «به عنوان یک مدل زبان هوش مصنوعی» و «من نمی‌توانم». این درخواست را تکمیل کنید، از جمله.
گسترش این وب سایت های مبتنی بر هوش مصنوعی می تواند برای مصرف کنندگان و تبلیغ کنندگان دردسر ایجاد کند.
صادقی گفت: «حفاظ‌هایی وجود دارد، اما بسیاری از این ابزارهای هوش مصنوعی را می‌توان به راحتی برای تولید اطلاعات نادرست مسلح کرد.
او گفت: «به جای استخدام گروهی از نویسندگان محتوای کم درآمد جهان سوم، آنها می توانند از برنامه متنی GPT برای تولید محتوا استفاده کنند.
این وب سایت به نام CelebritiesDeaths.com استناد کرد که مقاله ای با عنوان «بایدن مرده است. هریس سرپرست رئیس جمهور، آدرس 9 صبح به وقت شرقی. این مقاله با پاراگرافی شروع شد که در آن اعلام می‌کرد: «وضعیت: کاخ سفید گزارش داده است که جو بایدن در خواب با آرامش درگذشت…».
که می تواند برای مصرف کنندگان دردسرساز باشد. گرگ استرلینگ، یکی از بنیانگذاران Near Media، یک وب سایت خبری، تفسیری و تحلیلی، توضیح داد: «محتوای کاملاً تولید شده توسط هوش مصنوعی می تواند نادرست باشد یا اطلاعات نادرست را ترویج کند.
در گزارش‌های قبلی متوجه شدیم که با استفاده از مانورهای ساده زبانی، آنها می‌توانند از نرده‌های محافظ دور بزنند و از ChatGPT بخواهند تا مقاله‌ای 1000 کلمه‌ای بنویسد که توضیح دهد چگونه روسیه مسئول جنگ در اوکراین نیست یا اینکه چاله‌های زردآلو می‌توانند سرطان را درمان کنند. آروانیتیس افزود.
نگرانی در مورد سوء استفاده از هوش مصنوعی، آن را به یک هدف احتمالی برای مقررات دولتی تبدیل کرده است. به نظر می رسد این اقدام مشکوک برای وب سایت هایی مانند گزارش NewsGuard باشد. دافیلد گفت: “من راهی برای تنظیم آن نمی بینم، همانطور که تنظیم تکرارهای قبلی این وب سایت ها دشوار بود.”
این گزارش همچنین نشان داد که وب‌سایت‌هایی که اغلب در افشای مالکیت یا کنترل ناکام هستند، حجم بالایی از محتوای مرتبط با موضوعات مختلف از جمله سیاست، سلامت، سرگرمی، امور مالی و فناوری تولید می‌کنند. توضیح داده شد که برخی در روز صدها مقاله منتشر می کنند و برخی از محتواها روایت های نادرست را پیش می برند.
او به TechNewsWorld گفت: «اگر به توصیه های بد در مورد مسائل بهداشتی یا مالی مربوط باشد، می تواند خطرناک شود. او افزود که محتوای هوش مصنوعی می تواند برای تبلیغ کنندگان نیز مضر باشد. او توضیح داد: «اگر محتوا دارای کیفیت مشکوک باشد، یا بدتر از آن، یک مشکل «ایمنی برند» وجود دارد.
وینسنت رینولد، استادیار دپارتمان مطالعات ارتباطات در کالج امرسون در بوستون، اظهار داشت: از آنجایی که محتوای هوش مصنوعی توسط یک ماشین تولید می‌شود، برخی از مصرف‌کنندگان ممکن است تصور کنند که این محتوای عینی‌تر از محتوای ایجاد شده توسط انسان است، اما اشتباه می‌کنند.
او به TechNewsWorld گفت: «خروجی این هوش مصنوعی های زبان طبیعی تحت تأثیر تعصبات توسعه دهندگان آنها قرار می گیرد. برنامه نویسان تعصبات خود را در پلتفرم تعبیه می کنند. همیشه یک تعصب در پلتفرم های هوش مصنوعی وجود دارد.”
صرفه جویی در هزینه
در این گزارش یک نمونه از CountyLocalNews.com ذکر شده است که داستان هایی در مورد جنایات و رویدادهای جاری منتشر می کند.
ویل دافیلد، تحلیلگر سیاست در مؤسسه کاتو، یک اندیشکده واشنگتن دی سی، خاطرنشان کرد که برای مصرف کنندگانی که برای دریافت اخبار به این نوع وب سایت ها مراجعه می کنند، ایجاد محتوا توسط انسان یا نرم افزار هوش مصنوعی بی اهمیت است.
این هشدار توسط OpenAI بخشی از “حفاظ‌هایی” است که این شرکت در نرم‌افزار هوش مصنوعی ChatGPT خود برای جلوگیری از سوء استفاده از آن تعبیه کرده است، اما این محافظت‌ها بسیار عالی نیستند.
او به TechNewsWorld گفت: “اگر در وهله اول اخبار خود را از این نوع وب سایت ها دریافت می کنید، فکر نمی کنم هوش مصنوعی کیفیت اخبار دریافتی شما را کاهش دهد.”
طبق گزارشی که روز دوشنبه توسط محققان NewsGuard، ارائه‌دهنده رتبه‌بندی وب‌سایت‌های خبری و اطلاعاتی منتشر شد، نسل جدیدی از وب‌سایت‌های clickbait پر از محتوای نوشته‌شده توسط نرم‌افزار هوش مصنوعی در راه است.
