Anthropic با پشتیبانی از Alphabet رقیب OpenAI به نام Claude را منتشر کرد

ریچارد رابینسون، مدیر اجرایی Robin AI، یک استارت آپ مستقر در لندن که از هوش مصنوعی برای تجزیه و تحلیل قراردادهای قانونی استفاده می کند که آنتروپیک به کلود دسترسی زودهنگام داده است، در مصاحبه ای به رویترز گفت: “هیچ چیز ترسناکی وجود نداشت. این یکی از دلایلی است که ما آنتروپیک را دوست داشتیم.” .

رابینسون گفت: «در هر صورت، چالش این بود که محدودیت‌هایش را تا حدودی برای استفاده‌های قابل قبول شل کند.»

آنتروپیک رویکرد متفاوتی را در پیش گرفته است و در زمانی که مدل با حجم وسیعی از داده های متنی “آموزش داده می شود” مجموعه ای از اصول را به کلود ارائه می دهد. کلود به جای تلاش برای اجتناب از موضوعات بالقوه خطرناک، طراحی شده است تا اعتراضات خود را بر اساس اصول خود توضیح دهد.

این نگرانی‌های مربوط به ایمنی هوش مصنوعی ماه گذشته پس از اینکه مایکروسافت گفت درخواست‌ها را به موتور جست‌وجوی جدید بینگ که مبتنی بر چت است محدود می‌کند، پس از اینکه یک ستون‌نویس نیویورک تایمز متوجه شد که ربات چت در طی یک مکالمه طولانی نشان می‌دهد و پاسخ‌های ناراحت‌کننده‌ای را نشان می‌دهد، برجسته شد.

رابینسون گفت که شرکت او سعی کرده است از فناوری OpenAI در قراردادها استفاده کند اما دریافت که کلود هم در درک زبان حقوقی متراکم بهتر است و هم احتمال کمتری دارد که پاسخ‌های عجیب و غریب ایجاد کند.

برای جلوگیری از تولید محتوای مضر، سازندگان چت‌بات‌ها اغلب آنها را طوری برنامه‌ریزی می‌کنند که از برخی موضوعات خاص به‌کلی اجتناب کنند. اما این باعث می شود ربات های چت در برابر به اصطلاح “مهندسی سریع” آسیب پذیر شوند، جایی که کاربران راه خود را برای دور زدن محدودیت ها صحبت می کنند.

کلود، همانطور که مدل آنتروپیک شناخته می‌شود، برای انجام وظایف مشابه ChatGPT با پاسخ دادن به درخواست‌ها با خروجی متنی انسان‌مانند ساخته شده است، خواه به صورت ویرایش قراردادهای قانونی یا نوشتن کد رایانه باشد.

مشکلات ایمنی برای شرکت‌های فناوری یک مشکل جدی بوده است، زیرا چت‌بات‌ها معنای کلماتی که تولید می‌کنند را درک نمی‌کنند.