نویسندگان پست وبلاگ پیش بینی کردند که هوش مصنوعی فوق هوشمند – سیستم هایی باهوش تر از انسان ها – می تواند در این دهه از راه برسد. به گفته نویسندگان، انسان‌ها برای کنترل هوش مصنوعی فوق‌هوشمند به تکنیک‌های بهتری نسبت به آنچه که در حال حاضر موجود است نیاز خواهند داشت، از این رو نیاز به پیشرفت‌هایی در به اصطلاح «تحقیقات همسویی» است که بر اطمینان از مفید ماندن هوش مصنوعی برای انسان تمرکز دارد.
هدف این تیم ایجاد یک محقق همترازی هوش مصنوعی «در سطح انسانی» و سپس مقیاس‌بندی آن از طریق مقادیر زیادی قدرت محاسباتی است. OpenAI می‌گوید این بدان معناست که آنها سیستم‌های هوش مصنوعی را با استفاده از بازخورد انسانی آموزش می‌دهند، سیستم‌های هوش مصنوعی را برای کمک به ارزیابی انسان آموزش می‌دهند و در نهایت سیستم‌های هوش مصنوعی را برای انجام تحقیقات همترازی آموزش می‌دهند.
روز چهارشنبه گفت، خالق OpenAI ChatGPT قصد دارد منابع قابل توجهی را سرمایه‌گذاری کند و یک تیم تحقیقاتی جدید ایجاد کند که به دنبال اطمینان از ایمن ماندن هوش مصنوعی آن برای انسان‌ها باشد – در نهایت از هوش مصنوعی برای نظارت بر خود استفاده می‌کند.
خطرات بالقوه هوش مصنوعی هم برای محققان هوش مصنوعی و هم برای عموم مردم مورد توجه بوده است. در ماه آوریل، گروهی از رهبران و کارشناسان صنعت هوش مصنوعی نامه ای سرگشاده را امضا کردند که در آن خواستار توقف شش ماهه در توسعه سیستم های قدرتمندتر از GPT-4 OpenAI شدند و خطرات احتمالی برای جامعه را ذکر کردند. نظرسنجی ماه مه رویترز/ایپسوس نشان داد که بیش از دو سوم آمریکایی ها در مورد اثرات منفی احتمالی هوش مصنوعی نگران هستند و 61 درصد معتقدند که می تواند تمدن را تهدید کند.
© تامسون رویترز 2023