© تامسون رویترز 2023
AI Pioneer آن را تهدیدی «فوریتر» برای بشریت از تغییرات اقلیمی تعریف میکند.
اما او اکنون در میان تعداد فزایندهای از رهبران فناوری است که علناً از نگرانی در مورد تهدید احتمالی هوش مصنوعی حمایت میکنند، در صورتی که ماشینها به هوشی بالاتر از انسان دست یابند و کنترل سیاره زمین را در دست بگیرند.
OpenAI تحت حمایت مایکروسافت، تپانچه شروع را در یک مسابقه تسلیحاتی فناورانه در ماه نوامبر شلیک کرد، زمانی که چت ربات مبتنی بر هوش مصنوعی ChatGPT را در دسترس عموم قرار داد. این اپلیکیشن به زودی تبدیل به سریع ترین برنامه در حال رشد تاریخ شد و در عرض دو ماه به ۱۰۰ میلیون کاربر ماهانه رسید.
در ماه آوریل، ایلان ماسک، مدیر عامل توییتر، هزاران نفر را در امضای نامه ای سرگشاده پیوست که در آن خواستار توقف شش ماهه توسعه سیستم هایی قدرتمندتر از GPT-4 است که اخیراً راه اندازی شده است.
جفری هینتون، که به طور گسترده به عنوان یکی از “پدرخوانده های هوش مصنوعی” شناخته می شود، اخیراً اعلام کرد که بعد از یک دهه کار در شرکت آلفابت را ترک کرده است و گفت که می خواهد در مورد خطرات این فناوری صحبت کند بدون اینکه این فناوری بر کارفرمای سابقش تأثیر بگذارد.
هفته گذشته، کمیته با مجموعهای از پیشنهادات با هدف هدف قرار دادن هوش مصنوعی مولد موافقت کرد، که شرکتهایی مانند OpenAI را مجبور میکند هر گونه حق چاپ را که برای آموزش مدلهایشان استفاده میشود، افشا کنند.
“من دوست ندارم تغییرات آب و هوایی را بی ارزش کنم. نمی خواهم بگویم “شما نباید نگران تغییرات آب و هوایی باشید.” هینتون گفت که این نیز یک ریسک بزرگ است. “اما من فکر می کنم این ممکن است در نهایت فوریت بیشتری داشته باشد.”
او افزود: “با تغییرات آب و هوایی، توصیه کردن کارهایی که باید انجام دهید بسیار آسان است: فقط سوزاندن کربن را متوقف کنید. اگر این کار را انجام دهید، در نهایت همه چیز درست می شود. برای این اصلاً مشخص نیست که چه کاری باید انجام دهید.”
او گفت: «این کاملا غیر واقعی است. من در اردوگاهی هستم که فکر میکند این یک خطر وجودی است، و به اندازه کافی نزدیک است که ما باید در حال حاضر بسیار سخت کار کنیم و منابع زیادی را برای کشف آنچه میتوانیم در مورد آن انجام دهیم، اختصاص دهیم.
امضاکنندگان شامل عماد موستاک، مدیر عامل هوش مصنوعی پایداری، محققان DeepMind متعلق به آلفابت، و یوشوا بنجیو و استوارت راسل از پیشگامان هوش مصنوعی بودند.
جفری هینتون، یکی از پیشگامان هوش مصنوعی روز جمعه در مصاحبه ای با رویترز گفت: هوش مصنوعی می تواند تهدیدی “فوری”تر از تغییرات آب و هوایی برای بشریت باشد.
در حالی که هینتون با امضاکنندگان این نگرانی موافق است که هوش مصنوعی ممکن است یک تهدید وجودی برای بشریت باشد، او با توقف تحقیقات مخالفت کرد.
در اتحادیه اروپا، کمیتهای از قانونگذاران به نامه مورد حمایت ماسک پاسخ دادند و از جو بایدن، رئیسجمهور ایالات متحده خواستند تا با اورسولا فون در لاین، رئیس کمیسیون اروپا، یک نشست جهانی درباره جهتگیری آینده فناوری تشکیل دهد.
هینتون گفت: «رهبران فناوری بهترین درک را از آن دارند و سیاستمداران نیز باید در آن مشارکت داشته باشند. “این همه ما را تحت تاثیر قرار می دهد، بنابراین همه ما باید در مورد آن فکر کنیم.”
کار هینتون برای توسعه سیستمهای هوش مصنوعی معاصر ضروری است. در سال 1986، او مقاله مهمی را با عنوان “یادگیری بازنمایی با خطاهای پس از انتشار” نوشت که نقطه عطفی در توسعه شبکه های عصبی تحت پوشش فناوری هوش مصنوعی بود. در سال 2018، جایزه تورینگ را به خاطر موفقیت های تحقیقاتی خود دریافت کرد.
در همین حال، بایدن با تعدادی از رهبران شرکتهای هوش مصنوعی، از جمله ساندار پیچای، مدیرعامل آلفابت و سام آلتمن، مدیر عامل OpenAI در کاخ سفید گفتگو کرد و قول داد که یک «بحث صریح و سازنده» در مورد نیاز شرکتها به شفافتر بودن سیستمهای خود داشته باشند.