یادداشت سردبیر: نامه‌ای کوتاه از Ray Kurzweil، مدیر مهندسی گوگل و یکی از بنیان‌گذاران و اعضای هیئت مدیره Singularity Group، شرکت مادر Singularity Hub، در پاسخ به نامه اخیر موسسه Future of Life، «مکث آزمایش‌های هوش مصنوعی غول‌پیکر: یک نامه سرگشاده.»
نامه FLI به خطرات ناشی از تسریع پیشرفت در هوش مصنوعی و مسابقه متعاقب آن برای تجاری‌سازی فناوری می‌پردازد و خواستار توقف در توسعه الگوریتم‌های قدرتمندتر از GPT-4 OpenAI است، مدل زبان بزرگی که در پشت ربات ChatGPT Plus شرکت و چت‌بات بینگ مایکروسافت وجود دارد. . نامه FLI هزاران امضاکننده دارد - از جمله پیشگام یادگیری عمیق، یوشوا بنجیو، استاد علوم کامپیوتر دانشگاه کالیفرنیا برکلی، استوارت راسل، مدیر عامل پایداری هوش مصنوعی، عماد مستاک، ایلان ماسک، و بسیاری دیگر - و بحث های شدیدی را در هوش مصنوعی برانگیخته است. انجمن.
در مورد نامه سر گشاده برای "مکث" تحقیقات در مورد هوش مصنوعی "قوی تر از GPT-4"این معیار خیلی مبهم است تا عملی باشد. و این پیشنهاد با یک مشکل جدی هماهنگی مواجه است: آنهایی که با توقف موافقت می کنند ممکن است به مراتب از شرکت ها یا کشورهایی که موافق نیستند عقب بیفتند. پیشرفت هوش مصنوعی در زمینه‌های حیاتی مانند پزشکی و بهداشت، آموزش، دستیابی به منابع انرژی تجدیدپذیر برای جایگزینی سوخت‌های فسیلی و بسیاری از زمینه‌های دیگر مزایای فوق‌العاده‌ای دارد. من امضا نکردم، زیرا معتقدم می‌توانیم نگرانی‌های ایمنی امضاکنندگان را به شیوه‌ای متناسب‌تر برطرف کنیم که این خطوط حیاتی تحقیقات را به خطر نیندازد.
من شرکت کردم کنفرانس اصول هوش مصنوعی Asilomar در سال 2017 و به طور فعال در ایجاد دستورالعمل هایی برای ایجاد هوش مصنوعی به شیوه ای اخلاقی مشارکت داشت. بنابراین می دانم که ایمنی یک مسئله حیاتی است. اما اگر بخواهیم مزایای عمیق هوش مصنوعی برای سلامت و بهره وری را در عین اجتناب از خطرات واقعی باز کنیم، نکات ظریف بیشتری لازم است.
- ری کورزویل
مخترع، نویسنده پرفروش و آینده پژوه
تصویر های اعتباری: Deepmind / می Unsplash
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoAiStream. Web3 Data Intelligence دانش تقویت شده دسترسی به اینجا.
- ضرب کردن آینده با آدرین اشلی. دسترسی به اینجا.
- خرید و فروش سهام در شرکت های PRE-IPO با PREIPO®. دسترسی به اینجا.
- منبع: https://singularityhub.com/2023/05/05/a-note-from-ray-kurzweil-on-the-recent-call-to-pause-work-on-ai-more-powerful-than-gpt-4/
