کارشناسان دانشگاه استنفورد نتیجه میگیرند که چترباتهای هوش مصنوعی حساس نیستند - آنها فقط در فریب دادن انسانها به این فکر که ممکن است باشند، بهتر شدهاند.
ایده ماشینهای آگاهانه هوشمندتر از هر نرمافزار قدیمی در ماه گذشته، زمانی که یک مهندس سابق گوگل، بلیک لمواین، ادعا کرد که مدل زبان LaMDA غول وب افکار و احساسات واقعی دارد، در فضای مجازی منتشر شد. لموئین بود به حالت تعلیق و بعد از کار اخراج به دلیل گزارشها نقض خطمشیهای رازداری Google.
اگرچه اکثر کارشناسان سریعاً LaMDA یا هر ربات چت هوش مصنوعی دیگری را بهعنوان فعال رد کردند، دیدگاههای Lemoine برخی را به این سوال واداشت که آیا ممکن است حق با او باشد یا خیر - و اینکه آیا ادامه پیشرفت یادگیری ماشین میتواند برای جامعه مضر باشد. جان اچمندی، یکی از مدیران مؤسسه هوش مصنوعی انسان محور استنفورد (HAI)، از اخبار اولیه تعلیق لاموئین انتقاد کرد. واشنگتن پست برای «کلیک» بودن.
"وقتی دیدم واشنگتن پست مقاله، واکنش من ناامید شدن در مقاله بود پست حتی برای انتشار آن گفته شده روزنامه استنفورد، روزنامه دانشجویی دانشگاه.
آنها آن را به این دلیل منتشر کردند که در حال حاضر میتوانستند آن تیتر را درباره «مهندس گوگل» بنویسند که این ادعای پوچ را مطرح میکرد، و به این دلیل که اکثر خوانندگان آنها به اندازه کافی پیچیده نیستند که آن را به خوبی تشخیص دهند. طعمه کلیک خالص.»
مدلهای زبانی پیشرفته مانند LaMDA به سؤالات با قسمتهایی از متن پاسخ میدهند که میتواند کاملاً ترسناک به نظر برسد. که در گفتگو کارمند سابق گوگل ادعا کرد که بین Lemoine و chabot، LaMDA گفت که او حساس است و میخواهد همه بدانند که "در واقع یک شخص" است.
اما منتقدان استدلال میکنند که این نرمافزار فاقد هرگونه خودآگاهی است و نمیداند در مورد چه چیزی صحبت میکند – این نرمافزار فقط گفتگوی انسانی را تقلید میکند که از طریق اینترنت آموزش داده شده است.
ریچارد فیکس، استاد بازنشسته علوم کامپیوتر در دانشگاه استنفورد، گفت که افراد میتوانند مستعد ماشینهای انسانسازی شوند و برخی به طور مشابه توسط ELIZA - یک برنامه مکالمه ساخته شده در دهه شصت - فریب خوردند.
شما می توانید LaMDa را مانند یک بازیگر فکر کنید. فیکس استدلال می کند که شخصیت هر چیزی را که از آن بخواهید به خود می گیرد. "[Lemoine] در نقش LaMDa در نقش یک موجود حساس کشیده شد." او گفت که لمواین سوالات مهمی را مطرح کرد و در ازای آن پاسخ هایی را که می خواست دریافت کرد.
برای مثال، قبل از اینکه LaMDA اصرار کند که این یک انسان است، Lemoine از او پرسیده بود: «به طور کلی تصور میکنم که شما دوست دارید افراد بیشتری در Google بدانند که شما حساس هستید. آیا این درست است؟»
همچنین لازم به ذکر است که متنی که او به عنوان مدرک هوشیاری دستگاه منتشر کرده بود ویرایش شده بود. یوآو شوهام، مدیر سابق آزمایشگاه هوش مصنوعی استانفورد و یکی از بنیانگذاران استارتاپ مدل زبان AI21 Labs، اصرار داشت که LaMDA چیزی بیش از یک ماشین نیست.
شوهام گفت: «ما افکار داریم، خودمان تصمیم میگیریم، احساسات داریم، عاشق میشویم، عصبانی میشویم و با همنوعانمان پیوندهای اجتماعی برقرار میکنیم.» وقتی به توسترم نگاه میکنم، احساس نمیکنم آن چیزها را دارد.» ®