برخی از دانشگاه‌ها از استفاده از نرم‌افزار ساخت Turnitin که برای تشخیص اینکه آیا متن در مقاله‌ها و تکالیف ارسالی توسط دانشجویان توسط هوش مصنوعی نوشته شده است یا خیر، منصرف می‌شوند.
Turnitin، برای کسانی که نمی‌دانند، ابزارهایی را برای شناسایی سرقت ادبی در کارهای مدرسه افراد به معلمان ارائه می‌دهد و در آوریل قابلیت بررسی نثر ماشین‌نویس را اضافه کرد. اگر فعال باشد، به‌طور خودکار اسناد را اسکن می‌کند و متن را به تکه‌هایی پردازش می‌کند، هر جمله را تجزیه و تحلیل می‌کند و اگر به نظر می‌رسد که توسط انسان نوشته شده است، امتیاز 0 و اگر به نظر می‌رسد که به‌طور خودکار با استفاده از هوش مصنوعی تولید شده است، 1 به آن اختصاص می‌دهد. میانگین امتیازی برای فایل محاسبه می‌شود تا میزان متنی که به نظر می‌رسد با هوش مصنوعی نوشته شده است را پیش‌بینی کند.
یک سوال بزرگتر وجود دارد که چگونه Turnitin نوشتن هوش مصنوعی را تشخیص می دهد و آیا این امکان وجود دارد یا خیر
با این حال، دانشگاه‌های مختلف آمریکا، از جمله وندربیلت، ایالت میشیگان، نورث وسترن، و دانشگاه تگزاس در آستین تصمیم گرفته‌اند از این نرم‌افزار به دلیل ترس از اینکه ممکن است منجر به متهم شدن نادرست دانشجویان به تقلب شود، استفاده نکنند. اشاره کرد توسط بلومبرگ.
Turnitin اعتراف کرد که ابزار تشخیص متن با هوش مصنوعی کامل نیست، اما ادعا کرد که میزان مثبت کاذب آن کمتر از یک درصد است.
دانشگاه واندربیلت گفت که حتی این رقم بسیار زیاد است و با توجه به اینکه در سال 750، 75,000 مقاله را از طریق سیستم Turnitin اجرا می کرد، به اشتباه 2022 مقاله در سال را نشان می داد.
علاوه بر این، یک سوال بزرگتر وجود دارد که چگونه Turnitin نوشتن هوش مصنوعی را تشخیص می دهد و آیا این امکان وجود دارد یا خیر. تا به امروز، Turnitin هیچ اطلاعات دقیقی در مورد چگونگی تعیین اینکه آیا یک قطعه نوشته توسط AI تولید شده است، ارائه نکرده است. مایکل کولی، مشاور فناوری آموزشی مؤسسه، بیشترین چیزی که آنها گفته اند این است که این ابزار به دنبال الگوهای رایج در نوشتن هوش مصنوعی است، اما آنها توضیح نمی دهند یا تعریف نمی کنند که این الگوها چیست. توضیح داده شده در طی ماه گذشته است.
نگرانی‌های مربوط به حفظ حریم خصوصی در مورد گرفتن داده‌های دانش‌آموز و وارد کردن آنها در آشکارساز وجود دارد که توسط یک شرکت جداگانه با خط‌مشی‌های ناشناخته حفظ حریم خصوصی و استفاده از داده مدیریت می‌شود. اساساً، تشخیص هوش مصنوعی در حال حاضر یک کار بسیار دشوار برای فناوری برای حل آن است (اگر حتی امکان پذیر باشد) و این تنها با رایج تر شدن و پیشرفته تر شدن ابزارهای هوش مصنوعی سخت تر می شود. بر این اساس، ما معتقد نیستیم که نرم افزار تشخیص هوش مصنوعی ابزار موثری است که باید مورد استفاده قرار گیرد.
آنی چچیتلی، مدیر ارشد محصول Turnitin به این موضوع گفت ثبت نام اینکه ابزار پرچم‌گذاری هوش مصنوعی نباید برای تنبیه خودکار دانش‌آموزان استفاده شود و 98 درصد مشتریان آن از این ویژگی استفاده می‌کنند. گفته می‌شود، به‌طور خودکار روشن می‌شود و معلمانی که نمی‌خواهند نمرات آن را ببینند، باید صریحاً انصراف دهند. آنها همچنین می توانند این ویژگی را روشن بگذارند و آن را نادیده بگیرند.
چچیتلی به ما گفت: "در تورنیتین، راهنمایی ما همیشه این بوده و بوده است که هیچ جایگزینی برای شناخت دانش آموز، سبک نوشتن و پیشینه تحصیلی آنها وجود ندارد."
فن آوری Turnitin به معنای جایگزینی اختیارات حرفه ای مربیان نیست. گزارش‌هایی که نشان‌دهنده وجود نوشتن با هوش مصنوعی هستند، مانند ویژگی تشخیص نوشتن هوش مصنوعی Turnitin، به سادگی نقاط داده و منابعی را برای پشتیبانی از مکالمه با دانش‌آموزان ارائه می‌دهند، نه تشخیص سوء رفتار.
"این یک تکه از یک پازل گسترده تر است که شامل اجزای بسیاری است."
گزارش‌هایی که نشان‌دهنده وجود نوشتن هوش مصنوعی هستند، به سادگی نقاط داده را برای پشتیبانی از مکالمه با دانش‌آموزان ارائه می‌کنند
حتی اگر نرم افزاری مانند آشکارساز هوش مصنوعی Turnitin به عنوان راهی برای جریمه کردن خودکار دانش آموزان مورد استفاده قرار نگیرد، نتایج همچنان بر معلمان تأثیر زیادی می گذارد.
برای مثال، یک مدرس در دانشگاه تگزاس A&M-Commerce، زمانی که از ChatGPT استفاده کرد، ابروها را بالا برد تا بتواند تشخیص کاغذهایی که علامت گذاری می کرد ML نوشته شده بود یا خیر. نمرات دانش آموزان به حالت تعلیق درآمد و برخی از تقلب پاک شدند در حالی که برخی دوباره آثار خود را ارسال کردند.
تشخیص اینکه آیا متن توسط انسان یا ماشین ایجاد شده است دشوار است. OpenAI سقوط کرد طبقه‌بندی‌کننده خروجی هوش مصنوعی شش ماه پس از انتشار به دلیل دقت ضعیف آن، و گفت که در تلاش است روش‌های جدیدی برای تشخیص محتوای تولید شده توسط هوش مصنوعی ارائه کند.
برای پیچیده تر کردن مسائل، نرم افزار تشخیص هوش مصنوعی را می توان به راحتی هنگام تجزیه و تحلیل متنی که توسط انسان نوشته شده و سپس با استفاده از هوش مصنوعی ویرایش می شود، کنار گذاشت و بالعکس. قبلی مطالعه به رهبری دانشمندان کامپیوتر در دانشگاه مریلند دریافتند که شانس بهترین طبقه بندی کننده ها برای تشخیص متن هوش مصنوعی بهتر از پرتاب سکه نیست. ®
- محتوای مبتنی بر SEO و توزیع روابط عمومی. امروز تقویت شوید.
- PlatoData.Network Vertical Generative Ai. به خودت قدرت بده دسترسی به اینجا.
- PlatoAiStream. هوش وب 3 دانش تقویت شده دسترسی به اینجا.
- PlatoESG. کربن ، CleanTech، انرژی، محیط، خورشیدی، مدیریت پسماند دسترسی به اینجا.
- PlatoHealth. هوش بیوتکنولوژی و آزمایشات بالینی. دسترسی به اینجا.
- منبع: https://go.theregister.com/feed/www.theregister.com/2023/09/23/turnitin_ai_detection/
