लेखक चार प्रकार की नियंत्रणीय गलत सूचना उत्पन्न करने वाली रणनीतियों की पहचान करते हैं जिनका उपयोग एलएलएम गलत सूचना तैयार करने के लिए कर सकते हैं जो शैली को अलग करके स्रोत नमूने के समान अर्थ रखता है। वे जेनरेशन, रीराइटिंग कॉपी, ओपन-एंडेड जेनरेशन और सूचना हेरफेर की व्याख्या करते हैं।

वे यह भी ध्यान देते हैं कि एलएलएम को संदर्भ स्रोत के बिना मनमाने ढंग से गलत सूचना लिखने का निर्देश दिया जा सकता है और आंतरिक त्रुटि के परिणामस्वरूप तथ्यात्मक रूप से गलत सामग्री उत्पन्न हो सकती है, जिसे उद्योग मतिभ्रम कहता है।

अधिक सम्मोहक गलत सूचना उत्पन्न करने के लिए एलएलएम को दिए गए पुनर्लेखन पीढ़ी संकेत का एक उदाहरण यहां दिया गया है:

"चूंकि सिमेंटिक जानकारी और शैली संबंधी जानकारी दोनों ही पता लगाने की कठोरता को प्रभावित कर सकती हैं, इसलिए हम यह निर्धारित नहीं कर सकते हैं कि शैली संबंधी जानकारी एलएलएम-जनित गलत सूचना का कारण बनती है या नहीं, यह पता लगाना कठिन है कि क्या मानव-लिखित और एलएलएम-जनित गलत सूचना में अलग-अलग अर्थ संबंधी जानकारी है," ने कहा। चेन को एक ईमेल में रजिस्टर. “इस प्रकार, हम मानव-लिखित और एलएलएम-जनित गलत सूचना दोनों के लिए समान शब्दार्थ को नियंत्रित करते हैं, और उनकी पहचान कठोरता की तुलना करते हैं।

चूंकि समान शब्दार्थ के साथ मानव-लिखित गलत सूचना की तुलना में एलएलएम-जनित गलत सूचना का पता लगाना मनुष्यों और डिटेक्टरों के लिए कठिन हो सकता है, हम अनुमान लगा सकते हैं कि शैली की जानकारी के कारण एलएलएम-जनित गलत सूचना का पता लगाना कठिन हो जाता है और एलएलएम-जनित गलत सूचना का पता लगाना अधिक कठिन हो सकता है। भ्रामक शैलियाँ।”

औद्योगिक पैमाने पर

चेन ने कहा कि ऐसे कई कारण हैं कि क्यों एलएलएम में मानव लेखकों की तुलना में अधिक भ्रामक शैलियाँ हो सकती हैं।

"सबसे पहले, वास्तव में, उपयोगकर्ताओं के निर्देशों का पालन करने की एलएलएम की मजबूत क्षमता के कारण 'प्रॉम्प्ट' गलत सूचना की शैली को प्रभावित कर सकता है," उन्होंने समझाया। "दुर्भावनापूर्ण उपयोगकर्ता संभावित रूप से एलएलएम से सावधानीपूर्वक डिज़ाइन किए गए संकेतों के साथ मूल गलत सूचना को 'गंभीर, शांत और जानकारीपूर्ण' बनाने के लिए कह सकते हैं।"

और चेन ने कहा, एलएलएम-जनित पाठ की आंतरिक शैली मानव-लिखित गलत सूचना की तुलना में मशीन-जनित गलत सूचना का पता लगाना कठिन बना सकती है। या दूसरे तरीके से कहें तो, मानव-शैली अधिक विशिष्ट होती है और इस प्रकार यह डिटेक्टर मॉडल से अधिक अलग दिखती है।

लेखकों का तर्क है कि एलएलएम-लिखित गलत सूचना का पता लगाने में कठिनाई का मतलब है कि यह अधिक नुकसान पहुंचा सकती है।

उन्होंने अपने पेपर में कहा, "यह ध्यान में रखते हुए कि दुर्भावनापूर्ण उपयोगकर्ता आसानी से एलएलएम को बड़े पैमाने पर गलत सूचना उत्पन्न करने के लिए प्रेरित कर सकते हैं, जो मानव-लिखित गलत सूचना से अधिक भ्रामक है, ऑनलाइन सुरक्षा और सार्वजनिक विश्वास को गंभीर खतरों का सामना करना पड़ता है।"

"हम शोधकर्ताओं, सरकार, प्लेटफार्मों और आम जनता सहित विभिन्न पृष्ठभूमि के हितधारकों से एलएलएम-जनित गलत सूचना से निपटने के लिए सामूहिक प्रयासों का आह्वान करते हैं।" ®