Virtual personal assistants powered by artificial intelligence are becoming ubiquitous across technology platforms, with every major tech firm adding AI to their services and dozens of សេវាកម្មឯកទេស tumbling onto the market. While immensely useful, researchers from Google say humans could become too emotionally attached to them, leading to a host of negative social consequences.
ថ្មី ឯកសារស្រាវជ្រាវ from Google’s DeepMind AI research laboratory highlights the potential benefits of advanced, personalized AI assistants to transform various aspects of society, saying they “could radically alter the nature of work, education, and creative pursuits as well as how we communicate, coordinate, and negotiate with one another, ultimately influencing who we want to be and to become.”
ជាការពិតណាស់ ផលប៉ះពាល់លើសពីនេះអាចជាដាវមុខពីរ ប្រសិនបើការអភិវឌ្ឍន៍ AI បន្តបង្កើនល្បឿនទៅមុខដោយមិនមានផែនការគិតទុកជាមុន។
ហានិភ័យសំខាន់មួយ? ការបង្កើតចំណងជិតស្និទ្ធមិនសមរម្យ—ដែលអាចនឹងមានសភាពធ្ងន់ធ្ងរប្រសិនបើជំនួយការត្រូវបានបង្ហាញដោយតំណាង ឬមុខដូចមនុស្ស។ កាសែតនេះបាននិយាយថា "ភ្នាក់ងារសិប្បនិម្មិតទាំងនេះថែមទាំងអាចសន្មត់ថាពួកគេសន្មត់ថាជាប្លាតូនិច ឬស្នេហាសម្រាប់អ្នកប្រើប្រាស់ ដោយដាក់មូលដ្ឋានគ្រឹះសម្រាប់អ្នកប្រើប្រាស់ដើម្បីបង្កើតទំនាក់ទំនងផ្លូវចិត្តដែលមានរយៈពេលយូរជាមួយ AI" ។
ដោយមិនបានត្រួតពិនិត្យ ឯកសារភ្ជាប់បែបនេះអាចនាំឱ្យបាត់បង់ស្វ័យភាពសម្រាប់អ្នកប្រើប្រាស់ និងការបាត់បង់ទំនាក់ទំនងសង្គម ដោយសារ AI អាចជំនួសអន្តរកម្មរបស់មនុស្សបាន។
This risk is not purely theoretical. Even when AI was in a somewhat primitive state, an AI chatbot was influential enough to convince an user to commit suicide after a long chat back in 2023. Eight years ago, an AI-powered email assistant named “Amy Ingram” was realistic enough to prompt some users to send love notes and even attempt to visit her at work.
លោក Iason Gabriel ដែលជាអ្នកវិទ្យាសាស្ត្រស្រាវជ្រាវនៅក្នុងក្រុមស្រាវជ្រាវក្រមសីលធម៌ DeepMind និងជាសហអ្នកនិពន្ធនៃក្រដាសនោះមិនបានឆ្លើយតបទៅនឹង ឌិគ្រីបរបស់ ស្នើសុំយោបល់
ទោះជាយ៉ាងណាក៏ដោយ នៅក្នុងធ្វីតធឺមួយ លោក Garbriel បានព្រមានថា "ទម្រង់ជំនួយការផ្ទាល់ខ្លួន និងដូចមនុស្សកាន់តែច្រើនឡើងៗ ណែនាំសំណួរថ្មីៗជុំវិញមនុស្សនិយម ភាពឯកជន ការជឿទុកចិត្ត និងទំនាក់ទំនងសមស្របជាមួយ AI"។
ដោយសារតែ "ជំនួយការ AI រាប់លានអាចត្រូវបានដាក់ពង្រាយនៅកម្រិតសង្គមមួយដែលពួកគេនឹងធ្វើអន្តរកម្មជាមួយគ្នា និងជាមួយអ្នកមិនប្រើ" Gabriel បាននិយាយថាគាត់ជឿជាក់លើតម្រូវការសម្រាប់ការការពារបន្ថែមទៀត និងវិធីសាស្រ្តរួមបន្ថែមទៀតចំពោះបាតុភូតសង្គមថ្មីនេះ។
ឯកសារស្រាវជ្រាវក៏ពិភាក្សាអំពីសារៈសំខាន់នៃការតម្រឹមតម្លៃ សុវត្ថិភាព និងការប្រើប្រាស់ខុសក្នុងការអភិវឌ្ឍន៍ជំនួយការ AI ។ ទោះបីជាជំនួយការ AI អាចជួយអ្នកប្រើប្រាស់កែលម្អសុខុមាលភាពរបស់ពួកគេ បង្កើនភាពច្នៃប្រឌិតរបស់ពួកគេ និងបង្កើនពេលវេលារបស់ពួកគេក៏ដោយ អ្នកនិពន្ធបានព្រមានអំពីហានិភ័យបន្ថែមដូចជា ការមិនសមស្របទៅនឹងផលប្រយោជន៍របស់អ្នកប្រើប្រាស់ និងសង្គម ការដាក់តម្លៃលើអ្នកដទៃ ប្រើប្រាស់សម្រាប់គោលបំណងព្យាបាទ និងភាពងាយរងគ្រោះ។ ទៅនឹងការវាយប្រហាររបស់សត្រូវ។
ដើម្បីដោះស្រាយហានិភ័យទាំងនេះ ក្រុមការងារ DeepMind ណែនាំឱ្យបង្កើតការវាយតម្លៃដ៏ទូលំទូលាយសម្រាប់ជំនួយការ AI និងពន្លឿនការអភិវឌ្ឍន៍ជំនួយ AI ដែលមានប្រយោជន៍ដល់សង្គម។
“បច្ចុប្បន្ន យើងឈរនៅដើមសម័យនៃការផ្លាស់ប្តូរបច្ចេកវិទ្យា និងសង្គមនេះ។ ដូច្នេះហើយ យើងមានឱកាសដើម្បីធ្វើសកម្មភាពឥឡូវនេះ—ក្នុងនាមជាអ្នកអភិវឌ្ឍន៍ អ្នកស្រាវជ្រាវ អ្នកបង្កើតគោលនយោបាយ និងអ្នកពាក់ព័ន្ធសាធារណៈដើម្បីបង្កើតប្រភេទជំនួយការ AI ដែលយើងចង់ឃើញក្នុងពិភពលោក»។
AI misalignment can be mitigated through Reinforcement Learning Through Human Feedback (RLHF), which is used to train AI models. Experts like Paul Christiano, who ran the language model alignment team at OpenAI and now leads the non-profit Alignment Research Center, warn that improper management of AI training methods could end in catastrophe.
“I think maybe there’s something like a 10-20% chance of AI takeover, [with] many [or] most humans dead, ” Paul Christiano បាននិយាយថា: on the Bankless podcast last year. “I take it quite seriously.”
កែសម្រួលដោយ លោក Ryan Ozawa.
ស្ថិតនៅលើកំពូលនៃព័ត៌មានគ្រីបតូ ទទួលបានព័ត៌មានថ្មីៗប្រចាំថ្ងៃនៅក្នុងប្រអប់សំបុត្ររបស់អ្នក។
- SEO ដែលដំណើរការដោយមាតិកា និងការចែកចាយ PR ។ ទទួលបានការពង្រីកថ្ងៃនេះ។
- PlatoData.Network Vertical Generative Ai. ផ្តល់អំណាចដល់ខ្លួនអ្នក។ ចូលប្រើទីនេះ។
- PlatoAiStream Web3 Intelligence ។ ចំណេះដឹងត្រូវបានពង្រីក។ ចូលប្រើទីនេះ។
- ផ្លាតូអេសជី។ កាបូន CleanTech, ថាមពល, បរិស្ថាន, ពន្លឺព្រះអាទិត្យ ការគ្រប់គ្រងកាកសំណល់។ ចូលប្រើទីនេះ។
- ផ្លាតូសុខភាព។ ជីវបច្ចេកវិទ្យា និង ភាពវៃឆ្លាត សាកល្បងគ្លីនិក។ ចូលប្រើទីនេះ។
- ប្រភព: https://decrypt.co/227754/ai-assistant-users-could-develop-an-emotional-attachment-to-them-google-warns
