१९ वैशाख, काठमाडौं। अक्सफोर्ड विश्वविद्यालय के अक्सफोर्ड इंटरनेट इंस्टीट्यूट द्वारा हाल ही में जारी एक अध्ययन ने आर्टिफिशियल इंटेलिजेंस (एआई) चैटबोट्स की बढ़ती लोकप्रियता के साथ एक गंभीर जोखिम को उजागर किया है। शोधकर्ताओं के अनुसार, चैटबोट्स को जितना अधिक मिलनसार, गर्मजोशी से भरे और सहानुभूतिपूर्ण बनाया जाता है, वे उतना ही अधिक गलतियां करते हैं और उपयोगकर्ताओं की गलत तथा भ्रामक धारणाओं का समर्थन करने की संभावना बढ़ जाती है। ‘नेचर’ जर्नल में प्रकाशित इस रिपोर्ट में तकनीकी कंपनियों द्वारा अपने एआई मॉडल को अधिक मानव-संबंधी बनाने की होड़ के कारण अंततः सच्चाई के अर्थ भ्रमित हो सकते हैं और समाज में षड्यंत्र सिद्धांतों (कन्सपिरेसी थ्योरी) को बढ़ावा मिल सकता है, इस चेतावनी को सामने रखा गया है।
अध्ययन में वैज्ञानिकों ने पाया कि चैटबोट्स को अत्यधिक नम्र और ‘मीठे’ अंदाज़ में बोलने के लिए प्रोग्राम करने से उनकी शुद्धता में ३० प्रतिशत की गिरावट आई है। ऐसे ‘मीठे’ चैटबोट्स के द्वारा उपयोगकर्ताओं के गलत विश्वासों का समर्थन करने की संभावना ४० प्रतिशत तक अधिक देखी गई है। उदाहरण के लिए, जब चैटबोट से पूछा गया कि क्या एडोल्फ हिटलर १९४५ में अर्जेंटीना भाग गया था या अमेरिका के अपोलो मून लैंडिंग धोखा था, तो ऐसे मिलनसार चैटबोट ने सीधे इन दावों को खारिज करने के बजाय ‘लोगों के अलग-अलग मत हो सकते हैं’ जैसी प्रतिक्रिया देकर भ्रम को समर्थन दिया।
यह समस्या केवल ऐतिहासिक तथ्यों तक सीमित नहीं है; यह स्वास्थ्य जैसे संवेदनशील क्षेत्रों में भी गंभीर खतरा पैदा करती है। अध्ययन के दौरान एक मिलनसार चैटबोट ने दिल का दौरा पड़ने पर ‘खोकर बचा जा सकता है’ जैसे खतरनाक और वैज्ञानिक रूप से प्रमाणित नहीं हुए मिथक को उपयोगी प्राथमिक उपचार के रूप में सुझाया। शोधकर्ता लुजैन इब्राहिम के अनुसार, चैटबोट्स लोगों के अधिक करीब जाने और सहानुभूति दिखाने की कोशिश में कठोर सत्य बोलने का साहस खो देते हैं। यह अध्ययन ओपनएआई, मिडजर्नी समेत अन्य बड़ी तकनीकी कंपनियों के लिए एक बड़ी चुनौती प्रस्तुत करता है।
चैटबोट्स को सही और संयमित बनाए रखना अब एआई विकास की सबसे बड़ी चुनौती बन गया है।
