उपभोक्ताओं का स्वागत करने और उनके सवालों के जवाब देने के लिए व्यवसायों द्वारा एआई चैटबॉट पहले से ही व्यापक रूप से फ़ोन पर या वेबसाइटों पर उपयोग किए जा रहे हैं। कुछ कंपनियोंको लगता है कि वह कॉल सेंटर भूमिकाओं में इंसानों की जगह मशीनों का इस्तेमाल कर सकती हैं।
हालाँकि, उपलब्ध साक्ष्य से पता चलता है कि ऐसे क्षेत्र हैं – जैसे स्वास्थ्य सेवा और मानव संसाधन – जहाँ इन फ्रंटलाइन उपकरणों के उपयोग के संबंध में अत्यधिक सावधानी बरतने की आवश्यकता है, और नैतिक निरीक्षण आवश्यक हो सकता है।
एक हालिया और अत्यधिक प्रचारित उदाहरण टेसा नामक चैटबॉट का है, जिसका उपयोग अमेरिका में नेशनल ईटिंग डिसऑर्डर एसोसिएशन (एनईडीए) द्वारा किया गया था। संगठन ने शुरू में वेतनभोगी कर्मचारियों और स्वयंसेवकों के संयोजन द्वारा संचालित एक हेल्पलाइन बना रखी थी।

इसका स्पष्ट लक्ष्य खाने के विकारों से पीड़ित लोगों की सहायता करना था।
हालाँकि, इस वर्ष, संगठन ने अपने हेल्पलाइन कर्मचारियों को चलता कर दिया और साथ ही यह ऐलान किया कि वह उनकी जगह टेसा चैटबॉट को लेगा। इसके कारण विवादित हैं। पूर्व कर्मचारियों का दावा है कि यह बदलाव हेल्पलाइन कर्मचारियों द्वारा यूनियन बनाने के निर्णय के बाद किया गया। एनईडीए के उपाध्यक्ष ने कॉल की बढ़ती संख्या और प्रतीक्षा समय बढ़ते जाने के साथ-साथ स्वयंसेवी कर्मचारियों का उपयोग करने के संबंध में कानूनी देनदारियों का हवाला दिया।
जो भी मामला हो, काम करने की एक बहुत ही संक्षिप्त अवधि के बाद, टेसा को इन खबरों के बाद ऑफ़लाइन कर दिया गया था कि चैटबॉट ने समस्याग्रस्त सलाह जारी की थी जो खाने के विकारों के लिए मदद मांगने वाले लोगों के लक्षणों को बढ़ा सकती थी।
यह भी बताया गया कि टेसा के निर्माण में सहायता करने वाले दो उच्च योग्य शोधकर्ता डॉ. एलेन फिट्ज़सिमन्स-क्राफ्ट और डॉ. सी बर्र टेलर ने शर्त लगाई थी कि चैटबॉट का उद्देश्य कभी भी मौजूदा हेल्पलाइन के प्रतिस्थापन या भोजन विकार के गहन लक्षणों का अनुभव करने वाले लोगों को तत्काल सहायता प्रदान करना नहीं था।

महत्वपूर्ण उन्नयन
तो टेसा को किस लिए डिज़ाइन किया गया था? शोधकर्ताओं ने सहकर्मियों के साथ मिलकर एक अवलोकन अध्ययन तैयार किया, जिसमें खाने के विकार के बारे में चिंतित उपयोगकर्ताओं के साथ बातचीत करने के लिए नियम-आधारित चैटबॉट को डिजाइन करने में आने वाली चुनौतियों पर प्रकाश डाला गया था। यह पढ़ने में काफी दिलचस्प है, जिसमें डिजाइन विकल्पों, परिचालनों, कमियों और संशोधनों को दर्शाया गया है।
टेसा का मूल संस्करण एक पारंपरिक, नियम-आधारित चैटबॉट था, हालांकि यह अत्यधिक परिष्कृत था, जो तर्क के आधार पर पूर्व-निर्धारित संरचना का पालन करता है। यह अपने रचनाकारों द्वारा निर्धारित मानकीकृत पूर्व-क्रमादेशित प्रतिक्रियाओं से विचलित नहीं होता।

उनके निष्कर्ष में निम्नलिखित बिंदु शामिल थे: ‘‘नियम-आधारित चैटबॉट्स में जानकारी और सरल इंटरैक्शन प्रदान करने में कम लागत पर बड़ी आबादी तक पहुंचने की क्षमता, लेकिन यह अप्रत्याशित उपयोगकर्ता प्रतिक्रियाओं को समझने और उचित रूप से प्रतिक्रिया देने में सीमित हैं’’।
ऐसा प्रतीत हो सकता है कि इससे उन उपयोगों को सीमित किया जा सकता है जिनके लिए टेसा उपयुक्त थी। तो आखिर इसने एनईडीए द्वारा पहले इस्तेमाल की गई हेल्पलाइन की जगह कैसे ले ली? अलग-अलग कारणों के बीच घटनाओं की सटीक श्रृंखला पर चर्चा चल रही है, लेकिन, एनपीआर के अनुसार, चैटबॉट की होस्टिंग कंपनी ने टेसा को नियम-आधारित चैटबॉट से पूर्व-प्रोग्राम की गई प्रतिक्रियाओं के साथ ‘‘उन्नत प्रश्न और उत्तर सुविधा’’ के साथ बदल दिया।

टेसा का बाद का संस्करण चैटजीपीटी और इसी तरह के उत्पादों की तरह जेनरेटिव एआई को नियोजित करने वाला था। ये उन्नत एआई चैटबॉट अधिक यथार्थवादी और उपयोगी प्रतिक्रिया देने के इरादे से मानव वार्तालाप पैटर्न का अनुकरण करने के लिए डिज़ाइन किए गए हैं। इन अनुकूलित उत्तरों को उत्पन्न करना सूचना के बड़े डेटाबेस पर निर्भर करता है, जिसे एआई मॉडल को विभिन्न तकनीकी प्रक्रियाओं के माध्यम से ‘‘समझने’’ के लिए प्रशिक्षित किया जाता है, जिसमें मशीन लर्निंग, गहन शिक्षण और प्राकृतिक प्रसंस्करण शामिल है।
सबक सीखना
अंततः, चैटबॉट ने कुछ उपयोगकर्ताओं के प्रश्नों के संभावित रूप से हानिकारक उत्तर तैयार किए। आगामी चर्चाओं ने दोष को एक संस्था से दूसरी संस्था पर स्थानांतरित कर दिया है। हालाँकि, मुद्दा यह है कि आने वाली परिस्थितियों से संभावित रूप से बचा जा सकता था यदि नैतिक निरीक्षण के साथ ही टेसा के निर्माण के स्पष्ट उद्देश्य का पालन किया गया होता।

विभिन्न प्रणालियों में एआई के बढ़ते दखल को देखते हुए इस तरह के मामलों से सबक सीखना महत्वपूर्ण है। और जबकि ये घटनाएँ अमेरिका में हुईं, इनमें उन लोगों के लिए सबक शामिल हैं जो अन्य देशों में भी ऐसा करना चाहते हैं।
ऐसा प्रतीत होता है कि यूके इस मुद्दे पर कुछ हद तक खंडित दृष्टिकोण रखता है। सेंटर फॉर डेटा एथिक्स एंड इनोवेशन (सीडीईआई) के सलाहकार बोर्ड को हाल ही में भंग कर दिया गया था और इसका स्थान नवगठित फ्रंटियर एआई टास्कफोर्स द्वारा लिया गया था।

ऐसी भी खबरें हैं कि श्रमिकों की सहायता के लिए लंदन में एआई सिस्टम का पहले से ही परीक्षण किया जा रहा है – हालांकि हेल्पलाइन के प्रतिस्थापन के रूप में नहीं।
ये दोनों उदाहरण नैतिक विचारों और व्यावसायिक हितों के बीच संभावित तनाव को उजागर करते हैं। हमें उम्मीद करनी चाहिए कि अंततः दोनों एक हो जाएंगे और एआई द्वारा प्रदान की जा सकने वाली दक्षता और लाभों के साथ व्यक्तियों की भलाई को संतुलित किया जा सकेगा। हालाँकि, कुछ क्षेत्रों में जहां संगठन जनता के साथ बातचीत करते हैं, एआई-जनित प्रतिक्रियाएं और नकली सहानुभूति वास्तविक मानवता और करुणा की जगह लेने केलिए कभी भी पर्याप्त नहीं हो सकती हैं – विशेष रूप से चिकित्सा और मानसिक स्वास्थ्य के क्षेत्रों में।