स्वास्थ्य सूचनामा एआईको जोखिम: आधा जवाफ भ्रामक, स्रोतहरू ‘मनगढन्ते’ भएको खुलासा

काठमाडौँ – आजको डिजिटल युगमा सामान्य रुघाखोकी देखि क्यान्सर जस्ता जटिल रोगबारे बुझ्न धेरैले गुगल वा आर्टिफिसियल इन्टेलिजेन्स (एआई) च्याटबोटको सहारा लिने गरेका छन। तर, हालै सार्वजनिक भएको एक बृहत अध्ययनले एआईले दिने यस्ता स्वास्थ्य सूचनाहरू ‘अत्यधिक जोखिमपूर्ण’ हुनसक्ने चेतावनी दिएको छ ।

प्रतिष्ठित मेडिकल जर्नल ‘बीएमजे ओपन’ मा अप्रिल २०२६ मा प्रकाशित यो अध्ययनलाई 👉 यहाँ क्लिक गरेर पढ्न सकिन्छ। उक्त अध्ययन अनुसार, विश्वका लोकप्रिय पाँच एआई च्याटबोटले सोधिएका स्वास्थ्य सम्बन्धी प्रश्नहरूमा झन्डै आधा (४९.६%) जवाफहरू त्रुटिपूर्ण वा समस्याग्रस्त दिएका छन।

कुन कुन च्याटबोटमाथि भएको थियो परीक्षण?

फेब्रुअरी २०२५ मा गरिएको यो ‘अडिट’ मा अनुसन्धानकर्ताहरूले निम्न पाँच प्रणालीहरूको परीक्षण गरेका थिए ।
१. जेमिनी (गुगल)
२. च्याटजीपीटी (ओपन एआई)
३. मेटा एआई (मेटा)
४. डीपसीक (हाई-फ्लायर)
५. ग्रोक (एक्स/ट्विटर)

मुख्य निष्कर्ष: आत्मविश्वासका साथ ‘गलत’ सूचना

अध्ययनले एआई च्याटबोटको कार्य क्षमतामा तीन वटा मुख्य कमजोरीहरू औंल्याएको छ ।

• आधा सूचना समस्याग्रस्त: अनुसन्धानकर्ताहरूले क्यान्सर, खोप, स्टेम सेल, पोषण र एथलेटिक प्रदर्शन गरी पाँच विधामा २५० वटा प्रश्न सोधेका थिए। ती मध्ये १९.६ प्रतिशत जवाफ ‘अत्यधिक समस्याग्रस्त’ (जसले सिधै गलत उपचार वा जोखिमपूर्ण व्यवहारलाई प्रोत्साहन गर्थ्यो) र ३० प्रतिशत ‘केही हद सम्म समस्याग्रस्त’ पाइए।
• मनगढन्ते सन्दर्भ र स्रोतहरू (हल्युसिनेसन्स): जब एआईलाई आफ्ना जवाफको वैज्ञानिक प्रमाण वा ‘रेफरेन्स’ दिन भनियो, नतिजा झनै डरलाग्दो आयो। कुनै पनि च्याटबोटले शत प्रतिशत सही स्रोत दिन सकेनन। धेरै जसो एआईले अस्तित्वमै नभएका शोधपत्र, लेखक र जर्नलहरूको नाम ‘आफैँ सिर्जना गरेर’ (फ्याब्रिकेटेड) पेश गरेका थिए।
• भाषाको जटिलता: एआईले दिने जवाफको भाषा यति जटिल पाइयो कि ती बुझ्न कम्तीमा कलेज स्तरको शिक्षा आवश्यक पर्छ। यसले गर्दा सामान्य प्रयोगकर्ताले एआईको सुझावलाई गलत अर्थ लगाउने जोखिम झनै बढी देखिन्छ।

विधागत नतिजा: खोपमा राम्रो, पोषणमा कमजोर

अध्ययनका अनुसार एआई च्याटबोटहरू सबै विषयमा समान रूपमा कमजोर छैनन ।

• तुलनात्मक रूपमा सुरक्षित: खोप (भ्याक्सिन्स) र क्यान्सरका बारेमा च्याटबोटले तुलनात्मक रूपमा सही जानकारी दिएका छन।
• अत्यधिक जोखिमपूर्ण: स्टेम सेल थेरापी, पोषण (न्युट्रिशन) र शारीरिक अभ्यासका विषयमा एआईले धेरै गलत र वैज्ञानिक आधार नभएका दाबीहरू गरेको पाइएको छ।

ग्रोक सबै भन्दा बढी त्रुटिपूर्ण

अध्ययनमा समावेश मोडेलहरू मध्ये एलन मस्कको कम्पनीको ‘ग्रोक’ ले सबै भन्दा धेरै (५८ प्रतिशत) समस्या ग्रस्त जवाफ दिएको थियो। तुलनात्मक रूपमा गुगलको जेमिनी ले सबै भन्दा कम त्रुटि गरे पनि यो पूर्णतः सुरक्षित भने देखिएन ।

विज्ञको चेतावनी: एआई ‘डाक्टर’ होइन

अनुसन्धानकर्ताहरूले यो अध्ययन कुनै पनि एआई मोडेललाई प्रतिबन्ध लगाउन नभई प्रयोगकर्तालाई सचेत गराउन गरिएको बताएका छन। एआई मोडेलहरूले कुनै पनि प्रश्नको जवाफ दिँदा ‘मलाई थाहा छैन’ वा ‘चिकित्सकलाई भेट्नुस’ भन्नुको सट्टा आत्मविश्वासका साथ जवाफ दिने प्रवृत्ति (ओभरकन्फिडेन्स) घातक हुन सक्ने उनीहरूको ठहर छ।

नेपाली प्रयोगकर्ताका लागि सन्देश: अनलाइनमा उपलब्ध एआई च्याटबोटहरू केवल सूचनाका लागि सहयोगी हुन सक्छन, तर यिनलाई व्यावसायिक चिकित्सक वा स्वास्थ्यकर्मीको विकल्पका रूपमा लिनु ज्यानकै लागि जोखिमपूर्ण हुन सक्छ। विशेष गरी औषधि, गम्भीर बिरामीको उपचार र पोषण सम्बन्धी सल्लाह लिनु अघि आधिकारिक स्वास्थ्य संस्थाकै परामर्श लिनु अनिवार्य छ ।