सुप्रीम कोर्ट ने AI के अंधाधुंध उपयोग को 'अदृश्य और खतरनाक' बताया

'अदृश्य और खतरनाक', सुप्रीम कोर्ट ने कानूनी प्रक्रिया में AI के इस्तेमाल को लेकर दी चेतावनी

सुप्रीम कोर्ट ने NCLT के एक फैसले पर गंभीर चिंता जताई, जिसमें AI-जनरेटेड नकली उदाहरणों का इस्तेमाल किया गया था। कोर्ट ने कानूनी प्रक्रिया में AI के अं ...और पढ़ें

HighLights

- सुप्रीम कोर्ट ने AI-जनरेटेड नकली उदाहरणों पर गंभीर चिंता व्यक्त की।

- NCLT के फैसले को रद्द कर इंसानी नियंत्रण की आवश्यकता पर जोर दिया।

- AI के अंधाधुंध उपयोग को 'अदृश्य और खतरनाक' बताया, सावधानी बरतने को कहा।

डिजिटल डेस्क, नई दिल्ली। सुप्रीम कोर्ट ने गुरुवार को नेशनल कंपनी लॉ ट्रिब्यूनल (NCLT) के एक फैसले पर गंभीर चिंता जताई। यह आर्टिफिशियल इंटेलिजेंस (AI) से तैयार किए गए नकली उदाहरणों और मामलों पर आधारित था।

एस्सेल इंफ्राप्रोजेक्ट्स के दिवालियापन मामले में एनसीएलटी के फैसले को रद करते हुए अदालत ने कहा कि फैसला लेने की प्रक्रिया पर हर चरण में इंसानी नियंत्रण पूरी तरह से बना रहना चाहिए और पेशेवरों के एआई पर निर्भर होने के खतरे के प्रति आगाह किया।

कोर्ट ने क्यों जताई चिंता?

कोर्ट ने यह बात तब कही जब उसे पता चला कि एनसीएलटी ने ऐसे फैसलों या पुराने उदाहरणों (precedents) पर भरोसा किया था जो असल में थे ही नहीं, नकली थे या आर्टिफिशियल इंटेलिजेंस टूल्स से मनगढ़ंत तरीके से बनाए गए थे।

कोर्ट ने क्या कहा?

कोर्ट ने आगे कहा, "एआई का यह नतीजा यानी नकली, गैर-मौजूद और मनगढ़ंत जानकारी बनाना और उसे कानून में उदाहरण के तौर पर इस्तेमाल करना कानून और न्याय के दायरे में मिथाइल आइसोसाइनेट गैस के रिसाव जैसा है। यह अदृश्य, खतरनाक और विनाशकारी है। जब तक किसी का ध्यान इस पर जाता है, तब तक यह न केवल सब कुछ दूषित कर चुका होता है, बल्कि न्यायिक फैसले की बुनियाद को ही खत्म कर देता है।"

जस्टिस पीएस नरसिम्हा और जस्टिस आलोक अराधे की बेंच ने कहा कि मनगढ़ंत सामग्री पर इस तरह निर्भर रहने से न्याय-निर्णयन और उसकी प्रक्रियाओं की निष्पक्षता पर चोट पहुंचती है।

अदालत ने कहा, "यह एक और ऐसा मामला है जिसमें ट्रिब्यूनल ने आर्टिफिशियल इंटेलिजेंस (एआई) से तैयार की गई ऐसी सामग्री पर भरोसा किया जो असल में मौजूद ही नहीं थी, नकली थी और मनगढ़ंत थी और ट्रिब्यूनल ने इसे अपने फैसले के समर्थन में एक नजीर (मिसाल) की तरह इस्तेमाल किया।"

खबरें और भी

अदालत ने इंसानी दखल की जरूरत पर दिया जोर

अदालतों के फैसले सुनाने की प्रक्रिया में एआई को अपनाने की ओर बढ़ने के साथ ही कोर्ट ने हर चरण पर इंसानी दखल की जरूरत पर जोर दिया। फैसले में कहा गया, "हमारे फैसले लेने की प्रक्रिया के लिए यह बात अहम है कि हम फैसला सुनाने की प्रक्रिया में आर्टिफिशियल इंटेलिजेंस टेक्नोलॉजी को अपनाएं, लेकिन साथ ही यह भी पक्का करें कि हर चरण पर फैसला लेने की पूरी और अंतिम जिम्मेदारी इंसान के ही हाथ में रहे।"

अदालत ने माना कि आर्टिफिशियल इंटेलिजेंस में इंसानी कोशिशों चाहे वे रोजमर्रा के काम हों या बौद्धिक काम इसको बेहतर ढंग से करने या पूरी तरह से उनकी जगह लेने की क्षमता आ गई है।

अदालत ने कहा, "आज की भागदौड़ भरी जिंदगी में काम के बढ़ते बोझ के बीच यह असाधारण क्षमता पेशेवरों को समझदारी से कुशलता से और तेजी से काम करने के लिए एआई को अपनाने और इस्तेमाल करने के लिए प्रेरित कर रही है।"

अदालत ने इसके लिए गारफील्ड लॉ लिमिटेड (जीएलए) का उदाहरण भी दिया जो यूके में रेगुलेटेड कानूनी सेवाएं देने के लिए मंजूरी पाने वाली पहली पूरी तरह से आर्टिफिशियल इंटेलिजेंस-आधारित लॉ फर्म है।

अदालत ने कहा कि एआई से मिलने वाले नतीजे संतोषजनक और प्रेरणादायक भी हो सकते हैं लेकिन अगर इसे बिना किसी नियम-कानून के छोड़ दिया जाए तो आर्टिफिशियल इंटेलिजेंस हमारे बौद्धिक कामकाज के तौर-तरीकों में घुसपैठ कर सकता है और जल्द ही हमें अपनी विशाल क्षमताओं पर निर्भर बना सकता है।

इसमें इस बात पर जोर दिया गया कि भले ही एआई को एक मददगार के तौर पर अपनाया जा सकता है, लेकिन फैसले लेने की प्रक्रिया पर हर चरण में इंसानी नियंत्रण पूरी तरह से बना रहना चाहिए। अदालत ने आगे कहा कि हालांकि अदालतों ने टेक्नोलॉजी को आसानी से अपना लिया है और इसे न्यायिक व्यवस्था का अहम हिस्सा बना लिया है, लेकिन एआई का मामला इससे अलग है।

अदालत ने कहा, "हालांकि, एआई की कहानी जैसे-जैसे सामने आ रही है, वह अलग है। असल में यह क्रांतिकारी है। यह न केवल हमारे काम में मदद करने वाला एक साधन है, बल्कि हमारी अपनी सोच, तर्क और यहां तक कि निर्णय लेने की क्षमता का भी एक विकल्प है।"

'बहुत सावधान रहने की जरूरत'

कोर्ट ने कहा कि जजों को बहुत सावधान रहने की जरूरत है, क्योंकि एआई का बिना नियम-कानून वाला इस्तेमाल धीरे-धीरे कानूनी कामकाज, न्याय की प्रक्रिया और खुद फैसला लेने की प्रक्रिया में घुस जाएगा। सुप्रीम कोर्ट ने यह भी साफ किया कि वह 'हैलुसिनेशन' (एआई द्वारा गलत जानकारी देने) की वजह या उन्हें ठीक करने की तकनीकी प्रक्रिया पर बात नहीं कर रहा है। कोर्ट ने कहा कि यह काम इंजीनियरों और वैज्ञानिकों का है।

क्या है पूरा मामला?

सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया को एक कमिटी बनाने और इस मामले की विस्तार से जांच करने का भी निर्देश दिया। यह मामला सस्पेंड की गई डायरेक्टर पूजा रमेश सिंह की एक याचिका से जुड़ा है। उन्होंने एनसीएलटी के उस आदेश के खिलाफ याचिका दायर की थी, जिसमें जम्मू एंड कश्मीर बैंक लिमिटेड की ओर से सेक्शन 7 के तहत दायर अर्जी पर एसेल इंफ्राप्रोजेक्ट्स को कॉर्पोरेट इनसॉल्वेंसी रिजॉल्यूशन प्रोसेस में शामिल करने की मंजूरी दी गई थी।

एनसीएलटी की मुंबई बेंच ने 28 अगस्त, 2024 को 87.43 करोड़ रुपये के बकाया दावे के लिए इनसॉल्वेंसी याचिका को मंजूरी दी थी। NCLAT ने 11 सितंबर, 2025 को इस आदेश को बरकरार रखा। यह कर्ज जम्मू-कश्मीर बैंक द्वारा 'पैन इंडिया यूटिलिटीज डिस्ट्रीब्यूशन कंपनी लिमिटेड' को दी गई 200 करोड़ रुपये की सुविधा से पैदा हुआ था।

इस सुविधा के लिए एसेल इंफ्राप्रोजेक्ट्स की कॉर्पोरेट गारंटी और मुंबई के बोरीवली इलाके के गोराई में मौजूद जमीन को गिरवी रखने की व्यवस्था की गई थी। NCLT की बेंच, जिसमें ज्यूडिशियल मेंबर रीटा कोहली और टेक्निकल मेंबर मधु सिन्हा शामिल थीं ने इस दलील को खारिज कर दिया और कहा कि कॉर्पोरेट गारंटी एसेल इंफ्राप्रोजेक्ट्स पर लागू रहेगी।

हालांकि, सुप्रीम कोर्ट ने पाया कि ट्रिब्यूनल ने अपने फैसले के समर्थन में ऐसी जानकारी या उदाहरणों का सहारा लिया था जिनका कोई अस्तित्व ही नहीं था और जो केवल कल्पना पर आधारित थे। कोर्ट ने NCLT और NCLAT के फैसले को रद कर दिया और ट्रिब्यूनल से कहा कि वे तथ्यों के आधार पर फैसला करें।

Powered by Nyaya 247 News