सुप्रीम कोर्ट ने भ्रामक एआई द्वारा उद्धरणों का उपयोग करने वाले आदेशों को खारिज कर दिया

सुप्रीम कोर्ट ने एआई द्वारा भ्रामक उद्धरणों का उपयोग करने के लिए ट्रिब्यूनल के आदेश को खारिज कर दिया

सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया को निर्णय में कृत्रिम बुद्धिमत्ता की जांच करने के लिए एक विशेषज्ञ समिति बनाने का निर्देश दिया है, क्योंकि ट्रिब्यूनल ने मनगढ़ंत एआई-जनित न्यायिक मिसालों पर भरोसा किया है।

सुप्रीम कोर्ट ने गुरुवार को नेशनल कंपनी लॉ ट्रिब्यूनल (एनसीएलटी) और नेशनल कंपनी लॉ अपीलेट ट्रिब्यूनल (एनसीएलएटी) द्वारा पारित आदेशों को खारिज कर दिया, जिसमें कहा गया था कि दोनों मंचों ने दिवाला विवाद का फैसला करते समय गैर-मौजूद, एआई-जनित 'मतिभ्रम' न्यायिक उदाहरणों पर भरोसा किया था।

कानूनी प्रणाली में कृत्रिम बुद्धिमत्ता के उपयोग पर एक महत्वपूर्ण फैसले में, न्यायमूर्ति पीएस नरसिम्हा और न्यायमूर्ति आलोक अराधे की पीठ ने बार काउंसिल ऑफ इंडिया को निर्णय और कानूनी अभ्यास में एआई के उपयोग से उत्पन्न होने वाली चुनौतियों की जांच के लिए एक विशेषज्ञ समिति गठित करने का भी निर्देश दिया।

Livelaw.in ने सुप्रीम कोर्ट के हवाले से कहा, "इसलिए हमने बार काउंसिल ऑफ इंडिया को भी एक समिति गठित करने और इन मुद्दों की विस्तार से जांच करने का निर्देश दिया है।"

पीठ ने रेखांकित किया कि हालांकि कृत्रिम बुद्धिमत्ता न्यायाधीशों और वकीलों की सहायता कर सकती है, लेकिन यह मानवीय तर्क की जगह नहीं ले सकती। इसने इस बात पर जोर दिया कि निर्णय हर स्तर पर मनुष्यों के "पूर्ण और पूर्ण नियंत्रण" में रहना चाहिए।

"फिर से एक ऐसा मामला है जहां ट्रिब्यूनल ने कृत्रिम बुद्धिमत्ता के माध्यम से उत्पन्न गैर-मौजूदा नकली और मतिभ्रम सामग्री पर भरोसा किया जैसे कि वे उसके फैसले के समर्थन में मिसाल थे। अदालत ने कहा, "अनुपालन के कारणों के लिए, हमने एनसीएलटी के फैसले के साथ-साथ निर्णय और इसकी प्रक्रियाओं की अखंडता को बनाए रखने और बनाए रखने के लिए अपील में दिए गए फैसले को भी रद्द कर दिया है।"

न्यायाधीशों ने कहा कि यह मामला केवल एक गलत निर्णय को सुधारने से परे एआई के प्रति न्यायपालिका के दृष्टिकोण को परिभाषित करने का अवसर प्रदान करता है।

पीठ ने कहा, "इस तरह के निर्णय को रद्द करने के अपरिहार्य परिणाम से अधिक, हमारे निर्णय लेने के लिए जो महत्वपूर्ण है, वह निर्णय की सहायता के लिए कृत्रिम बुद्धिमत्ता तकनीक को अपनाने का हमारा संकल्प है, साथ ही हर चरण में एक इंसान के साथ निर्णय पर पूर्ण और पूर्ण नियंत्रण की घोषणा करना है।"

अपील एस्सेल इंफ्राप्रोजेक्ट्स लिमिटेड (ईआईएल) के खिलाफ दिवाला और दिवालियापन संहिता की धारा 7 के तहत जम्मू और कश्मीर बैंक लिमिटेड द्वारा शुरू की गई दिवाला कार्यवाही से उपजी है, जिसने पैन इंडिया यूटिलिटीज डिस्ट्रीब्यूशन कंपनी लिमिटेड को विस्तारित क्रेडिट सुविधाओं के लिए कॉर्पोरेट गारंटी दी थी। एनसीएलटी, मुंबई ने 28 अगस्त, 2024 को दिवाला याचिका स्वीकार कर ली, जिसमें 87.43 करोड़ का डिफ़ॉल्ट दर्ज किया गया। एनसीएलएटी ने 11 सितंबर, 2025 को उस फैसले को बरकरार रखा।

सुप्रीम कोर्ट के समक्ष, निलंबित निदेशक पूजा रमेश सिंह की ओर से पेश वरिष्ठ वकील माधवी दीवान ने तर्क दिया कि ट्रिब्यूनल ने छह न्यायिक निर्णयों पर भरोसा किया था जो या तो अस्तित्व में नहीं थे या उनके लिए जिम्मेदार कानूनी प्रस्तावों का समर्थन नहीं करते थे।

आदेशों में कथित उदाहरणों का हवाला दिया गया है, जिनमें भारतीय स्टेट बैंक बनाम श्री राम अर्बन इंफ्रास्ट्रक्चर (2020 एससीसी ऑनलाइन एससी 341), एवरेस्ट केंटो सिलिंडर बनाम यूनियन ऑफ इंडिया ((2015) 2 एससीसी 1), और आईसीआईसीआई बैंक बनाम अर्बन इंफ्रास्ट्रक्चर रियल एस्टेट ((2019) 16 एससीसी 528) शामिल हैं। हालाँकि, शीर्ष अदालत के समक्ष प्रस्तुत एक हलफनामे ने पुष्टि की कि इन अधिकारियों को किसी भी मान्यता प्राप्त कानूनी डेटाबेस में नहीं खोजा जा सका, जिससे यह स्थापित हुआ कि वे मनगढ़ंत या एआई-जनित 'मतिभ्रम' उद्धरण थे।

दलीलों को स्वीकार करते हुए, सुप्रीम कोर्ट ने फैसला सुनाया कि गैर-मौजूद मिसालों पर आधारित न्यायिक आदेशों को बरकरार नहीं रखा जा सकता है और एनसीएलटी और एनसीएलएटी दोनों के फैसलों को रद्द कर दिया। मामले को अब मनगढ़ंत एआई-जनरेटेड उद्धरणों पर भरोसा किए बिना नए फैसले के लिए एनसीएलटी को भेज दिया गया है।

Livelaw.in के अनुसार, पीठ ने न्याय वितरण प्रणाली में एआई मतिभ्रम से उत्पन्न खतरों पर भी कड़ी चेतावनी दी। इसमें कहा गया है कि वर्तमान एआई सिस्टम की परिभाषित विशेषताओं में से एक संकेतों का जवाब देते समय "गैर-मौजूद नकली और मतिभ्रम परिणाम उत्पन्न करने की प्रवृत्ति" है।

अदालत ने कहा, "हम न तो ऐसे मतिभ्रम के कारण और न ही समाधान की प्रक्रिया से चिंतित हैं। इनसे निपटना इंजीनियरों और वैज्ञानिकों का काम है।" उन्होंने कहा कि कानूनी प्रणाली न्यायिक तर्क को प्रभावित करने के लिए मनगढ़ंत एआई-जनित सामग्री की अनुमति नहीं दे सकती है।एक स्पष्ट तुलना करते हुए, पीठ ने कहा: "हमारे लिए, यानी, उन लोगों के लिए जो विवादों के निर्णय और निर्धारण के क्षेत्र में हैं, एआई का यह उप-उत्पाद, नकली, गैर-मौजूदा और भ्रामक सामग्री का उत्पादन और कानून में प्राथमिकता के रूप में इसका उपयोग, कानून और न्याय के क्षेत्र में मिथाइल आइसोसाइनाइड की रिहाई की तरह है, जो अदृश्य रूप से घातक और विनाशकारी है जब तक कोई नोटिस करता है।"

अदालत ने कहा, "जहां तक ​​तथ्यों पर निर्णय का सवाल है, हम एनसीएलटी और एनसीएलएटी के फैसले को रद्द करते हैं और न्यायाधिकरणों से तथ्यों के आधार पर निर्णय लेने के लिए कहते हैं।"

Powered by Nyaya 247 News