सुप्रीम कोर्ट ने चेतावनी दी: अदालत कक्षों में एआई मतिभ्रम के लिए 'शून्य सहनशीलता'

- भारत के सर्वोच्च न्यायालय ने अदालतों में एआई-जनित फर्जी कानूनी उदाहरणों के खिलाफ चेतावनी दी

- कोर्ट ने बार काउंसिल से कानूनी पेशे के लिए एआई उपयोग नीति बनाने का आग्रह किया

- न्यायाधीशों और वकीलों को एआई आउटपुट को सत्यापित करना चाहिए और उन्हें आधिकारिक नहीं मानना चाहिए

भारत के सुप्रीम कोर्ट ने कानूनी प्रणाली में जनरेटिव आर्टिफिशियल इंटेलिजेंस के जोखिमों पर अपनी सबसे स्पष्ट चेतावनी देते हुए कहा है कि अदालतों के सामने पेश किए जाने वाले भ्रामक उदाहरणों और मनगढ़ंत प्राधिकारियों के लिए "शून्य सहिष्णुता" होगी। सुप्रीम कोर्ट ने बार काउंसिल ऑफ इंडिया से कानूनी पेशे में एआई के इस्तेमाल पर एक नीति बनाने को कहा है।

निर्णय एआई को अस्वीकार नहीं करता है, बल्कि वकीलों और न्यायाधीशों पर यह जिम्मेदारी डालता है कि वे यह सत्यापित करें कि एआई उपकरण क्या उत्पादन करते हैं। पीठ ने बार-बार "तथ्य और कल्पना के बीच, तथ्य और विश्लेषण के बीच, क्या वास्तविक है और क्या अवास्तविक है" के बीच अंतर करने की आवश्यकता पर बल दिया और स्वतंत्र सत्यापन के बिना एआई-जनित आउटपुट को कानूनी अधिकारियों के रूप में मानने के प्रति आगाह किया।

अदालत ने न्याय प्रणाली में नकली एआई-जनित उदाहरणों की शुरूआत की तुलना 1984 की भोपाल आपदा से जुड़ी जहरीली गैस मिथाइल आइसोसाइनेट की रिहाई से की। तुलना ने न्यायाधीशों की चिंता को रेखांकित किया कि यदि अनियंत्रित छोड़ दिया गया तो मनगढ़ंत प्राधिकारी निर्णयों, कानूनी डेटाबेस और भविष्य की मुकदमेबाजी के माध्यम से फैल सकते हैं।

यह चेतावनी तब भी आई है जब भारत की न्यायपालिका एआई के उपयोग का विस्तार कर रही है। सुप्रीम कोर्ट पहले से ही कानूनी अनुसंधान सहायता के लिए SUPACE, निर्णयों के अनुवाद के लिए SUVAS और AI-संचालित ट्रांसक्रिप्शन सिस्टम जैसे उपकरणों का उपयोग करता है। पिछले महीने, अदालत की एआई समिति ने अदालतों में आर्टिफिशियल इंटेलिजेंस के उपयोग के लिए मसौदा विनियम, 2026 जारी किया, जिसमें एआई अपनाने के लिए एक व्यापक ढांचे का प्रस्ताव दिया गया, जबकि यह स्पष्ट किया गया कि न्यायिक निर्णय लेना मानव हाथों में रहना चाहिए।

अदालत के समक्ष तत्काल विवाद में भ्रमित कानूनी अधिकारी शामिल थे। लेकिन कई वकीलों ने कहा कि बड़ी चिंता यह है कि मनगढ़ंत उद्धरण पहचाने जाने से पहले जांच की कई परतों से बचे रहे।

फर्जी प्राधिकारियों को कानूनी अनुसंधान, अदालती बहस, राष्ट्रीय कंपनी कानून न्यायाधिकरण के समक्ष कार्यवाही या अंततः सर्वोच्च न्यायालय तक पहुंचने से पहले अपीलीय समीक्षा के दौरान नहीं पकड़ा गया था।

सिरिल अमरचंद मंगलदास के पार्टनर और सह-प्रमुख, डिजिटल+, टीएमटी अरुण प्रभु ने कहा, "यहां मुख्य अंतर तथ्य और कल्पना के बीच, तथ्य और विश्लेषण के बीच, क्या वास्तविक है और क्या अवास्तविक है।"

"जहां एक वकील (या इस मामले में, एक न्यायाधिकरण) एक मामले (या किसी मामले में एक प्रस्ताव) का हवाला देता है जो मिसाल के रूप में मौजूद नहीं है, यह तथ्य का गलत बयान है, विश्लेषण की त्रुटि नहीं है।"

प्रभु ने कहा कि फैसला इस बात पर प्रकाश डालता है कि वकीलों का पेशेवर कर्तव्य केवल एआई के शामिल होने से नहीं बदलता है। उन्होंने कहा कि एक वकील जो गैर-मौजूद मामले का हवाला देता है, उसे परिणाम भुगतना होगा, चाहे गलती लापरवाही, इरादे या एआई उपकरण पर निर्भरता से उत्पन्न हुई हो।

प्रभु ने कहा, "निर्णय एआई उद्धरण पर भरोसा करते हुए पेशेवर परिश्रम न करने के परिणामों के साथ-साथ मतिभ्रम मिसाल पर निर्भर निर्णय के कानूनी परिणामों पर भी प्रकाश डालता है। यह देखभाल के अंतर्निहित कर्तव्य को नहीं बदलता है, लेकिन विशिष्ट परिस्थितियों में इसके उल्लंघन के परिणामों को दर्शाता है।"

यह फैसला अन्य हालिया भारतीय मामलों का अनुसरण करता है जिसमें वकीलों ने ऐसे अधिकारियों का हवाला दिया जो अस्तित्व में नहीं थे, जिनमें केएमजी वायर्स बनाम एनएफएसी दिल्ली और ग्रीनोपोलिस वेलफेयर एसोसिएशन बनाम नरेंद्र सिंह शामिल हैं। ये मामले उस समस्या को प्रतिबिंबित करते हैं जिसका दुनिया भर की अदालतें सामना करना शुरू कर रही हैं: एआई सिस्टम विश्वसनीय दिखने वाले उद्धरण उत्पन्न कर सकते हैं जो पूरी तरह से काल्पनिक हैं।

कोचर एंड कंपनी के पार्टनर शिव सपरा के लिए, यह फैसला कानूनी प्रणाली में कमजोरी को उजागर करता है, जिसने न्यायिक जांच की कई परतों के माध्यम से भ्रामक मिसालों को फिसलने की अनुमति दी है।

सप्रा बताते हैं, "यह माध्यमिक अनुसंधान पर अत्यधिक निर्भरता और एक धारणा को उजागर करता है कि प्रत्येक उद्धृत प्राधिकारी को पहले ही सत्यापित किया जा चुका है। एआई ने अंतर्निहित समस्या पैदा नहीं की; इसने मनगढ़ंत सामग्री को अत्यधिक विश्वसनीय बनाकर कानूनी अनुसंधान प्रथाओं में मौजूदा कमजोरी को बढ़ा दिया।"

सर्वोच्च न्यायालय का दृष्टिकोण भारतीय न्यायपालिका के भीतर व्यापक नीतिगत चर्चाओं के अनुरूप है। पिछले साल, केरल उच्च न्यायालय ने एक नीति पेश की थी जिसमें न्यायाधीशों को एआई-जनित सामग्री को स्वतंत्र रूप से सत्यापित करने, ऑडिट ट्रेल्स बनाए रखने और अपने आदेशों की सामग्री के लिए व्यक्तिगत रूप से जिम्मेदार रहने की आवश्यकता थी।एआई और न्यायपालिका पर सुप्रीम कोर्ट के नवंबर 2025 के श्वेत पत्र ने सत्यापन, मानवीय निरीक्षण और जवाबदेही पर जोर देते हुए एआई-सहायता प्राप्त अनुसंधान और अदालत प्रशासन का भी समर्थन किया।

जून में जारी एआई नियमों का मसौदा उसी दृष्टिकोण को आगे बढ़ाता है। वे एआई-सहायता प्राप्त अनुसंधान, अनुवाद, पहुंच सेवाओं, प्रतिलेखन और केस प्रबंधन को प्रोत्साहित करते हुए एआई को मामलों पर निर्णय लेने, जमानत पात्रता निर्धारित करने, गवाह की विश्वसनीयता का आकलन करने, जोखिम स्कोर निर्दिष्ट करने या अन्य न्यायिक कार्य करने से रोकते हैं।

एक अनसुलझा प्रश्न यह है कि एआई टूल का उपयोग करते समय वकीलों को स्वयं को कैसे विनियमित किया जाना चाहिए। अधिवक्ता अधिनियम और बार काउंसिल ऑफ इंडिया के नियम पहले से ही सक्षमता, स्पष्टवादिता और परिश्रम के कर्तव्यों को लागू करते हैं, लेकिन जनरेटिव एआई के व्यापक रूप से उपलब्ध होने से पहले उनका मसौदा तैयार किया गया था।

अजय साहनी एंड एसोसिएट्स के पार्टनर अंकित साहनी ने कहा, "यह एआई क्षमता के कर्तव्य के भारतीय संस्करण के रूप में विकसित हो सकता है।" "इसलिए पेशेवर कर्तव्य एआई से पूरी तरह बचना नहीं है, बल्कि इसे मानव पर्यवेक्षण, स्रोत सत्यापन और पूर्ण जवाबदेही के साथ उपयोग करना है।"

साहनी कहते हैं, "एआई का उपयोग जिम्मेदारी से तभी किया जा सकता है जब वकील इसकी उपयोगिता और जोखिम दोनों को समझते हैं, विशेष रूप से मतिभ्रम वाले मामले, मनगढ़ंत उद्धरण और अति आत्मविश्वास लेकिन गलत कानूनी प्रस्ताव।"

चुग यूनिवर्सल लीगल के सीनियर पार्टनर शौर्य एम. तोमर ने कहा कि यह फैसला भविष्य के पेशेवर मानकों को आकार दे सकता है। तोमर ने कहा, “यह फैसला कानूनी अभ्यास के बुनियादी सिद्धांत को मजबूत करता है: एआई कानूनी अनुसंधान के लिए एक प्रभावी सहायता है, लेकिन यह पेशेवर परिश्रम की जगह नहीं ले सकता है।”

भारत की अदालतें एआई के व्यापक उपयोग की तैयारी कर रही हैं, और न्यायपालिका के मसौदा नियमों से यह स्पष्ट हो गया है कि प्रौद्योगिकी से अनुसंधान, प्रशासन और पहुंच में बढ़ती भूमिका निभाने की उम्मीद है।

जैसा कि सपरा ने कहा: "आज योग्यता केवल कानून जानने तक ही सीमित नहीं है; इसमें यह जानना भी शामिल है कि प्रौद्योगिकी पर कब भरोसा किया जा सकता है और, इससे भी महत्वपूर्ण बात यह है कि कब नहीं।"

यह भी पढ़ें: गुजरात HC ने 2008 के अहमदाबाद विस्फोटों में 38 लोगों की मौत की सजा बरकरार रखी, 11 को आजीवन कारावास

आवश्यक बिजनेस इंटेलिजेंस, तीव्र बाजार अंतर्दृष्टि, व्यावहारिक व्यक्तिगत वित्त सलाह, दैनिक ईंधन, सोने और चांदी की कीमतें और नवीनतम कहानियां - एनडीटीवी प्रॉफिट पर।

Powered by Nyaya 247 News