नैसकॉम: सुप्रीम कोर्ट के एआई मसौदे में जोखिम की परिभाषा जरूरी

नैसकॉम ने सुप्रीम कोर्ट से यह परिभाषित करने के लिए कहा है कि अदालतों में उच्च जोखिम वाले एआई के उपयोग को क्या माना जाता है और यह स्पष्ट करने के लिए कि तकनीकी ऑडिट के लिए अदालतों में आर्टिफिशियल इंटेलिजेंस (एआई) के उपयोग के लिए मसौदा विनियम, 2026 पर अपने प्रस्तुतिकरण में स्रोत कोड के प्रकटीकरण की आवश्यकता नहीं होगी। उद्योग निकाय ने कार्यान्वयन-स्तर की स्पष्टता के लिए दबाव डालते हुए समग्र रूप से रूपरेखा का समर्थन किया।

सुप्रीम कोर्ट की एआई समिति, जिसकी अध्यक्षता न्यायमूर्ति पी.एस. नरसिम्हा ने 3 जून को मसौदा जारी किया और 20 जून तक टिप्पणियाँ आमंत्रित कीं। नियम सर्वोच्च न्यायालय, उच्च न्यायालयों, अधीनस्थ न्यायालयों और न्यायाधिकरणों में एआई के उपयोग को नियंत्रित करेंगे, न्यायाधीशों के लिए निर्णय, सजा और विश्वसनीयता मूल्यांकन को आरक्षित करते हुए कानूनी अनुसंधान, प्रतिलेखन, अनुवाद और केस प्रबंधन के लिए एआई की अनुमति देंगे।

नैसकॉम किन शब्दों को परिभाषित करना चाहता है? नैसकॉम ने तीन शब्दों को चिह्नित किया है जिनका मसौदे में उपयोग किया गया है लेकिन परिभाषित नहीं किया गया है:

- विनियम 3(1)(ई) के तहत "नुकसान का पर्याप्त जोखिम"।

- विनियम 7(3) के तहत "उच्च जोखिम वाले अनुप्रयोग"।

- विनियम 12(1) के तहत "संबंधित कार्य का जोखिम प्रोफ़ाइल"।

नैसकॉम ने कहा कि मसौदा इन शर्तों को परिभाषित नहीं करता है, जिससे हितधारकों के बीच अलग-अलग व्याख्याएं हो सकती हैं। इसने न्यायालय से यह दिखाने के लिए उदाहरणात्मक मार्गदर्शन जोड़ने के लिए कहा कि विभिन्न परिदृश्यों में जोखिम को कैसे वर्गीकृत किया जाएगा, और उस वर्गीकरण को विनियमन 19 के तहत सूचीबद्ध अनुमेय उपयोग मामलों में मैप किया जाए। इससे अदालतों को जोखिम प्रोफ़ाइल द्वारा एआई सिस्टम का आकलन और तैनाती करने के लिए एक संरचित आधार मिलेगा।

ऑडिट पर क्या है चिंता? नैसकॉम ने तर्क दिया कि ऑडिट पर विनियमन 38(2) का अर्थ यह हो सकता है कि सुप्रीम कोर्ट के पास एआई सिस्टम के स्रोत कोड या एल्गोरिदम तक पहुंच होगी। यह धारणा वहां लागू नहीं हो सकती जहां अदालतें तीसरे पक्ष की एआई सेवाओं पर भरोसा करती हैं, जो आम तौर पर ऐसी पहुंच को प्रतिबंधित करती हैं।

संस्था ने अक्सर पूछे जाने वाले प्रश्नों (एफएक्यू) के एक संलग्न सेट में कहा, "तकनीकी ऑडिट को स्वचालित स्रोत कोड प्रकटीकरण के रूप में नहीं माना जाना चाहिए।" इसके प्रमुख पद:

- एक ऑडिट यह आकलन करता है कि क्या कोई प्रणाली "विश्वसनीय, सुरक्षित, समझाने योग्य, निष्पक्ष, निगरानी वाली और अनुमोदित अदालती उपयोग के लिए उपयुक्त है।" एक सिस्टम को अपने कोड, मॉडल आर्किटेक्चर, प्रशिक्षण डेटा, या वेट तक गहरी पहुंच प्रदान करने की आवश्यकता होगी, जहां यह "उच्च जोखिम, कस्टम-निर्मित, कोर्ट-होस्ट, किसी घटना में शामिल हो, या भौतिक रूप से अधिकारों, स्वतंत्रता, साक्ष्य या न्याय तक पहुंच को प्रभावित करता हो।"

- ऑडिट आमतौर पर एक मिश्रित रूप लेते हैं। ऑडिटर ब्लैक-बॉक्स या एप्लिकेशन प्रोग्रामिंग इंटरफ़ेस (एपीआई)-आधारित मूल्यांकन के माध्यम से कम जोखिम वाले टूल का परीक्षण कर सकते हैं, इनपुट, आउटपुट, सटीकता और मतिभ्रम की जांच कर सकते हैं। अधिकांश सरकारी और उद्यम तैनाती एक ग्रे-बॉक्स दृष्टिकोण का उपयोग करती है, जहां लेखा परीक्षक दस्तावेज़ीकरण, डेटा प्रवाह, मॉडल कार्ड, लॉग और मानव निरीक्षण तंत्र की समीक्षा करते हैं। व्हाइट-बॉक्स निरीक्षण विवादित या सुरक्षा-संवेदनशील प्रणालियों के लिए आरक्षित है।

- प्रचलित मॉडल "जोखिम-आधारित, स्तरित आश्वासन" पर निर्भर करता है, जिसके तहत सरकारें और उद्यम स्रोत कोड या मॉडल भार के पूर्ण प्रकटीकरण के बजाय विक्रेता के उचित परिश्रम, नियंत्रित परीक्षण, सुरक्षा मूल्यांकन, ऑडिट ट्रेल्स और संविदात्मक ऑडिट अधिकारों का उपयोग करते हैं।

इसकी तुलना अन्य प्रस्तुतियों से कैसे की जाती है? सुप्रीम कोर्ट एडवोकेट्स-ऑन-रिकॉर्ड एसोसिएशन (एससीएओआरए) ने मसौदे के अनिवार्य प्रकटीकरण नियम का अलग से विरोध किया, विनियमन 43(3) और (4) को बुलाया, जिसमें अधिवक्ताओं को किसी भी दस्तावेज़ के "एआई-सहायता वाले चरित्र" को प्रमाणित करने की आवश्यकता होती है, जो मौजूदा पेशेवर कोड को देखते हुए अव्यवहारिक है। नैसकॉम प्रकटीकरण दायित्व को अछूता छोड़ देता है और इसके बजाय परिभाषाओं और ऑडिट आवश्यकताओं पर अधिक स्पष्टता चाहता है।

दोनों प्रस्तुतियाँ परामर्श में व्यापक विभाजन को दर्शाती हैं। बार निकाय वकीलों पर नियमों के बोझ का विरोध कर रहे हैं, जबकि तकनीकी उद्योग इस बात का विरोध कर रहा है कि नियम विक्रेताओं के सिस्टम में कैसे विस्तारित होंगे।

सुप्रीम कोर्ट ये नियम क्यों लिख रहा है? यह मसौदा भारतीय अदालतों में एआई विफलताओं की श्रृंखला का अनुसरण करता है। मई में, सुप्रीम कोर्ट ने आंध्र प्रदेश की एक ट्रायल कोर्ट द्वारा संपत्ति विवाद में चार गैर-मौजूद एआई-जनित निर्णयों का हवाला देने के बाद बार काउंसिल ऑफ इंडिया से एक विशेषज्ञ समिति गठित करने को कहा। नरसिम्हा पीठ ने फर्जी उद्धरणों पर निर्भरता को मात्र त्रुटि के बजाय कदाचार बताया। कोर्ट के सेंटर फॉर रिसर्च एंड प्लानिंग के नवंबर 2025 के श्वेत पत्र में पहले से ही गैर-मौजूद मिसालों वाले एआई-जनरेटेड सामग्री पर भरोसा करने वाले न्यायाधीशों का दस्तावेजीकरण किया गया था।

अंतराल बने हुए हैं. मसौदे में अदालतों को एआई सिस्टम को प्रशिक्षित करने से पहले व्यक्तिगत डेटा को अज्ञात करने की आवश्यकता है, लेकिन न्यायिक डेटा पर पहले से ही प्रशिक्षित सिस्टम को संबोधित नहीं किया गया है जिसे अदालत बाद में डी-इंडेक्स करने का आदेश देती है।दिल्ली उच्च न्यायालय के मई के फैसले के बाद इस मुद्दे को प्रमुखता मिली, जिसमें गूगल और इंडियन कानून को बरी होने, निपटान या आरोपमुक्त होने वाले मामलों में खोज परिणामों से याचिकाकर्ताओं के नाम हटाने का निर्देश दिया गया था।

यह भी पढ़ें:

- सुप्रीम कोर्ट ने कहा कि एआई-जनरेटेड फर्जी केस कानूनों का हवाला देना कदाचार है

- समझाया गया: भारतीय अदालतें एआई का उपयोग कैसे कर रही हैं और सुप्रीम कोर्ट इसमें इंसानों को क्यों शामिल करना चाहता है

- जस्टिस गवई ने चैटजीपीटी द्वारा कानूनी तथ्य गलत पाए जाने पर एआई जोखिमों को चिह्नित किया

आपके लिए

- निखिल पाहवा द्वारा लिखित तर्क पढ़ें: एआई हमारी दुनिया को कैसे बदल रहा है

- नियमित अपडेट प्राप्त करने के लिए मीडियानामा के दैनिक न्यूज़लेटर के लिए साइन अप करें

- एक मीडियानामा इवेंट को प्रायोजित करें

Powered by Nyaya 247 News