न्यायालयों में एआई के उपयोग पर मसौदा नियमों पर आईएफएफ की टिप्पणी

टीएल;डॉ

आईएफएफ ने न्यायालयों में एआई के उपयोग पर मसौदा विनियम, 2026 पर टिप्पणियाँ प्रस्तुत की हैं। हमारी प्रस्तुति को सुविधा और विचार के लिए आठ व्यापक शीर्षकों में विभाजित किया गया है। प्रत्येक अनुभाग हमारी टिप्पणियों और अनुशंसाओं के साथ एक व्यापक विषय पर प्रकाश डालता है।

ये अर्थात् हैं:

A. पूर्व विधान परामर्श नीति, 2014 का अनुपालन

बी. प्रावधान आईएफएफ समर्थन करता है और आग्रह करता है कि उन्हें बिना कमजोर किए बरकरार रखा जाए

C. सत्ता का केंद्रीकरण

डी. न्यायपालिका की एआई शासन वास्तुकला के भीतर कार्यकारी उपस्थिति

ई. गोद लेने के पक्ष में धारणा: विनियम 16 और 17

एफ. अनुमेय और निषिद्ध उपयोग: विनियम 19 और 20

जी. कोर्ट डेटा, गोपनीयता और गुमनामीकरण

एच. एआई सामग्री सत्यापन प्राधिकरण

पृष्ठभूमि

3 जून 2026 को, भारत के सर्वोच्च न्यायालय की एआई समिति ने न्यायालयों में आर्टिफिशियल इंटेलिजेंस ("एआई") के उपयोग के लिए मसौदा विनियम, 2026 ("ड्राफ्ट विनियम") जारी किया। निर्णय देने में एआई पर बढ़ती निर्भरता पर भारत के सर्वोच्च न्यायालय द्वारा व्यक्त की गई चिंताओं के बीच मसौदा विनियम आए हैं। यह विशेष रूप से तब प्रकाश में आया जब न्यायमूर्ति पी.एस. की खंडपीठ ने नरसिम्हा और आलोक अराधे ने एआई की मदद से उत्पन्न गैर-मौजूद निर्णयों पर एक ट्रायल कोर्ट की निर्भरता का संज्ञान लिया, यह घोषणा करते हुए कि ऐसा निर्णय "निर्णय लेने में कोई त्रुटि नहीं है" लेकिन "एक कदाचार और कानूनी परिणाम होगा", और यह देखते हुए कि मामला "निर्णय और निर्धारण की प्रक्रिया के बारे में काफी संस्थागत चिंता का विषय है"।

हालाँकि, ड्राफ्ट विनियम एआई परिनियोजन के प्रति एक नवाचार-समर्थक दृष्टिकोण अपनाते हुए प्रतीत होते हैं जो संयम पर नवाचार के सिद्धांत के माध्यम से सबसे स्पष्ट रूप से परिलक्षित होता है। हालाँकि इस दृष्टिकोण को निषिद्ध-उपयोग श्रेणियों, पारदर्शिता दायित्वों और लेखापरीक्षा आवश्यकताओं को शामिल करने जैसे सुरक्षा उपायों के साथ पेश किया गया है, फिर भी मसौदा विनियम न्यायिक संस्थानों और उन तंत्रों के भीतर किस हद तक नवाचार को प्राथमिकता दी जा रही है, जिसके माध्यम से संवैधानिक सुरक्षा उपायों को संरक्षित किया जाएगा, के संबंध में महत्वपूर्ण प्रश्न उठाते हैं।

इसलिए, इंटरनेट फ़्रीडम फ़ाउंडेशन अपनी टिप्पणियाँ सर्वोच्च न्यायालय की AI समिति को प्रस्तुत करता है।

विश्लेषण

विधान-पूर्व परामर्श नीति, 2014 का अनुपालन

परामर्श प्रक्रिया के संदर्भ में, भारत का सर्वोच्च न्यायालय शुरू में पूर्व-विधान परामर्श नीति, 2014 ("पीएलसीपी") के तहत निर्धारित सिद्धांतों से भटक गया था। पीएलसीपी के लिए आवश्यक है कि सभी मसौदा विधानों और अधीनस्थ नियमों को न्यूनतम 30 दिनों की अवधि के लिए सार्वजनिक डोमेन में रखा जाए, जो कि एक सीमा है, कोई सीमा नहीं। ड्राफ्ट विनियमों में, मूल रूप से 17 दिनों की छूट दी गई थी, जो 20 जून 2026 को बंद हो रही थी। हालांकि, विशिष्ट अदालती प्रक्रियाओं में एआई, एमएल या एलएलएम के उपयोग जैसे जटिल और अधिकार-संवेदनशील विषयों पर परामर्श के लिए हमारे नागरिकों को प्रतिक्रिया देने के लिए पर्याप्त समय की आवश्यकता होती है। इसलिए हम सुप्रीम कोर्ट के 16 जून 2026 के नोटिस की सराहना करते हैं, जिसमें पीएलसीपी मानक के पर्याप्त अनुपालन को बहाल करते हुए टिप्पणियां प्रस्तुत करने की अवधि 15 जुलाई 2026 तक बढ़ा दी गई है।

आईएफएफ जिन प्रावधानों का समर्थन करता है और आग्रह करता है उन्हें बिना कमजोर किए बरकरार रखा जाना चाहिए

सबसे पहले, विनियमन 20(1)(बी), (सी), (डी) और (एफ) में पूर्ण प्रतिबंध - एल्गोरिथम निर्णय, एआई-निर्धारित सजा, जोखिम स्कोरिंग (उड़ान-जोखिम मूल्यांकन, पुनरावृत्ति भविष्यवाणी, जमानत-पात्रता मूल्यांकन और विश्वसनीयता मूल्यांकन सहित) और व्यवहार संबंधी भविष्यवाणी पर। दूसरे, विनियम 20(1)(i), किसी भी एआई उपयोग से न्यायिक विचार-विमर्श की गोपनीयता की रक्षा करना। तीसरा, विनियम 46(4)(जी) से (एल) में विक्रेता-सामना करने वाले खंड - विशेष रूप से स्रोत और मॉडल पारदर्शिता में "वास्तुकला और प्रशिक्षण डेटा का पूर्ण तकनीकी दस्तावेज" (खंड (जी)), संवेदनशील न्यायिक डेटा के लिए ऑन-प्रिमाइसेस या संप्रभु-क्लाउड परिनियोजन (खंड (जे)), और "न्यायालय डेटा का उपयोग करके एआई मॉडल के पुनर्प्रशिक्षण, फाइन-ट्यूनिंग या संशोधन पर स्पष्ट निषेध" बिना स्पष्ट अनुमोदन के (खंड (के))। चौथा, विनियम 46(9), न्यायिक डेटा पर निर्मित उपकरणों पर न्यायालय का स्वामित्व या स्थायी रॉयल्टी-मुक्त लाइसेंस सुरक्षित करना, और उन पर विशेष निजी बौद्धिक-संपत्ति के दावों को रोकना।

हमारा अनुमान है कि इस परामर्श में कुछ हितधारक इन प्रावधानों में छूट की मांग करेंगे। हम निवेदन करते हैं कि वे संवैधानिक न्यूनतम का प्रतिनिधित्व करते हैं, न कि अत्यधिक सावधानी का, और समिति को उन्हें सुलझा हुआ मानना ​​चाहिए।

सत्ता का केंद्रीकरण

मसौदा विनियम एक समान ढांचा स्थापित करने का प्रयास करते हैं जो न्यायपालिका में एआई के उपयोग को नियंत्रित करता है।इसलिए, यह रूपरेखा दो महत्वपूर्ण चिंताओं को जन्म देती है। पहली चिंता यह है कि, भारत के संविधान के अनुच्छेद 227 और 235 के अनुसार, उच्च न्यायालयों के पास अपने अधिकार क्षेत्र के भीतर सभी अदालतों पर अधीक्षण की शक्ति होती है और वे पोस्टिंग, पदोन्नति, छुट्टी देने आदि से संबंधित मामलों पर जिला अदालतों और उनके अधीनस्थ अदालतों को भी नियंत्रित करते हैं। दूसरी ओर, संवैधानिक योजना के तहत, सर्वोच्च न्यायालय न्यायिक पदानुक्रम में सर्वोच्च स्थान रखता है और इसके द्वारा घोषित कानून अनुच्छेद 141 के तहत सभी अदालतों पर बाध्यकारी है। इसलिए, यह सर्वोच्च न्यायालय और उच्च न्यायालयों के बीच एक समान प्रशासनिक पदानुक्रम नहीं बनाता है। इस प्रकार, जबकि सर्वोच्च न्यायालय उच्च न्यायालयों पर अपीलीय क्षेत्राधिकार का प्रयोग करता है, एक राज्य के भीतर अदालतों का प्रशासन संवैधानिक रूप से संबंधित उच्च न्यायालय को सौंपा जाता है।

दूसरे, ड्राफ्ट विनियम प्राधिकार के उस स्रोत की पहचान नहीं करते जिसके तहत ऐसा ढांचा तैयार किया गया है। जैसा कि वकील निपुण दवे ने बताया, ड्राफ्ट विनियमों के साथ लगे सार्वजनिक नोटिस में केवल यह कहा गया है कि उन्हें भारत के सर्वोच्च न्यायालय की आर्टिफिशियल इंटेलिजेंस कमेटी के तत्वावधान में तैयार किया गया है। हालाँकि, न तो नोटिस और न ही ड्राफ्ट यह स्पष्ट करता है कि क्या समिति को संविधान, क़ानून या किसी प्रत्यायोजित विधायी प्राधिकार से कोई नियम बनाने की शक्ति प्राप्त है।

न्यायपालिका की एआई शासन वास्तुकला के भीतर कार्यकारी उपस्थिति

ड्राफ्ट विनियमों में संघ कार्यकारिणी के सेवारत अधिकारियों को निकायों के अंदर रखा गया है जो निर्णय में उपयोग की जाने वाली एआई प्रणालियों को मंजूरी, पर्यवेक्षण और ऑडिट करेंगे। विनियम 22(2)(ई) में शीर्ष निकाय के पदेन सदस्य के रूप में सीटें, "भारत सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (एमईआईटीवाई) में भारत सरकार के संयुक्त सचिव के पद से नीचे का अधिकारी नहीं" होता है। विनियमन 30(1) साइबर सुरक्षा समिति का गठन करता है जिसमें "सीईआरटी-इन, इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय और एनआईसी के अधिकारी शामिल हैं"। विनियम 23(एफ) इसे "एमईआईटीवाई, राष्ट्रीय सूचना विज्ञान केंद्र (एनआईसी), डेटा संरक्षण बोर्ड, सीईआरटी-इन... या किसी अन्य वैधानिक या नियामक निकाय के साथ संपर्क करना" शीर्ष निकाय का एक स्थायी कार्य बनाता है।

महत्वपूर्ण बात यह है कि भारत संघ उन अदालतों में सबसे बड़ा वादी है जिनके एआई उपकरणों को यह निकाय मंजूरी देगा। MeitY विशेष रूप से वेबसाइट और एप्लिकेशन ब्लॉकिंग, निगरानी और मध्यस्थ दायित्व से संबंधित चल रहे मुकदमे में प्रतिस्पर्धी प्रतिवादी है - ऐसे विवाद जिनमें विभाग के संस्थागत हित इन अदालतों के समक्ष पेश होने वाले वादियों के लिए बिल्कुल प्रतिकूल हैं। फिर भी, उस मंत्रालय का एक सेवारत संयुक्त सचिव वोट के साथ उस निकाय पर बैठेगा, जो देश भर में न्यायिक एआई के लिए न्यूनतम अनिवार्य मानक निर्धारित करता है, अनुमोदन करता है और उसकी देखरेख करता है, जिसमें दोष जांच, लिस्टिंग, अनुवाद और अनुसंधान के लिए उपकरण शामिल हैं, जिसका कॉन्फ़िगरेशन उसी मुकदमेबाजी के संचालन पर असर डाल सकता है। इससे चिंताएं बढ़ती हैं. इसलिए, न्यायिक स्वतंत्रता - जिसमें न्यायिक प्रशासन को कार्यकारी भागीदारी से अलग करना भी शामिल है - संविधान की मूल संरचना का हिस्सा बनना चाहिए।

गोद लेने के पक्ष में अनुमान: विनियम 16 और 17

जहां भी एआई परिनियोजन अनुच्छेद 21 या अनुच्छेद 14 के हितों को शामिल करता है - और ड्राफ्ट का अध्याय III स्वयं स्वीकार करता है कि कई तैनाती करते हैं - के.एस. में निर्धारित आनुपातिकता ढांचा। पुट्टास्वामी बनाम भारत संघ में राज्य अभिनेता को उपाय अपनाने से पहले एक वैध उद्देश्य, उपयुक्तता, आवश्यकता (कम से कम प्रतिबंधात्मक विकल्प) और संतुलन प्रदर्शित करने की आवश्यकता होती है। गोद लेने के पक्ष में एक स्थायी अनुमान "जब तक कि अन्यथा साबित न हो" उस बोझ को उलट देता है: इसमें तैनातीकर्ता को इसे उचित ठहराने के बजाय तैनाती को अस्वीकार करने की आवश्यकता होती है। जैसा कि अधिकारों को प्रभावित करने वाले उपयोगों पर लागू होता है, अनुमान संवैधानिक रूप से संदिग्ध है, न कि केवल अविवेकपूर्ण। इसलिए, विनियम 16(1) को पुनर्गठित किया जाना चाहिए ताकि तैनाती प्रदर्शन के आधार पर हो, न कि अनुमान के अनुसार और विनियम 17(2) को हटा दिया जाना चाहिए, या विनियमन को 'जिम्मेदार और साक्ष्य-आधारित नवाचार' के रूप में पुनः शीर्षक दिया जाना चाहिए, और शब्द "एक दृष्टिकोण जो संयम के बजाय सक्रिय और जिम्मेदार अपनाने को प्रोत्साहित किया जाएगा" को हटा दिया जाना चाहिए। संबंधित पाठ नीचे खंड-दर-खंड तालिका में प्रस्तावित है।

अनुमेय और निषिद्ध उपयोग: विनियम 19 और 20एआई सिस्टम को सत्यापित करने के लिए ड्राफ्ट रेगुलेशन की वास्तुकला का कानूनी संदर्भों में लागू होने पर एआई सिस्टम की गिरावट से संबंधित अनुभवजन्य साक्ष्य के आधार पर पुनर्मूल्यांकन किया जाना चाहिए। भारतीय कानूनी प्रणाली के विभिन्न समूहों से उभरने वाले अनुभव पहले से ही यह बात कहते हैं। आयकर अपीलीय न्यायाधिकरण, बेंगलुरु ने बके ट्रस्ट बनाम पीसीआईटी में अपने स्वयं के आदेश को वापस ले लिया, क्योंकि यह पाया गया कि यह आदेश गैर-मौजूद सुप्रीम कोर्ट और मद्रास उच्च न्यायालय के निर्णयों पर आधारित था, जो स्पष्ट रूप से एक जेनरेटर टूल से लिया गया था। सितंबर 2025 में दिल्ली उच्च न्यायालय ने मनगढ़ंत उद्धरणों और केस कानून के साथ तैयार की गई ग्रीनोपोलिस परिसंघ की एक याचिका को निंदा के साथ वापस लेने की अनुमति दी। पैटर्न वह है जो अध्याय II और अध्याय V के सख्त सत्यापन और प्रकटीकरण वास्तुकला को उचित ठहराता है, और यह सीधे हमारी विस्तृत टिप्पणियों में प्रदान की गई तालिका में संबोधित विनियमन 8(3) के प्रावधानों का खंडन करता है।

जोखिम स्कोरिंग, पुनरावृत्ति की भविष्यवाणी और विश्वसनीयता मूल्यांकन पर प्रतिबंध को मसौदा के रूप में बरकरार रखा जाना चाहिए, और समिति को 'सलाहकार' मॉडल के प्रति किसी भी तरह की ढील का विरोध करना चाहिए। इसके अलावा, ड्राफ्ट के विनियम 20(1)(सी) में सजा और जमानत में एक 'सलाहकारात्मक' खामी शामिल है। जैसा कि मसौदा तैयार किया गया है, एआई द्वारा वाक्य निर्धारित करने पर प्रतिबंध एआई आउटपुट की अनुमति देता है जो केवल 'सलाहकार' है, जिसमें एक मानव शामिल है। अनुसंधान दर्शाता है कि विशेष रूप से सज़ा देने में ऐसा सुरक्षा उपाय/लंगर अपर्याप्त क्यों है।

इसके अतिरिक्त, विनियम 20(1)(जी) में, निगरानी के लिए एक प्रावधान है जो 'विशेष रूप से लागू कानून द्वारा अधिकृत' है। यह नक्काशी इस नियम को निगलने में सक्षम है कि एआई सिस्टम का उपयोग निगरानी के लिए नहीं किया जाना चाहिए। सामान्य वैधानिक शक्तियों को यह बताने के लिए सेवा में लगाया जा सकता है कि ऐसी निगरानी 'विशेष रूप से लागू कानून द्वारा अधिकृत' है। अपवाद केवल तभी लागू होना चाहिए जहां एक क़ानून स्पष्ट रूप से पीयूसीएल बनाम भारत संघ में टेलीफोन टैपिंग (अवरोधन) में पढ़े गए सुरक्षा उपायों के मॉडल पर, न्यायिक प्राधिकरण और पुट्टास्वामी आनुपातिकता मानक के अधीन, अदालत परिसर या कार्यवाही में निगरानी पर विचार करता है।

इसके अलावा, गति पहचान और बायोमेट्रिक वर्गीकरण भी निषिद्ध उपयोग के मामलों का हिस्सा होना चाहिए। ड्राफ्ट कहीं भी वादियों, गवाहों, आरोपी व्यक्तियों या वकील की भावनात्मक स्थिति के एआई अनुमान पर रोक नहीं लगाता है - आचरण स्कोरिंग, आवाज-तनाव विश्लेषण, टकटकी ट्रैकिंग। उदाहरण के लिए, ईयू एआई अधिनियम, अनुच्छेद 5(1)(एफ), कार्यस्थलों और शैक्षणिक संस्थानों में भावना-पहचान प्रणाली को प्रतिबंधित करता है।

अंत में, ड्राफ्ट में स्वचालन पूर्वाग्रह को ध्यान में रखना चाहिए। मुख्य सुरक्षा उपाय के रूप में मानव समीक्षा पर मसौदे की निर्भरता को मानव-कारक साहित्य के अनुरूप माना जाना चाहिए। स्वचालन पूर्वाग्रह - स्वचालित आउटपुट पर अत्यधिक भरोसा करने की प्रवृत्ति - को मजबूती से प्रलेखित किया गया है, और बेन ग्रीन ने प्रदर्शित किया है कि सरकारी एल्गोरिदम परिनियोजन में मानव-निरीक्षण आवश्यकताएं नियमित रूप से अभ्यास में विफल हो जाती हैं और वैध रबर स्टैम्प बन जाती हैं।

न्यायालय डेटा, गोपनीयता और गुमनामीकरण

मसौदे का विनियमन 3(1)(पी) "न्यायालय डेटा" को "न्यायालय द्वारा उत्पन्न या उसके कब्जे में कोई भी डेटा" के रूप में परिभाषित करता है - असाधारण विस्तार की परिभाषा - और विनियमन 46(9) एआई उपकरण "न्यायालय डेटा का उपयोग करके विकसित" पर विचार करता है। यह तथ्य कि निर्णय और आदेश सार्वजनिक हैं, उन्हें सहमति-मुक्त प्रशिक्षण कोष नहीं बनाता है। पुट्टास्वामी कानूनी रूप से सार्वजनिक डेटा के एकत्रीकरण और पुनर्प्रयोजन में सूचनात्मक गोपनीयता को मान्यता देते हैं; प्रशिक्षण पाइपलाइनों में दशकों की दलीलों, आदेशों और मेटाडेटा का थोक अंतर्ग्रहण एक नया प्रसंस्करण उद्देश्य है जो उस अधिकार को संलग्न करता है। न्यायालय द्वारा कब्ज़ा एआई विकास के लिए उपलब्धता नहीं होना चाहिए।

इसके अलावा, मसौदे में जो अनुमान लगाया गया है, उससे कहीं अधिक कठिन है गुमनामीकरण। विनियमन 3(1)(के) गुमनामीकरण को अपरिवर्तनीय के रूप में सही ढंग से परिभाषित करता है; तकनीकी साहित्य दिखाता है कि वह मानक कितना मांग वाला है। रोचर, हेंड्रिकक्स और डी मोंटजॉय ने अनुमान लगाया कि 99.98% व्यक्तियों को पंद्रह जनसांख्यिकीय विशेषताओं वाले डेटासेट में सही ढंग से फिर से पहचाना जाएगा। हम तकनीकी समिति द्वारा निर्धारित प्रकाशित गुमनामीकरण मानकों, परिणामों के साथ पुन: पहचान पर एक स्पष्ट निषेध, और न्यायिक रिकॉर्ड पर मॉडलों के प्रशिक्षण के लिए लाइसेंस के बजाय शमन के रूप में गुमनामी के उपचार की अनुशंसा करते हैं।

एआई सामग्री सत्यापन प्राधिकरणरेगुलेशन 3(1)(y), जेनरेटिव एआई को परिभाषित करने के बाद, यह प्रावधान करता है कि "ऐसी कोई भी जेनएआई-जनरेटेड सामग्री किसी भी न्यायालय के समक्ष दायर या प्रस्तुत नहीं की जाएगी, बिना उसके मूल के अनिवार्य प्रकटीकरण और निर्दिष्ट केंद्रीकृत तंत्र के माध्यम से सत्यापन के बिना, जैसा कि उपयुक्त प्राधिकारी द्वारा तय किया जा सकता है"। परिचालन संबंधी दायित्व परिभाषाओं में शामिल नहीं हैं। वाक्य को विनियम 43 और 44 के साथ अध्याय V में स्थानांतरित किया जाना चाहिए, ताकि प्रकटीकरण व्यवस्था, सत्यापन तंत्र और एआईसीवीए एक योजना के रूप में सुपाठ्य हों।

कार्रवाई

आईएफएफ ने अपनी टिप्पणियाँ सुप्रीम कोर्ट एआई कमेटी को भेज दी हैं।

महत्वपूर्ण लिंक

- न्यायालयों में आर्टिफिशियल इंटेलिजेंस (एआई) के उपयोग के लिए मसौदा विनियम, 2026 पर आईएफएफ की टिप्पणियाँ [लिंक]

Powered by Nyaya 247 News