सुप्रीम कोर्ट ने नकली एआई सामग्री के उपयोग के खिलाफ दी चेतावनी

सुप्रीम कोर्ट ने गुरुवार को अदालतों में कृत्रिम बुद्धिमत्ता (एआई) के उपयोग के प्रति आगाह करते हुए कहा कि "अगर इसे अनियमित छोड़ दिया गया...(यह) हमारी बौद्धिक कार्य नीति में घुसपैठ कर सकता है और जल्द ही हमें इसकी विशाल क्षमताओं पर निर्भर कर सकता है"।

न्यायमूर्ति पीएस नरसिम्हा और न्यायमूर्ति आलोक अराधे की पीठ ने नकली, एआई-जनित निर्णयों पर भरोसा करने के लिए राष्ट्रीय कंपनी कानून न्यायाधिकरण (एनसीएलटी) और राष्ट्रीय कंपनी कानून अपीलीय न्यायाधिकरण (एनसीएलएटी) के आदेशों को रद्द कर दिया। इसमें कहा गया है कि 28 अगस्त, 2024, एनसीएलटी आदेश, साथ ही 11 सितंबर, 2025, एनसीएलएटी आदेश में गैर-मौजूद निर्णयों का हवाला दिया गया था, और जहां उद्धरण सही थे, सामग्री में एआई-जनरेटेड पैराग्राफ थे।

"न्यायिक प्रक्रिया और चुनौती के तहत निर्णय उन सामग्रियों के उपयोग से दूषित हैं जिन्हें मिसाल कहा जाता है, लेकिन वास्तव में, वे अवास्तविक, नकली हैं, और बिल्कुल भी अस्तित्व में नहीं हैं। जो सामग्री नकली और भ्रामक है, उसके आधार पर अदालत या निर्णायक प्राधिकारी का निर्णय बिल्कुल भी निर्णय नहीं है, और यह कानून के शासन को नष्ट करने के समान है। ऐसा निर्णय अस्थिर है और इसे जल्द से जल्द रद्द किया जाना चाहिए, "सुप्रीम कोर्ट ने कहा।

पीठ ने बार काउंसिल ऑफ इंडिया से यह भी कहा कि वह एक समिति गठित करे और बार के सदस्यों द्वारा अदालत के समक्ष इस तरह की फर्जी और भ्रामक सामग्री प्रस्तुत करने के मुद्दे पर विचार-विमर्श करे जैसे कि वे कानून की मिसालें हों। इसमें कहा गया है कि परिषद को "इस मुद्दे को अत्यंत गंभीरता से लेना चाहिए, ईमानदारी से विचार-विमर्श करना चाहिए, और ऐसी घटनाओं को रोकने के लिए एक मार्गदर्शक सिद्धांत निर्धारित करना चाहिए, साथ ही अनुशासनात्मक कार्रवाई भी करनी चाहिए जो मानदंडों के उल्लंघन पर होगी।"

निर्णयों में ऐसी नकली एआई सामग्री के उपयोग पर कड़ा रुख अपनाते हुए, अदालत ने कहा कि "विवादों के निर्णय और निर्धारण के क्षेत्र में रहने वालों के लिए, एआई का यह उप-उत्पाद, यानी, नकली, गैर-मौजूद और मतिभ्रम सामग्री का उत्पादन और कानून में मिसाल के रूप में इसका उपयोग, कानून और न्याय के क्षेत्र में मिथाइल आइसोसाइनेट की रिहाई की तरह है: अदृश्य, कपटपूर्ण और जब तक कोई नोटिस करता है तब तक विनाशकारी। यह न केवल दूषित करता है लेकिन न्यायिक दृढ़ संकल्प की जीवनधारा को छीन लेता है।''

पीठ ने "सत्यापन के बिना एआई-जनित उदाहरण पेश करने, उद्धृत करने या उपयोग करने के लिए" अदालतों द्वारा "शून्य-सहिष्णुता मोड" का आह्वान करते हुए कहा, "सत्यापन के बिना ऐसे निर्णयों का हवाला देना एक वकील की ओर से कदाचार है।" इसमें आगे कहा गया है कि अगर कोई न्यायाधीश "दृढ़ संकल्प के समर्थन में मिसाल के तौर पर ऐसी नकली या मतिभ्रम वाली एआई-जनित सामग्री" पर भरोसा करता है तो यह भी उतनी ही गंभीर चूक है।

"हमें यह घोषित करने में कोई झिझक नहीं है कि इस तरह का निर्णय कानून की नजर में कोई निर्णय नहीं है, भले ही ऐसी सामग्री का निर्णय लेने पर प्रत्यक्ष या अप्रत्यक्ष प्रभाव हो। ऐसे निर्णयों को रद्द कर दिया जाना चाहिए, भले ही निर्णय लेने की प्रक्रिया में थोड़ी सी भी नकली या मतिभ्रम सामग्री शामिल हो, क्योंकि यह निर्णय की पवित्रता का उल्लंघन करेगा। निर्णय लेने में अखंडता बनाए रखना नितांत आवश्यक है, और हम दोहराते हैं और बार के साथ-साथ बेंच के लिए शून्य सहिष्णुता की घोषणा करते हैं। यह भी स्पष्ट किया गया है कि हमारे फैसले का एआई के सही उपयोग पर कोई असर नहीं होगा, बल्कि नकली या मतिभ्रम वाली सामग्री की प्रस्तुति या निर्भरता पर होगा जैसे कि यह एक अदालत की मिसाल थी, ”पीठ ने कहा।

इस विज्ञापन के नीचे कहानी जारी है

सुप्रीम कोर्ट ने कहा कि प्रौद्योगिकी पर निर्भरता न्याय प्रदान करने के लिए कभी भी समस्या नहीं रही है, क्योंकि अदालतों ने प्रौद्योगिकी को सहजता से आत्मसात कर लिया है और इसे अदालती प्रणालियों का अभिन्न अंग बना दिया है। "एआई की कहानी, जैसा कि यह सामने आ रही है, हालांकि, अलग है, वास्तव में, परिवर्तनकारी है, क्योंकि यह न केवल हमारे काम में सहायता करने के लिए एक सहायता है, बल्कि हमारी अपनी सोच, तर्क और यहां तक ​​कि निर्णय लेने का एक विकल्प है। यह वह जगह है जहां हमें अतिरिक्त सतर्क रहने की जरूरत है, क्योंकि एआई का अनियमित उपयोग कानूनी अभ्यास, न्यायिक निर्णय लेने और निर्णय लेने की प्रक्रिया में गुप्त रूप से प्रवेश करेगा," पीठ ने चेतावनी दी।

“बुद्धि और दूरदर्शिता हमें प्रतिनिधिमंडल में आराम पाने के लिए मानवीय भेद्यता को पहचानने के लिए मजबूर करती है, लेकिन अगर सोच को सौंप दिया जाता है और यह एक आदत बन जाती है, तो इसके मानव अस्तित्व के मूल पर गंभीर परिणाम होंगे, जो उसकी सोचने की क्षमता में निहित है - क्या सही है और क्या गलत, सच और झूठ, गुण और दोष, धर्म और अधर्म के बीच अंतर करना।यह क्षमता न तो जन्म से दी जाती है और न ही आरोपित की जाती है, बल्कि जीवित अनुभवों के साथ-साथ मन के जानबूझकर, अनुशासित और व्यवस्थित प्रशिक्षण से उत्पन्न होती है; यह तथ्य और कल्पना, क्या वास्तविक है और क्या अवास्तविक, औचित्य और अनुचित, साथ ही क्या उचित और अनुचित है, के बीच अनिश्चितताओं के कारण होने वाले जादू के खिलाफ मन की लड़ाई है, ”अदालत ने आगे कहा।

फैसले में कहा गया, “अनुभव और दूरदर्शिता के साथ मिलकर यह बौद्धिक अभ्यास हमें प्रतिस्पर्धी मूल्यों के बीच चयन करने के साथ-साथ साहस और दृढ़ विश्वास के साथ कठोर निर्णय लेने और आदेश की आवश्यकता और न्याय की तलाश के बीच एक सुंदर संतुलन लाने में सक्षम बनाता है। सत्य तक पहुंचने का संघर्ष ही साधना है। वास्तव में, रहस्य साधना में ही है, क्योंकि वैज्ञानिक स्वभाव के इस जानबूझकर, सचेत और निरंतर अभ्यास के बिना, हम क्या सही है और क्या गलत है, के बीच अंतर करने की क्षमता खो देते हैं। इसे खो दो, और हम सब कुछ खो देंगे।”

सुप्रीम कोर्ट ने इस बात पर जोर दिया कि "एआई के अनुप्रयोग और उपयोग पर पूर्ण और पूर्ण नियंत्रण रखना अनिवार्य और आवश्यक है"। “नियंत्रण इसके आवेदन से दो कदम आगे रहने और कब और कहाँ आवेदन करना है इसके बारे में जानबूझकर विकल्प बनाने में निहित है। हम जानते हैं कि यह ऐसा मुद्दा नहीं है जिसे न्यायिक आदेशों और घोषणात्मक निर्णयों के माध्यम से हल किया जा सकता है, बल्कि केवल सार्वजनिक नीति और लागू करने योग्य नियमों और विनियमों के माध्यम से हल किया जा सकता है। हम यह भी जानते हैं कि प्रक्रिया शुरू हो गई है, नियमों पर विचार-विमर्श किया जा रहा है, और उन्हें उचित प्रक्रिया के बाद और उचित समय पर अधिसूचित किया जाएगा, ”यह कहा।

इस विज्ञापन के नीचे कहानी जारी है

इसमें कहा गया है कि “वास्तविक सफलता, हालांकि, नियम या विनियमन बनाने में नहीं है, बल्कि इस विज्ञान का उपयोग करने और इसे सावधानी और सावधानी के साथ लागू करने के लिए बार और बेंच की इच्छा शक्ति में पाई जाती है। कानून और उसके अभ्यास के किसी अन्य पहलू ने कभी भी विवादों के निर्णय और निर्धारण के लिए एआई को पहचानने, निर्णय लेने और लागू करने की आवश्यकता से अधिक बार और बेंच के बीच उच्च और गहन पुष्टि और समन्वय की मांग नहीं की है।

© द इंडियन एक्सप्रेस प्राइवेट लिमिटेड

विज्ञापन

अनुशंसाएँ लोड हो रही हैं...

विज्ञापन

लाइव ब्लॉग

Powered by Nyaya 247 News