AI के दुरुपयोग से जज भी परेशान...सीजेआई गवई बोले- हमने भी देखीं अपनी मॉर्फ्ड तस्वीरें

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस (AI) के दुरपयोग के बारे में जजों को भी मालूम है। भारत के चीफ जस्टिस (CJI) बीआर गवई ने सोमवार कहा कि न्यायपालिका के लोगों को भी मॉर्फ्ड तस्वीरों के माध्यम से निशाना बनाया जा रहा है। हालांकि, उन्होंने कहा कि इस तरह की तकनीकों को नियंत्रित करने की पहल कार्यपालिका की ओर से होनी चाहिए, न्यापालिका से नहीं। दरअसल, आज समाज का बड़ा तबका किसी न किसी रूप से एआई के दुरुपयोग की वजह से परेशानी महसूस कर रहा है।

'हमने भी अपनी मॉर्फ्ड तस्वीरें देखीं'
सीजेआई बीआर गवई ने कहा है, 'हमने भी अपनी मॉर्फ्ड तस्वीरें देखी हैं।' न्यायिक और अर्ध-न्यायिक संस्थाओं में जेनेरेटिव एआई (GenAI) को नियंत्रित करने के लिए एक पॉलिसी फ्रेमवर्क तैयार करने की मांग वाली एक जनहित याचिका (PIL) पर सुनवाई करते हुए सीजेआई ने आगे कहा, 'निश्चित तौर पर यह एक नीतिगत मामला है। इसपर कार्यपालिका को फैसला लेने की जरूरत है।'

अदालत ने माना नीतिगत मामला
सीजेआई बीआर गवई की अगुवाई वाली इस बेंच में जस्टिस के विनोद चंद्रन भी शामिल हैं। बेंच ने उभरती तकनीकों को संचालित करने के सवालों को पूरी तरह से नीतिगत मामला मानते हुए इसमें दखल देने में अपनी अनिच्छा जाहिर की। हालांकि, वकील के आग्रह पर इस मामले में सुनवाई को दो हफ्तों के लिए स्थगित कर दिया।

केंद्र को निर्देश देने की मांग की गई है
एडवोकेट कार्तिकेय रावल की ओर से दायर इस पीआईएल के पक्ष में एडवोकेट ऑन रिकॉर्ड अभिनव श्रीवास्तव ने भी बहस में हिस्सा लिया। याचिका में अदालत से यह मांग की गई कि न्यायिक व्यवस्था के अंदर GenAI के इस्तेमाल को निर्धारित करने को लेकर कानून बनाने या एक विस्तृत नीति तैयार करने के लिए केंद्र को निर्देश दिया जाए, ताकि इसे रेगुलेट किया जाए और इसके इस्तेमाल में एकरूपता बनी रहे।

पीआईएल में GenAI को लेकर चिंता
याचिका में कहा गया है कि GenAI का 'ब्लैक बॉक्स' जैसा होना, कानूनी व्यवस्था में उलझन पैदा कर सकता है। यह समानता के अधिकार ( Article 14) का भी उल्लंघन कर सकता है। याचिका में यह भी चेतावनी दी गई है कि असली दुनिया के डेटा पर ट्रेनिंग लेने वाले GenAI मॉडल, समाज में पहले से मौजूद पूर्वाग्रहों को और बढ़ा सकते हैं। विशेष रूप से हाशिए पर रहने वाले समुदायों के खिलाफ।

एआई से अदालती दस्तावेजों को जोखिम!
यह भी कहा गया है कि डेटा की निष्पक्षता और मालिकाना हक को लेकर कोई नियम साफ न होने पर नागरिकों के जानने के अधिकार (Article 19(1)(a)) पर भी खतरा मंडरा सकता है। याचिका में AI से चलने वाले सिस्टम पर साइबर हमलों का खतरा भी बताया गया है। विशेष रूप से अगर अदालती प्रक्रियाएं या दस्तावेज ऑटोमेटेड प्लेटफॉर्म में शामिल किए जाते हैं, तब।