आर्टिफिशियल इंटेलिजेंस: बिल्ली के गले में घंटी कौन बांधे?

<figure> <img alt="आर्टिफिशियल इंटेलिजेंस" src="https://c.files.bbci.co.uk/5360/production/_110644312_17c46360-2783-4ef0-aa10-afa251c945b7.jpg" height="549" width="976" /> <footer>Reuters</footer> </figure><p>जाने-माने अमरीकी अनुसंधानकर्ता रेमंड कुर्ज़विल ने इस सदी की शुरुआत में कहा था कि तकनीक केवल साधन बनाने तक सीमित नहीं है, ये एक प्रक्रिया है जो पहले से अधिक ताकतवर तकनीक को जन्म देती है.</p><p>उनका कहना था कि <a href="https://www.kurzweilai.net/the-law-of-accelerating-returns">तकनीक के विकास की गति</a>, एक दशक में कम से कम दोगुनी होगी. आज तकनीक जिस मुकाम पर पहुंच चुकी है, उससे साबित होता है कि उनका कहना ग़लत नहीं था.</p><p>लेकिन तेज़ी से होते तकनीक के विकास के साथ इसके बेक़ाबू हो जाने का डर भी उतनी ही तेज़ी से फैला है. वैज्ञानिकों और जानकारों में तकनीक से प्रेरित अनजान भविष्य का डर और उस पर चर्चा कोई नई बात नहीं है.</p><p>गूगल और एल्फाबेट के मुख्य कार्यकारी अधिकारी सुंदर पिचाई ने बीते सप्ताह कहा था कि आर्टिफिशियल इंटेलिजेंस (AI) को लेकर सावधानी बरतना बेहद ज़रूरी है.</p><p>बीते सप्ताह उनका एक लेख <a href="https://www.theverge.com/2020/1/20/21073682/ai-regulation-google-alphabet-ceo-sundar-pichai">फाइनेन्शियल टाइम्स</a> में छपा, जिसमें उन्होंने कहा, &quot;इसमें कोई संदेह नहीं कि आर्टिफिशियल इंटेलिजेंस को लेकर नियमों का बनाया जाना ज़रूरी है. हम नई तकनीक पर लगातर काम करते रह सकते हैं. लेकिन बाज़ार व्यवस्थाओं को उसके किसी भी तरह के इस्तेमाल की खुली छूट नहीं होनी चाहिए.&quot;</p><figure> <img alt="सुदंर पिचाई" src="https://c.files.bbci.co.uk/A180/production/_110644314_932ca85a-1dfd-40f4-a8fb-520370beacba.jpg" height="549" width="976" /> <footer>Reuters</footer> <figcaption>सुंदर पिचाई ने आर्टिफिशियल इंटेलिजेंस के ख़तरों को लेकर दुनिया को कई बार आगाह किया है.</figcaption> </figure><p><strong>AI</strong><strong> को लेकर कई बार दी गई है चेतावनी</strong></p><p>ये पहली बार नहीं है जब सुंदर पिचाई ने आर्टिफिशियल इंटेलिजेंस के ख़तरों को लेकर दुनिया को आगाह किया है, न ही वो पहले ऐसे जानकार हैं जिन्होंने ऐसा किया है.</p><p>साल 2018 में कंपनी के कर्मचारियों को <a href="https://www.cnbc.com/2018/02/01/google-ceo-sundar-pichai-ai-is-more-important-than-fire-electricity.html">संबोधित करते हुए उन्होंने कहा</a> था, &quot;दुनिया पर आर्टिफिशियल इंटेलिजेंस का जितना असर होगा, उतना शायद ही किसी और आविष्कार का होगा.&quot;</p><p>उन्होंने कहा था, &quot;इंसान आज जिन चीज़ों पर काम कर रहा है, उनमें सबसे अधिक महत्वपूर्ण आर्टिफिशियल इंटेलिजेंस है, शायद आग और बिजली जितना महत्वपूर्ण. लेकिन ये इंसानों को मार भी सकती है. हमने आग पर क़ाबू करना सीखा है पर इसके ख़तरों से भी हम जूझ रहे हैं. आर्टिफिशियल इंटेलिजेंस पर काम करने वालों को ये समझना होगा कि ये भी ऐसी ही एक तकनीक है, जिस पर पूरी ज़िम्मेदारी से काम करना होगा.&quot; </p><p><a href="https://twitter.com/elonmusk/status/896166762361704450">https://twitter.com/elonmusk/status/896166762361704450</a></p><p>साल 2017 में टेस्ला और स्पेसएक्स के मालिक <a href="https://twitter.com/elonmusk/status/896166762361704450">इलोन मस्क</a> ने कहा था, &quot;अगर आप आर्टिफिशियल इंटेलिजेंस से चिंतित नहीं हैं तो आपको चिंतित होना चाहिए. ये उत्तर कोरिया से अधिक ख़तरनाक है.&quot; </p><p>सोशल मीडिया पर इलोन मस्क ने जो तस्वीर ट्वीट की थी, उसमें लिखा था, &quot;आख़िर में जीत मशीनों की होगी&quot;</p><p>मस्क ने नेताओं से अपील की थी कि इससे पहले कि बहुत देर हो जाए, <a href="https://twitter.com/DigitalTrends/status/1220152920361979905">आर्टिफिशियल इंटेलिजेंस</a> को काबू में लाने के लिए नियम बनाए जाएं.</p><p><a href="https://twitter.com/DigitalTrends/status/1220152920361979905">https://twitter.com/DigitalTrends/status/1220152920361979905</a></p><p>दुनिया को ब्लैक होल और बिग बैंग सिद्धांत समझाने वाले जानेमाने भौतिक वैज्ञानिक <a href="https://www.express.co.uk/news/science/876550/stephen-hawking-end-of-the-world-artificial-intelligence-ai-university-of-cambridge">स्टीफन हॉकिंग</a> ने 2017 में कहा था कि &quot;मैं मानता हूं कि आर्टिफिशियल इंटेलिजेंस को मानवता की बेहतरी के लिए इस्तेमाल किया जा सकता है लेकिन इंसान को इस पर क़ाबू करने का कोई न कोई रास्ता तलाशना पड़ेगा.&quot;</p><p>उन्होंने इसके विकास को ताकतवर मशीनों का बनने कहा था और इनके अधिक ताकतवर बनने को लेकर आगाह किया था और कहा था, &quot;अगर हम इसके ख़तरों के लिए खुद को तैयार नहीं कर पाए तो इस कारण <a href="https://www.palgrave.com/gp/book/9783030359744">मानव सभ्यता को सबसे बड़ा नुक़सान</a> पहुंच सकता है.&quot;</p><p>ऐलन इंस्टीट्यूट ऑफ़ आर्टिफिशियल इंटेलिजेंस के <a href="https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html">ओरेन एत्ज़ोनी</a> ने 2017 में कहा था कि आर्टिफिशियल इंटेलिजेंस भले ही काम का हो इस पर कुछ हद तक क़ाबू रखे जाने की ज़रूरत है.</p><figure> <img alt="चांद पर जाने की कोशिश में हादसे" src="https://c.files.bbci.co.uk/17FBA/production/_110643289_ed51d0b1-3d06-40cc-bab7-10017ad131db.jpg" height="549" width="976" /> <footer>Wikipedia</footer> <figcaption>लंबे वक्त से इंसान को अनजान भविष्य और अनजान तकनीक का डर रहा है. चांद पर इंसान के कदम रखने से पहले चांद पर हादसे, चांद पर रहने वाले एलियन के साथ युद्ध आदि को लेकर कई किताबें लिखी गईं जिनमें अनजाने भविष्य का डर स्पष्ट दिखा था. अपोलो 11 की सफलता के बाद ही इस तरह की कल्पनाओं पर लगाम लग सकी थी.</figcaption> </figure><p><strong>AI</strong><strong> को लेकर चिंता क्यों है?</strong></p><p>आर्टिफिशियल इंटेलिजेंस का अर्थ है, मशीनों को इंसान की तरह सोच पाने, उनकी तरह काम कर पाने और फ़ैसले ले पाने की क्षमता देना.</p><p>सिरी और अलेक्सा जैसे वॉएस असिस्टेंट, टेस्ला जैसे कारों की सेल्फ ड्राइविंग तकनीक, उपभोक्ताओं को उसकी रूचि के अनुसार कार्यक्रम परोसने वाली अमेज़न और नेटफ़्लिक्स की प्रेडक्टिव तकनीक या फिर आपकी आदतों को सकने वाली नेस्ट की तकनीक – ये आर्टिफिशियल इंटेलिजेंस के इस्तेमाल के कुछ उहारण हैं. </p><p>लेकिन हाल में जिस ख़ास वजह से आर्टिफिशियल इंटेलिजेंस चर्चा में रहा है वो है चेहरे पहचानने की तकनीक. </p><p>भारतीय पुलिस <a href="https://www.bbc.com/hindi/science-50936332?xtor=AL-73-%5Bpartner%5D-%5Bprabhatkhabar.com%5D-%5Blink%5D-%5Bhindi%5D-%5Bbizdev%5D-%5Bisapi%5D">त्रिनेत्र नाम के एक फेशियल रिकग्निशन</a> ऐप का इस्तेमाल करती है जिससे किसी अपराधी की तस्वीर से मिलान करके पता लगाया जा सकता है कि उसका कोई पुराना आपराधिक रिकॉर्ड है या नहीं. </p><figure> <img alt="आर्टिफिशियल इंटेलिजेंस" src="https://c.files.bbci.co.uk/EDAC/production/_110644806_a0cf9290-0b82-4c4b-bcde-45f635314de7.jpg" height="549" width="976" /> <footer>Getty Images</footer> </figure><p>हाल के सालों में गणतंत्र दिवस और स्वतंत्रता दिवस पर भीड़ वाली जगहों में पुलिस ने ऑटोमेटेड फेशियल रिकग्निशन सिस्टम का इस्तेमाल किया है. एक रिपोर्ट के अनुसार 22 दिसंबर 2019 को दिल्ली के <a href="https://indianexpress.com/article/india/police-film-protests-run-its-images-through-face-recognition-software-to-screen-crowd-6188246/">रामलीला मैदान में हुई प्रधानमंत्री नरेंद्र मोदी की रैली</a> में इस तकनीक को काम में लाया गया.</p><p>भारत सरकार <a href="http://ncrb.gov.in/TENDERS/AFRS/RFP_NAFRS.pdf">पुलिसबल के आधुनिकीकरण</a> और अपराधियों का पहचान करने के लिए इस तकनीक को महत्वपूर्ण मान रही है.</p><p>इधर मीडिया में जब ये चर्चा तूल पकड़ रही थी, तब <a href="https://www.nytimes.com/2020/01/18/technology/clearview-privacy-facial-recognition.html">न्यूयॉर्क टाइम्स</a> में कशमीर हिल की एक रिपोर्ट प्रकाशित हुई. ये रिपोर्ट <a href="https://www.popularmechanics.com/technology/security/a30613488/clearview-ai-app/">क्लियरव्यू एआई</a> नाम की एक कंपनी के बारे में थी जो चेहरे पहचानने के लिए फ़ेसबुक, ट्विटर, यूट्यूब जैसी हज़ारों सोशल मीडिया प्लेटफॉर्म पर लगाई गई लोगों की तस्वीरों का इस्तेमाल करती है.</p><p>क़ानून लागू कराने वाली एसेंसियों की इस सॉफ्टवेर में दिलचस्पी है और एक रिपोर्ट के अनुसार अमरीका की <a href="https://uk.pcmag.com/news-analysis/124606/facial-recognition-technology-doesnt-have-to-destroy-privacy">करीब 600 एजेंसियां</a> इसका इस्तेमाल कर रही है. कंपनी के संस्थापक हॉन टन-दैट का कहना है, &quot;इंटरनेट पर लाखों वेबसाइट्स हैं, जिनका इस्तेमाल हम अपने डेटाबेस को बड़ा बनाने में करते हैं.&quot;</p><figure> <img alt="सी3-पीओ और आरटू-डीटू" src="https://c.files.bbci.co.uk/C052/production/_110643294_a380ebb2-6267-405f-8075-489768adda47.jpg" height="650" width="976" /> <footer>EPA</footer> <figcaption>रोबोटिक्स के जनक कहे जाने वाले आईज़ैक असिमोव ने एक पूरी सिरीज़ रोबोट पर लिखी. आई-रोबोट जैसी उनकी पहली किताबों में रोबोट के इंसान से अधिक शक्तिशाली बनने का डर दिखा. लेकिन बाद में रोबोट्स के लिए बताए गए उनके तीन नियम इस तकनीक पर काम करने वालों के लिए आधार बने. उन्होंने इन नियमों में रोबोट्स को इंसानों को हानि न पहुंचाने की बात की थी. इसके बाद रोबोट और इंसान के सह-अस्तित्व के बारे में चर्चाएं भी हुई. जॉर्ज लूकास की जानी-मानी टेलीविज़न सिरीज़ स्टार वॉर्स के दो रोबोट – सी3-पीओ और आर2-डी2 – और डगलस ऐडम की किताब का मार्विन (द हिचहाईकर्स गाइट डू द गैलैक्सी) इंसानों के दोस्त के रूप में दिखाए गए</figcaption> </figure><p><strong>फेशियल रिकग्निशन क्यों है </strong><strong>चिंता का विषय</strong><strong>?</strong></p><p>फेशियल रिकग्निशन की तकनीक का आधार है एक चेहरे को पहचानने के लिए लाखों चेहरों को या उनकी तस्वीरों को स्कैन करना. मतलब ये हुआ कि एक व्यक्ति की पहचान के लिए लाखों की निजता का हनन करना.</p><p>तो फिर ऐसे में उन लाखों लोगों की निजता का क्या होगा जिनकी बिना इजाज़त उनकी तस्वीरें या फिर उनके चेहरे की स्कैनिंग कंपनियां और सरकारें कर रही हैं? क्या उनके लिए कोई क़ानून है?</p><p><strong>सुप्रीम कोर्ट में जाने-माने एडवोकेट और साइबर एक्सपर्ट विराग गुप्ता</strong> कहते हैं कि भारत में इसे लेकर फिलहाल कोई प्रत्यक्ष क़ानून नहीं है.</p><p>वो समझाते हैं, &quot;क़ानून और तकनीक के बीच में लगातार जद्दोज़हद चलती रहती है. जहां तकनीक छलांग लगाती हुई तेज़ गति से आगे बढ़ती है, क़ानून बनाने की अपनी गति होती है, वो अपनी मंद गति से चलता है.&quot;</p><p>&quot;सवाल ये है कि अगर लोगों को इसके ख़तरों के बारे में नहीं पता या उसकी समझ नहीं और इन सभी ख़तरों के बारे में लोगों को बताया जाना अगर क़ानूनी बाध्यता नहीं है तो इसका फायदा कंपनियां उठा सकती हैं और जो हो रहा है उसे इसी के मद्देनज़र देखा जाना ज़रूरी है.&quot;</p><figure> <img alt="लोग छातों से सीसीटीवी कैमरों" src="https://c.files.bbci.co.uk/162DC/production/_110644809_8b57c9e0-e394-42a6-8699-01e6ae567890.jpg" height="549" width="976" /> <footer>Reuters</footer> <figcaption>बीते साल हांग कांग में हुए सरकार विरोधी प्रदर्शनों में देखा गया कि लोग अपने छातों से एयरपोर्ट और मेट्रों स्टेशनों पर लगे सीसीटीवी कैमरों को ढंक रहे थे. हांग कांग पुलिस पर फेशियल रिकग्निशन तकनीक का इस्तेमाल कर के प्रदर्शनकारियों की पहचान करने का आरोप है.</figcaption> </figure><p><strong>फेशियल रिकग्निशन तकनीक पर काम कर रहे एथिकल हैकर रिज़वान शेख़</strong> मानते हैं कि इस तकनीक के तहत बड़ी मात्रा में डेटा इकट्ठा किया जाता है उसकी सुरक्षा और इस्तेमाल बड़ी चिंता का विषय है.</p><p>हालांकि वो कहते हैं, &quot;’इस डेटा के इस्तेमाल से बड़े अपराधों को वक्त रहते रोका जा सकता है.&quot;</p><p>वो कहते हैं, इससे निपटने के लिए सरकार को कई स्तरों पर सोचने और नियम बनाने की ज़रूरत है.</p><p>वो कहते हैं, &quot;पहला डेटा निजी कंपनी के पास रखा जाता है या फिर सरकार के पास और इसके लिए देश के भीतर के या फिर बाहर के सर्वर का इस्तेमाल होता है. दूसरा अगर निजी कंपनी के पास डेच है तो वो डेटा को कैसे इस्तेमाल करती है? तीसरा क्या डेटा को पूरी तरह से एन्क्रिप्ट कर के रखा गया है और चौथा और आख़िरी हैकिंग की कोशिशों से निपटने के लिए ज़रूरी इंतेज़ामात क्या हैं?&quot;</p><p>विराग गुप्ता भी इस बात से इत्तेफ़ाक रखते हैं कि इस काम के लिए आम आदमी से उम्मीद करना व्यर्थ है, इसके लिए कोशिश सरकार की तरफ से होनी होगी.</p><p>वो कहते हैं, &quot;कंपनियां छोटे-छोटे अक्षरों में बड़े-बड़े टर्म्स ऑफ़ अग्रीमेंट बनाती हैं जिन पर ऐप या सॉफ्टवेयर इस्तेमाल करने वाला बिना पढ़े सहमति दे देता है. क्या उनका ऑडिट कोई करता है? इन हथकंडों से निपटने के लिए आम आदमी से उम्मीद करना इतना अतिश्योक्ति होगा. न तो वो इसके लिए सक्षम है, ना उसके पास संसाधान हैं और न ही उनके पास कोई इसके लिए क़ानूनी व्यवस्था ही है.&quot;</p><p>&quot;बड़े पैमाने पर हो रहे इस तरह के निजता के उल्लंघन से निपटने के लिए कई क़ानूनों का सहारा लेना होगा. पहले तो ये समझना होगा कि इसके लिए इन्फोर्मेशन टेक्नोलॉजी एक्ट के उचित बिंदुओं को और मज़बूत करना होगा. दूसरे ये देखना होगा कि अगर जानकारी इकट्ठा की गई है तो उसे सुरक्षित कैसे रखना है. तीसरा ये समझना होगा कि कंपनियां जो डेटा इकट्ठा करती हैं उसका व्यापारिक इस्तेमाल किस तरह करती हैं, इसे लेकर सरकार को उनके लिए नियमन की व्यवस्था की जानी चाहिए.&quot;</p><figure> <img alt="सीसीटीवी कैमरा" src="https://c.files.bbci.co.uk/2E44/production/_110644811_b6137a2a-05d4-4d92-845e-6fd9910a36f6.jpg" height="549" width="976" /> <footer>Getty Images</footer> </figure><h3>भारत में क्या है व्यवस्था?</h3><p>रिज़वान शेख़ कहते हैं &quot;भारतीय एजेंसी <a href="https://www.cert-in.org.in/">सर्ट इंडिया</a> डेटा के इस्तेमाल जैसे विषयों पर नज़र रखने का काम करती है. उसे ऐसे ज़रूरी दिशा निर्देश बनाने की ज़रूरत है जिनमें डेटा को सुरक्षित रखने और केवल ज़रूरत पड़ने पर सरकार के इसे ऐक्सेस करने की बात हो.&quot;</p><p>लेकिन एक बड़ी चिंता का विषय ये भी है कि कंपनियां अंतरराष्ट्रीय स्तर पर काम करती हैं और ऐसे में उनके पास हर देश के क़ानूनों के पालन की चुनौती होती है और इस तरह की मुश्किलें पैदा हो सकती है.</p><p>रिज़वान शेख़ कहते हैं, &quot;सॉफ्टवेयर या ऐप डाउनलोड करने के लिए वीज़ा या पासपोर्ट की ज़रूरत नहीं होती. आप जर्मनी के सर्वर से कोई ऐप भारत में अपने फ़ोन पर डाउनलोड कर सकते हैं. साइबर क़ानून और तकनीक के लिए ये एक बड़ी चुनौती है और इसी लूपहोल का लाभ कई कंपनियां और लोग उठा लेते हैं.</p><h3>उम्मीद की किरण</h3><p><strong>मोज़िला कंपनी में पब्लिक पॉलिसी एडवाइज़र उद्भव तिवारी</strong> कहते हैं &quot;2019 में <a href="https://www.vox.com/recode/2019/5/14/18623897/san-francisco-facial-recognition-ban-explained">सेन फ्रांसिस्को ने </a>सरकारी एजेंसियों के फेशियल रिकग्निशन के इस्तेमाल पर रोक लगा दी गई थी. लेकिन इस तरह के उदाहरण अभी कम ही हैं.&quot;</p><p>वो कहते हैं, &quot;यूरोपीय संघ आर्टिफिशियल इंटेलिजेंस के ख़तरों और इसके नियमन के बारे में विचार कर रहा है.&quot;</p><figure> <img alt="फेशियल रिकग्निशन" src="https://c.files.bbci.co.uk/7C64/production/_110644813_12cb7748-e451-4dcd-8188-64af1b0e655a.jpg" height="549" width="976" /> <footer>Getty Images</footer> </figure><p>इसी महीने इससे जुड़ा एक <a href="https://techcrunch.com/2020/01/17/eu-lawmakers-are-eyeing-risk-based-rules-for-ai-per-leaked-white-paper/">श्वेतपत्र लीक हुआ</a> था जिसके अनुसार इसके फायदे और नुक़सान पर पूरी तरह से विचार करने के संघ तीन से पांच साल का वक्त ले सकता है जिस दौरान सार्वजनिक जगहों पर फेशियल रिकग्निशन तकनीक के इस्तेमाल पर रोक लगाई जा सकती है.</p><p>भारत में भी इसे लेकर विचार हो रहा है. लेकिन आने वाले डेटा प्रोटेक्शन बिल में फेशियल रिकग्निशन को लेकर क्या कहा जाएगा इस पर फिलहाल स्पष्टता नहीं है. ये बिल बीते साल दिसंबर में संसद में पेश हुआ था. <a href="https://www.ft.com/content/df6fd8d4-1bf1-11ea-9186-7348c2f183af">उस वक्त जानकारों ने चिंता जताई थी</a> कि राष्ट्रीय सुरक्षा की दलील देते हुए सरकारी एजेंसियों को इसके इस्तेमाल की छूट मिल सकती है.</p><p>उद्भव तिवारी कहते हैं कि &quot;अधिकतर देशों में सरकारी एजेंसियों को इस तरह की छूट दी जाती है. लेकिन सरकारी एजेंसियों के लिए भी डेटा इस्तेमाल को लेकर नियम हों ये ज़रूरी है.&quot;</p><p>विराग गुप्ता कहते हैं कि &quot;भारत में सरकार में इसे लेकर संजीदगी कम ही दिखती है न ही इच्छाशक्ति दिखती है. इसके लिए नियमन व्यवस्था बनाने की अनेक चुनौतियां हैं. डिजिटल इंडिया तो आ गया है लेकिन इससे जुड़े अलग-अलग तरह के इस्तेमाल को लेकर उचित क़ानूनी व्यवस्था अभी नहीं है.&quot;</p><p>वो कहते हैं कि, &quot;सरकारें आसानी से इसका नियमन कर पाएंगी ऐसा नहीं लगता. जब तक इसके आर्थिक और सामाजिक दुष्प्रभाव अधिक देशों को प्रभावित नहीं करते, कोई बड़ा हादसा या फिर बड़ी अंतरराष्ट्रीय समझ नहीं बनती तब तक इसे लेकर कुछ होगा, ऐसा नहीं लगता.&quot; </p><p>&quot;जैसे परमाणु बमों के इस्तेमाल को लेकर विश्व के देशों को एक जुट होना पड़ा, ठीक वैसे जब ये समझ बन जाएगी कि ये मानवता के लिए बड़ा नुकसान है इसका नियमन को लेकर भी प्रयास होंगे.&quot;</p><p>(बीबीसी हिन्दी के एंड्रॉएड ऐप के लिए आप <a href="https://play.google.com/store/apps/details?id=uk.co.bbc.hindi">यहां क्लिक</a> कर सकते हैं. आप हमें <a href="https://www.facebook.com/bbchindi">फ़ेसबुक</a>, <a href="https://twitter.com/BBCHindi">ट्विटर</a>, <a href="https://www.instagram.com/bbchindi/">इंस्टाग्राम </a>और <a href="https://www.youtube.com/user/bbchindi">यूट्यूब</a>पर फ़ॉलो भी कर सकते हैं.)</p>