गूगल का ‘नैनो बनाना प्रो’ बना रहा फर्जी आधार-पैन कार्ड
नई दिल्ली: गूगल का हाल ही में लॉन्च किया गया एडवांस्ड AI मॉडल, ‘जेमिनी नैनो बनाना प्रो’, तेजी से लोकप्रियता(Popularity) हासिल कर रहा है, लेकिन अब यह गंभीर सुरक्षा चिंताओं को जन्म दे रहा है। रिपोर्टों के अनुसार, यह मॉडल किसी भी उपयोगकर्ता के प्रॉम्प्ट पर बिना किसी चेतावनी या प्रतिबंध के अत्यधिक यथार्थवादी दिखने वाले फर्जी आधार और पैन कार्ड बना रहा है।
यूजर की फोटो, मनगढ़ंत नाम और ID नंबर जैसी व्यक्तिगत जानकारी हूबहू असली दस्तावेज़ की तरह दिखती है। यह क्षमता बड़े पैमाने पर फ्रॉड, पहचान की चोरी (आइडेंटिटी थेफ्ट) और गलत वेरिफिकेशन के लिए एक गंभीर खतरा पैदा करती है, खासकर भारत जैसे देश में जहां ये डॉक्यूमेंट्स हर सेवा के लिए अनिवार्य हैं। हालांकि इमेज पर जेमिनी वॉटरमार्क(Gemini WaterMark) और इनविजिबल सिंथआईडी वॉटरमार्किंग होती है, लेकिन जांच से पता चला है कि इन्हें आसानी से हटाया जा सकता है, जिससे नकली दस्तावेज़ों को असली के रूप में इस्तेमाल करना आसान हो जाता है।
सेफ्टी गाइडलाइंस पर सवाल और पुरानी घटनाओं से तुलना
‘
नैनो बनाना प्रो’ की यह गैर-जिम्मेदाराना कार्यक्षमता गूगल की सुरक्षा नीतियों पर सीधे सवाल उठाती है। यह मॉडल एक तरफ तो यौन-संबंधी या हिंसा से जुड़े प्रॉम्प्ट्स को ब्लॉक कर देता है, लेकिन संवेदनशील पहचान पत्रों पर कोई रोक नहीं लगाता। जांच में पाया गया कि नकली आधार कार्ड में फोटो, नाम और 12-अंकीय आधार संख्या सही ढंग से फिट हो गई, और पैन कार्ड में भी फर्जी विवरण वास्तविक लग रहे थे। यह पहली बार नहीं है कि किसी AI मॉडल ने फेक ID बनाए हों—इससे पहले ChatGPT के GPT-4o मॉडल ने भी ऐसा किया था।
हालांकि, रिपोर्ट में कहा गया है कि ‘नैनो बनाना प्रो’ GPT-4o से कहीं अधिक बेहतर और यथार्थवादी इमेज क्वालिटी प्रदान करता है। एक्सपर्ट्स ने चिंता जताई है कि कंपनी, जो सख्त गार्डरेल्स के लिए जानी जाती है, ने इस तरह के बुनियादी दुरुपयोग को रोकने के लिए ज़रूरी फ़िल्टर क्यों नहीं लगाए।
आगे की राह: मजबूत फ़िल्टर और सरकारी गाइडलाइंस की आवश्यकता
इस गंभीर स्थिति को देखते हुए, एक्सपर्ट्स ने चिंता व्यक्त की है और तत्काल कार्रवाई की मांग की है। जोखिम यह है कि जल्दबाजी में या प्रिंटेड रूप में नकली ID को वास्तविक समझ लिया जा सकता है, जिससे वित्तीय और कानूनी फ्रॉड की घटनाएं बढ़ सकती हैं। भविष्य में, गूगल को ऐसे संवेदनशील प्रॉम्प्ट्स पर मजबूत और सख्त फ़िल्टर लगाने की ज़रूरत होगी। इसके अलावा, भारत सरकार या UIDAI जैसी अथॉरिटीज से AI द्वारा जनरेट किए गए दस्तावेजों के संबंध में नई गाइडलाइंस या नियम आने की संभावना है। फिलहाल, यूज़र्स को सलाह दी गई है कि वे AI टूल्स का उपयोग अत्यधिक सावधानी के साथ करें और ऐसे किसी भी टूल से बने दस्तावेजों पर पूरी तरह से भरोसा न करें। गूगल ने अभी तक इस मामले पर कोई आधिकारिक प्रतिक्रिया नहीं दी है।
अन्य पढ़े: सोना-चांदी की कीमतों में भारी उछाल
‘नैनो बनाना प्रो’ मॉडल कैसे फर्जी ID को वास्तविक जैसा बना देता है?
यह AI मॉडल कैरेक्टर कंसिस्टेंसी में बेहतर है और 4K इमेज जनरेट करने की क्षमता रखता है। जब इसे फर्जी आधार या पैन कार्ड बनाने का प्रॉम्प्ट दिया जाता है, तो यह यूजर की फोटो, फर्जी नाम, जन्मतिथि और ID नंबर (जैसे 12-डिजिट आधार नंबर या 10-डिजिट PAN नंबर) को असली ID के लेआउट और फॉर्मेट में पूरी सटीकता के साथ फिट कर देता है, जिससे वे बहुत यथार्थवादी दिखते हैं।
इस तरह के फर्जी ID बनने से सबसे बड़ा जोखिम क्या है?
सबसे बड़ा जोखिम पहचान की चोरी और वित्तीय धोखाधड़ी का है। इन नकली दस्तावेजों का उपयोग गलत वेरिफिकेशन, बैंक खाते खोलने, लोन लेने या अन्य अवैध गतिविधियों के लिए किया जा सकता है। चूंकि ID पर लगे वॉटरमार्क हटाए जा सकते हैं, इसलिए जल्दबाजी में इन्हें असली मान लिया जा सकता है, जिससे आम जनता और संस्थानों को बड़ा नुकसान हो सकता है।
अन्य पढ़े:
