AI से जैविक हथियार बनाने की कोशिश? Anthropic ने कड़े किए सुरक्षा नियम, वैज्ञानिकों की रिसर्च पर बढ़ी निगरानी
भारत मित्र डेस्क: आर्टिफिशियल इंटेलिजेंस की बढ़ती ताकत के साथ उसके गलत इस्तेमाल को लेकर भी दुनिया भर में चिंता बढ़ रही है। अमेरिकी AI कंपनी Anthropic ने दावा किया है कि कुछ वैज्ञानिक उसके AI मॉडल Claude का इस्तेमाल ऐसी जैविक रिसर्च के लिए करने की कोशिश कर रहे थे, जिसका गलत इस्तेमाल होने पर खतरनाक रोगाणुओं को अधिक नुकसानदायक बनाने में मदद मिल सकती है। इसके बाद कंपनी ने AI के संभावित खतरनाक जैविक इस्तेमाल पर अपने सुरक्षा नियम और सख्त कर दिए हैं। कंपनी की रिपोर्ट के मुताबिक, इस साल कई ऐसे संभावित मामलों को रोका गया है, जिनका गलत इस्तेमाल देश और दुनिया के लिए गंभीर खतरा पैदा कर सकता था। हालांकि Anthropic ने यह भी स्पष्ट किया है कि वह यह निश्चित रूप से साबित नहीं कर सकी कि संबंधित रिसर्च का उद्देश्य जैविक हथियार बनाना ही था। Anthropic के अनुसार, जैव विज्ञान में किसी रिसर्च के उद्देश्य को स्पष्ट रूप से पहचानना आसान नहीं होता। एक ही तरह की तकनीक का इस्तेमाल किसी खतरनाक रोगाणु को अधिक प्रभावी बनाने के लिए भी किया जा सकता है और किसी बीमारी के खिलाफ वैक्सीन या उपचार विकसित करने के लिए भी। यही वजह है कि कंपनी ने संभावित दोहरे इस्तेमाल वाली जैविक रिसर्च को लेकर अधिक सख्त निगरानी शुरू की है। कंपनी का मानना है कि AI मॉडल जैसे-जैसे अधिक सक्षम हो रहे हैं, वे जटिल वैज्ञानिक कार्यों में पहले की तुलना में ज्यादा मदद कर सकते हैं। Anthropic ने अपनी रिपोर्ट में एक हालिया मामले का उदाहरण भी दिया है। कंपनी के मुताबिक, मई में एक वैज्ञानिक ने चिकनगुनिया वायरस से जुड़ी रिसर्च के लिए Claude का इस्तेमाल किया था। रिपोर्ट के अनुसार, वैज्ञानिक ऐसी गेन-ऑफ-फंक्शन रिसर्च करना चाहता था, जिसमें वायरस में बदलाव करके उसके व्यवहार और प्रभाव का अध्ययन किया जाता है। Anthropic को खास तौर पर इसलिए चिंता हुई क्योंकि यह रिसर्च किसी सामान्य विश्वविद्यालय या मेडिकल लैब के बजाय एक सैन्य रिसर्च संस्थान से जुड़ी बताई गई थी। कंपनी के मुताबिक, शोधकर्ता वायरस को जानवरों में बार-बार पास करके ऐसे म्यूटेशन विकसित करने की कोशिश कर रहा था, जो उसके नुकसान को बढ़ा सकते थे। हालांकि Anthropic ने संबंधित वैज्ञानिक, संस्थान या देश की पहचान सार्वजनिक नहीं की है। रिपोर्ट में दावा किया गया है कि कुछ शोधकर्ताओं ने अपने काम के वास्तविक उद्देश्य को छिपाने की कोशिश की, ताकि Anthropic की सुरक्षा व्यवस्था को दरकिनार किया जा सके। कंपनी का कहना है कि ऐसे संदिग्ध अकाउंट्स के खिलाफ कार्रवाई करते हुए उन्हें बैन कर दिया गया है। इससे AI कंपनियों के सामने एक बड़ी चुनौती भी सामने आती है कि सामान्य वैज्ञानिक रिसर्च और संभावित खतरनाक रिसर्च के बीच अंतर कैसे किया जाए। Anthropic का कहना है कि पिछले साल तक उसके पुराने AI मॉडल इतने सक्षम नहीं थे कि वे खतरनाक जैविक रिसर्च में महत्वपूर्ण स्तर पर मदद कर सकें। लेकिन नई पीढ़ी के मॉडल अधिक जटिल कार्यों को समझने और पूरा करने में सक्षम हैं। इसी वजह से कंपनी ने डुअल-यूज बायोलॉजिकल क्वेरी यानी ऐसी जैविक जानकारी से जुड़े सवालों पर नियंत्रण बढ़ा दिया है, जिनका इस्तेमाल अच्छे और बुरे दोनों उद्देश्यों के लिए किया जा सकता है। Anthropic की रिपोर्ट में केवल जैविक रिसर्च ही नहीं, बल्कि AI के दूसरे संभावित गलत इस्तेमाल का भी जिक्र किया गया है। कंपनी के मुताबिक, कुछ यूजर्स ने Claude का इस्तेमाल आग्नेयास्त्रों, मिसाइल, ड्रोन और बम जैसे पारंपरिक हथियारों से जुड़े सॉफ्टवेयर के लिए करने की कोशिश की। रिपोर्ट में चीन, रूस और यमन से जुड़े छह मामलों का भी उल्लेख किया गया है। यमन से जुड़े मामले में ईरान समर्थित हूथी समूह की ओर संकेत किया गया है। इसके अलावा चीनी और ईरानी एजेंट्स से जुड़े संदिग्ध सरकारी अभियानों में प्रवासी समुदायों की निगरानी के लिए AI के इस्तेमाल की बात भी सामने आई है। Anthropic का मानना है कि AI का जैविक क्षेत्र में गलत इस्तेमाल विशेष रूप से चिंताजनक है। इसकी वजह यह है कि अगर अत्यधिक सक्षम AI किसी खतरनाक जैविक रिसर्च को आसान बना देता है, तो उसके संभावित परिणाम बड़े पैमाने पर हो सकते हैं। हालांकि, हर उन्नत जैविक रिसर्च को खतरनाक मानना भी उचित नहीं है। कई ऐसी तकनीकों का इस्तेमाल बीमारियों की रोकथाम, दवाओं और वैक्सीन के विकास तथा चिकित्सा अनुसंधान में किया जाता है। इसी संतुलन को ध्यान में रखते हुए Anthropic ने कहा है कि वह अपने AI मॉडल के दुरुपयोग को रोकने के लिए लगातार निगरानी और सुरक्षा उपायों को मजबूत कर रही है।Anthropic को क्यों बढ़ानी पड़ी AI की सुरक्षा?
चिकनगुनिया वायरस पर रिसर्च ने बढ़ाई चिंता
सुरक्षा नियमों को चकमा देने की भी कोशिश
नए AI मॉडल पहले से ज्यादा सक्षम
AI के गलत इस्तेमाल के सामने आए दूसरे मामले
जैविक हथियारों का खतरा सबसे गंभीर क्यों?
AI तकनीक तेजी से शक्तिशाली हो रही है और इसका इस्तेमाल चिकित्सा, विज्ञान और रिसर्च में बड़े बदलाव ला सकता है। लेकिन यही क्षमता अगर गलत हाथों में पहुंचती है तो गंभीर खतरे भी पैदा हो सकते हैं। Anthropic की कार्रवाई इस बात का संकेत है कि AI कंपनियां अब जैविक और अन्य संवेदनशील क्षेत्रों में मॉडल के दुरुपयोग को रोकने के लिए सुरक्षा व्यवस्था को पहले से ज्यादा गंभीरता से ले रही हैं।
