एंथ्रॉपिक ने रोका जैविक हथियार शोध अनुरोध, मॉडल चोरी और प्रचार अभियान

एंथ्रॉपिक ने गुरुवार को कहा कि उसने साइबर हमलों, निगरानी और जैविक हथियार बनाने में मदद कर सकने वाले शोध के लिए अपने AI मॉडलों के दुरुपयोग के प्रयासों को रोका है। मार्च 2025 से कंपनी द्वारा जारी की जा रही AI दुरुपयोग रिपोर्टों में यह तीसरी रिपोर्ट है। जासूसी सॉफ्टवेयर बेचने वालों से लेकर सरकार-समर्थित समूहों तक, इसमें दिसंबर 2025 से अगस्त 2026 के बीच पाए गए मामले शामिल हैं।

एक मामले में, एंथ्रॉपिक ने कहा कि उसके सिस्टम ने चिकनगुनिया वायरस पर गेन-ऑफ-फंक्शन शोध के लिए अनुदान आवेदन लिखने में क्लॉड मॉडल की मदद मांगने वाले अनुरोध को रोक दिया। गेन-ऑफ-फंक्शन शोध का मतलब है किसी जीव के जीन में बदलाव करके उसमें नया या बढ़ा हुआ जैविक गुण पैदा करना। चिकनगुनिया मच्छरों से फैलने वाला वायरस है, जो तेज़ दर्द और बुखार का कारण बनता है। इस प्रस्ताव का मकसद वायरस को अधिक संक्रामक और प्रतिरक्षा प्रणाली से बचने में सक्षम बनाने वाले उत्परिवर्तनों को बढ़ाना था, जो वायरस को और खतरनाक भी बना सकते थे, एंथ्रॉपिक ने कहा।

रोके गए किसी भी मामले में एंथ्रॉपिक के नए, अधिक शक्तिशाली क्लॉड फेबल या मिथोस श्रेणी के मॉडलों का इस्तेमाल नहीं हुआ था। सिर्फ एक अपवाद था — एक मॉडल की क्षमताओं को बिना अनुमति के निकालकर दूसरे मॉडल में उतारने वाला औद्योगिक स्तर का गुप्त डिस्टिलेशन अभियान। एंथ्रॉपिक ने कहा कि उसके 2025 के मॉडल, जैसे क्लॉड ओपस 4 और सॉनेट 4.5, किसी दक्ष उपयोगकर्ता को खतरनाक जैविक शोध में सार्थक मदद देने लायक ताकतवर नहीं थे। इसलिए उनकी सुरक्षा व्यवस्था मुख्य रूप से ऐसी सामग्री रोकने पर केंद्रित थी, जो नए लोगों को ज्ञात जैविक हथियार दोबारा बनाने में मदद कर सके। क्लॉड फेबल 5 जैसे नए मॉडल जटिल वैज्ञानिक शोध कार्यों में मदद कर सकते हैं, इसलिए एंथ्रॉपिक ने दोहरे-उपयोग वाले जैविक शोध अनुरोधों तक पहुंच सीमित करने वाली मजबूत सुरक्षा व्यवस्थाएं जोड़ीं, कंपनी ने कहा।

एंथ्रॉपिक ने यह भी कहा कि उसने सरकार-समर्थित या राजनीतिक रूप से प्रेरित नौ प्रचार अभियानों का पता लगाया, जिनकी शुरुआत रूस, ईरान, तुर्किए और फारस की खाड़ी, दक्षिण एशिया, अफ्रीका व यूरोप के इलाकों से हुई। इन समूहों ने आम लोगों जैसे दिखने वाले सैकड़ों सोशल मीडिया खाते बनाए और एक हफ्ते के दौरान एक ही राजनीतिक विचार को बढ़ावा देने वाली सामग्री पोस्ट करने के लिए उनका इस्तेमाल किया। एंथ्रॉपिक ने कहा कि ऐसे प्रभाव अभियानों का पता वह कभी-कभी क्लॉड पर उनके बनने के दौरान ही लगा सकता है, इससे पहले कि सोशल मीडिया मंचों पर पोस्टें फैलती दिखें।

एंथ्रॉपिक ने कहा कि उसने पहचानी गई हर गतिविधि को रोका और उनकी जानकारी सरकारी अधिकारियों व उद्योग भागीदारों के साथ साझा की।