एआई त्वचा कैंसर पहचान उपकरण सुधर रहे हैं — मुख्यतः हल्की त्वचा वालों के लिए

मोबाइल ऐप से लेकर त्वचा विशेषज्ञों द्वारा इस्तेमाल किए जाने वाले सॉफ्टवेयर तक, मेलानोमा जैसी त्वचा स्थितियों की पहचान में मदद का दावा करने वाले कई नए आर्टिफिशियल इंटेलिजेंस (एआई) उपकरण सामने आए हैं। लेकिन ये उपकरण हल्की त्वचा वाले लोगों के लिए तो लगातार सटीक होते जा रहे हैं, जबकि गहरे रंग की त्वचा के लिए इनमें एक बड़ी खामी है। नैदानिक सेटिंग में इन एआई उपकरणों के प्रदर्शन का अध्ययन करने वाले एक कंप्यूटर इंजीनियर ने यह बताया। एआई मॉडल एक पैटर्न-मिलान इंजन है: घाव को खुद पढ़ने के बजाय, यह आसपास की त्वचा के रंग को एक संकेत मान सकता है, जिससे इसकी सटीकता त्वचा के रंग पर आधारित एक अनुमान बनकर रह सकती है।

लेखक और उनके सहयोगियों ने अपने परीक्षण में हल्की त्वचा वाले मरीज़ों की तस्वीरों पर एक एआई मॉडल को प्रशिक्षित किया, फिर बीमारी की स्थिति बदले बिना आसपास की त्वचा को डिजिटल रूप से गहरा किया। इससे एआई की पहचान क्षमता तेज़ी से घट गई। उदाहरण के लिए, एटॉपिक डर्मेटाइटिस हल्की त्वचा पर गुलाबी और गहरी त्वचा पर धूसर या बैंगनी रंग का दिखता है। शोधकर्ताओं ने पाया कि एआई मॉडल गुलाबी निशानों को तो भरोसेमंद ढंग से पहचान लेते हैं, लेकिन उसी स्थिति के गहरी-त्वचा वाले संकेतों को अक्सर पहचानने में चूक जाते हैं।

यह पूर्वाग्रह क्लिनिकल उपकरणों से आगे बढ़कर ChatGPT और Claude जैसे आम एआई चैटबॉट तक फैला है। 2024 के एक अध्ययन में, शोधकर्ताओं ने OpenAI के GPT-4 को एक सौम्य तिल की तस्वीर दिखाई, फिर तिल को बिना बदले आसपास की त्वचा को डिजिटल रूप से गहरा किया। GPT-4 ने उस निशान को घातक मेलानोमा बता दिया, जो अनियमित किनारों जैसे मानक चिकित्सीय संकेतों की बजाय गहरे रंग पर ध्यान केंद्रित करने जैसा लगा। रंजित त्वचा पर मेलानोमा जैसे त्वचा कैंसर को देखकर पहचानना पहले से ही कठिन है। अश्वेत मरीज़ों की बीमारी भी अक्सर अधिक बढ़ी हुई अवस्था में पकड़ में आती है, जिससे जीवित रहने की दर कम होती है। ऐसे में हल्की त्वचा के पक्ष में झुका एक उपकरण इस अंतर को और बढ़ा देता है।

यह पूर्वाग्रह प्रशिक्षण डेटा से शुरू होता है: इन एआई मॉडलों को बनाने में इस्तेमाल होने वाली, विश्वविद्यालयों और अस्पतालों से ली गई चिकित्सा छवि लाइब्रेरी में ऐतिहासिक रूप से हल्की त्वचा की तस्वीरों का ही बोलबाला रहा है। अश्वेत मरीज़ों की बड़ी संख्या में नई असली तस्वीरें जुटाना नैतिक और गोपनीयता संबंधी बाधाएं खड़ी करता है, इसलिए कुछ शोधकर्ता गहरी त्वचा पर स्थितियों की सिंथेटिक छवियां बनाने के लिए जेनरेटिव एआई की ओर मुड़े हैं। लेखकों ने दिखाया कि पूरी तरह ऐसी सिंथेटिक छवियों पर प्रशिक्षित मॉडल असली तस्वीरों पर प्रशिक्षित मॉडल जितनी ही अच्छी तरह स्थितियों को वर्गीकृत कर सकता है। लेकिन उन्होंने चेतावनी दी कि जेनरेटिव छवियां यह सटीक रूप से नहीं दिखा सकतीं कि स्थितियां असली मरीज़ों में वास्तव में कैसी दिखती हैं। इससे कागज़ पर विविध दिखने वाला उपकरण असली गहरी-त्वचा वाले मामलों के लिए व्यावहारिक रूप से अंधा रह सकता है।