कसरी AI मा ध्यानपूर्वक दृष्टिकोण लिने पक्षपाती डेटा सेटहरूमा कटौती हुन्छ

पक्षपाती डाटासेट र नैतिक एआई

एआई-संचालित समाधानहरूलाई प्रभावकारी हुन डाटा सेटहरू चाहिन्छ। र ती डेटा सेटहरूको सिर्जना व्यवस्थित स्तरमा एक निहित पूर्वाग्रह समस्याले भरिएको छ। सबै मानिसहरु पक्षपात (दुबै सचेत र बेहोश) बाट ग्रस्त छन्। पूर्वाग्रहहरूले कुनै पनि रूपहरू लिन सक्छन्: भौगोलिक, भाषिक, सामाजिक-आर्थिक, लिंगवादी, र जातिवादी। र ती व्यवस्थित पूर्वाग्रहहरू डेटामा बेक गरिएका छन्, जसले AI उत्पादनहरू निम्त्याउन सक्छ जसले पूर्वाग्रहलाई स्थायी र बढाउँछ। सङ्गठनहरूलाई डेटा सेटहरूमा हुने पूर्वाग्रहको विरुद्धमा न्यूनीकरण गर्न एक सचेत दृष्टिकोण चाहिन्छ।

पूर्वाग्रह समस्यालाई चित्रण गर्ने उदाहरणहरू

यस डेटा सेट पूर्वाग्रहको एक उल्लेखनीय उदाहरण जसले त्यस समयमा धेरै नकारात्मक प्रेस प्राप्त गर्यो एक पुन: सुरुवात पढ्ने समाधान थियो जसले महिलाहरू भन्दा पुरुष उम्मेद्वारहरूलाई समर्थन गर्यो। यो किनभने भर्ती उपकरणको डेटा सेटहरू गत दशकमा धेरै आवेदकहरू पुरुष भएको बेलामा रिजुमेहरू प्रयोग गरेर विकास गरिएको थियो। डाटा पक्षपातपूर्ण थियो र परिणामहरूले त्यो पूर्वाग्रह झल्काउँछ। 

अर्को व्यापक रूपमा रिपोर्ट गरिएको उदाहरण: वार्षिक Google I/O विकासकर्ता सम्मेलनमा, Google ले AI-संचालित त्वचाविज्ञान सहायता उपकरणको पूर्वावलोकन साझा गर्‍यो जसले मानिसहरूलाई उनीहरूको छाला, कपाल र नङसँग सम्बन्धित समस्याहरूमा के भइरहेको छ भनेर बुझ्न मद्दत गर्दछ। डर्मेटोलोजी सहायक रेखदेख गर्दछ कि कसरी एआई स्वास्थ्य सेवा मा मद्दत को लागी विकसित हुँदैछ - तर यसले पूर्वाग्रह को आलोचना को बावजुद एआई मा रेंगने सम्भावना लाई प्रकाश पारेको छ कि उपकरण रंग को मानिसहरु को लागी पर्याप्त छैन।

जब गुगलले उपकरण घोषणा गर्‍यो, कम्पनीले नोट गर्यो:

हामी सबैका लागि निर्माण गर्दैछौं भन्ने कुरा सुनिश्चित गर्न, हाम्रो मोडेलले उमेर, लिङ्ग, जाति र छालाका प्रकारहरू जस्ता कारकहरू समावेश गर्दछ — फिक्का छालादेखि ट्यान नहुने खैरो छालासम्म जुन विरलै जल्छ।

गुगल, एआई को प्रयोग सामान्य छाला को अवस्था को उत्तर खोज्न मा मद्दत गर्न को लागी

तर उपाध्यक्ष मा एक लेख गूगल एक समावेशी डाटा सेट को उपयोग गर्न असफल भन्यो:

कार्य पूरा गर्न, शोधकर्ताहरूले दुई राज्यहरूमा अवस्थित 64,837 बिरामीहरूको 12,399 छविहरूको प्रशिक्षण डेटासेट प्रयोग गरे। तर हजारौं छालाको अवस्था चित्रित, मात्र 3.5 प्रतिशत Fitzpatrick छाला प्रकार V र VI - क्रमशः खैरो छाला र गाढा खैरो वा कालो छाला को प्रतिनिधित्व गर्ने बिरामीहरु बाट आएका थिए। ९० प्रतिशत डाटाबेस गोरो छाला, गाढा सेतो छाला वा हल्का खैरो छाला भएका मानिसहरूबाट बनेको अध्ययनले देखाएको छ। पक्षपाती नमूनाको नतिजाको रूपमा, छाला विशेषज्ञहरू भन्छन् कि एपले सेतो नभएका मानिसहरूलाई धेरै वा कम निदान गर्न सक्छ।

उपाध्यक्ष, गुगलको नयाँ डर्मेटोलोजी अनुप्रयोग डार्क छाला संग मान्छे को लागी डिजाइन गरीएको थिएन

गूगलले यो भन्दै प्रतिक्रिया दियो कि यो औपचारिक रुपमा रिलीज गर्नु अघि उपकरण परिष्कृत हुनेछ:

हाम्रो एआई संचालित dermatology सहायता उपकरण अनुसन्धान को तीन बर्ष भन्दा बढी को परिणति हो। हाम्रो काम प्रकृति चिकित्सा मा चित्रित भएको हुनाले, हामी विकास र थप डाटासेटहरु कि हजारौं मानिसहरु द्वारा दान डाटा, र लाखौं थप क्युरेटेड छाला चिन्ता छविहरु को समावेश संगै हाम्रो टेक्नोलोजी परिष्कृत गर्न जारी राखेका छौं।

गुगल, एआई को प्रयोग सामान्य छाला को अवस्था को उत्तर खोज्न मा मद्दत गर्न को लागी

AI र मेशिन लर्निङ प्रोग्रामहरूले यी पूर्वाग्रहहरूलाई सच्याउन सक्ने हामीले आशा गर्न सक्छौं, वास्तविकता रहन्छ: तिनीहरू मात्र हुन्। स्मार्ट किनकि तिनीहरूको डाटा सेटहरू सफा छन्। पुरानो प्रोग्रामिङ भनाइको अद्यावधिकमा फोहोर भित्र / फोहोर बाहिर, AI समाधानहरू तिनीहरूको डेटा सेटको गुणस्तर जत्तिकै बलियो हुन्छन्। प्रोग्रामरहरूबाट सुधार नगरी, यी डेटा सेटहरूसँग आफूलाई ठीक गर्नको लागि पृष्ठभूमि अनुभव हुँदैन - किनकि तिनीहरूसँग सन्दर्भको कुनै अन्य फ्रेम छैन।

जिम्मेवारीपूर्वक डेटा सेटहरू निर्माण गर्नु सबैको मूल कुरा हो नैतिक कृत्रिम बुद्धिमत्ता। र जनता समाधान को मूल मा छन्। 

माइन्डफुल एआई नैतिक एआई हो

पूर्वाग्रह शून्यमा हुँदैन। अनैतिक वा पक्षपातपूर्ण डेटा सेटहरू विकास चरणको क्रममा गलत दृष्टिकोण अपनाएर आउँछन्। पूर्वाग्रह त्रुटिहरु संग लड्ने तरीका को लागी एक जिम्मेवार, मानव केन्द्रित, दृष्टिकोण अपनाउन को लागी हो कि उद्योग मा धेरै ध्यान दिईरहेछन्। Mindful AI मा तीन महत्वपूर्ण कम्पोनेन्टहरू छन्:

1. Mindful AI मानव-केन्द्रित छ

एआई परियोजनाको स्थापनादेखि, योजना चरणहरूमा, मानिसहरूका आवश्यकताहरू प्रत्येक निर्णयको केन्द्रमा हुनुपर्दछ। र यसको मतलब सबै मानिसहरू - एक उपसमूह मात्र होइन। यसैले विकासकर्ताहरूले एआई अनुप्रयोगहरूलाई समावेशी र पूर्वाग्रहरहित हुन तालिम दिन विश्वव्यापी रूपमा आधारित मानिसहरूको विविध टोलीमा भर पर्नु आवश्यक छ।

विश्वव्यापी, विविध टोलीबाट डेटा सेटहरू क्राउडसोर्सिङले पूर्वाग्रहहरू पहिचान गरी चाँडै फिल्टर गरिएको सुनिश्चित गर्दछ। फरक-फरक जाति, उमेर समूह, लिङ्ग, शिक्षा स्तर, सामाजिक-आर्थिक पृष्ठभूमि र स्थानहरूले सजिलैसँग डेटा सेटहरू भेट्टाउन सक्छन् जसले मूल्यहरूको एक सेटलाई अर्कोमा मनपर्छ, यसरी अनपेक्षित पूर्वाग्रहलाई बाहिर निकाल्छ।

आवाज आवेदन मा एक नजर राख्नुहोस्। सचेत एआई दृष्टिकोण लागू गर्दा, र विश्वव्यापी प्रतिभा पूलको शक्तिको फाइदा उठाउँदै, विकासकर्ताहरूले डेटा सेटहरूमा विभिन्न बोलीहरू र उच्चारणहरू जस्ता भाषिक तत्वहरूको लागि खाता बनाउन सक्छन्।

सुरुदेखि नै मानव-केन्द्रित डिजाइन फ्रेमवर्क स्थापना गर्नु महत्त्वपूर्ण छ। यो सुनिश्चित गर्न को लागी एक लामो बाटो जान्छ कि डेटा उत्पन्न, क्यूरेट, र लेबल अन्त प्रयोगकर्ताहरु को अपेक्षा पूरा गर्दछ। तर यो पनी सम्पूर्ण उत्पादन विकास जीवनचक्र मा पाश मा मानव राख्न को लागी महत्वपूर्ण छ। 

लुपमा रहेका मानवहरूले मेसिनहरूलाई प्रत्येक विशिष्ट दर्शकहरूको लागि राम्रो AI अनुभव सिर्जना गर्न मद्दत गर्न सक्छन्। Pactera EDGE मा, हाम्रो एआई डाटा परियोजना टीमहरु, विश्वव्यापी स्थित, बुझ्छन् कि कसरी बिभिन्न संस्कृतिहरु र सन्दर्भहरु विश्वसनीय एआई प्रशिक्षण डाटा को संग्रह र क्यूरेशन लाई असर गर्न सक्छ। तिनीहरूसँग एआई-आधारित समाधान लाइभ हुनु अघि समस्याहरू फ्ल्याग गर्न, तिनीहरूलाई निगरानी गर्न र तिनीहरूलाई समाधान गर्न आवश्यक उपकरणहरू छन्।

ह्युमन-इन-द-लूप एआई एउटा परियोजना "सुरक्षा नेट" हो जसले मानिसहरूको शक्ति र तिनीहरूको विविध पृष्ठभूमिलाई मेसिनको द्रुत कम्प्युटिङ शक्तिसँग जोड्दछ। यो मानव र एआई सहकार्यलाई कार्यक्रमहरूको सुरुदेखि नै स्थापित गर्न आवश्यक छ ताकि पूर्वाग्रही डाटाले परियोजनामा ​​आधार नबनून्। 

२. माइन्डफुल एआई जिम्मेवार छ

जिम्मेवार हुनु भनेको पूर्वाग्रहरहित एआई प्रणालीहरू र तिनीहरू नैतिकतामा आधारित छन् भनी सुनिश्चित गर्नु हो। यो कसरी, किन, र कहाँ डाटा सिर्जना गरिन्छ, कसरी AI प्रणालीहरूद्वारा संश्लेषित गरिन्छ, र निर्णय गर्न कसरी प्रयोग गरिन्छ, नैतिक प्रभावहरू हुन सक्ने निर्णयहरू बारे सचेत हुनु हो। व्यवसायका लागि त्यसो गर्ने एउटा तरिका भनेको कम प्रतिनिधित्व भएका समुदायहरूसँग बढी समावेशी र कम पक्षपाती हुन काम गर्नु हो। डेटा एनोटेसनको क्षेत्रमा, नयाँ अनुसन्धानले हाइलाइट गरिरहेको छ कि कसरी बहु-एनोटेटरको बहु-कार्य मोडेल जसले प्रत्येक एनोटेटरको लेबललाई अलग-अलग सबटास्कको रूपमा व्यवहार गर्दछ, यसले सामान्य आधारभूत सत्य विधिहरूमा निहित सम्भावित समस्याहरूलाई कम गर्न मद्दत गर्न सक्छ जहाँ एनोटेटर असहमतिहरू कम-प्रतिनिधित्वहरूका कारण हुन सक्छ र। एकल आधारभूत सत्यलाई एनोटेशनको एकत्रीकरणमा बेवास्ता गर्न सकिन्छ। 

3. भरपर्दो

एआई मोडेललाई कसरी तालिम दिइन्छ, यसले कसरी काम गर्छ, र उनीहरूले नतिजाहरू किन सिफारिस गर्छन् भन्ने कुरामा पारदर्शी र व्याख्या गर्न सकिने व्यवसायबाट विश्वासयोग्यता आउँछ। एक व्यवसायलाई एआई स्थानीयकरणको साथ विशेषज्ञता चाहिन्छ यो सम्भव बनाउन को लागी आफ्नो ग्राहकहरु लाई आफ्नो एआई अनुप्रयोगहरु लाई अधिक समावेशी र निजीकृत बनाउन को लागी, स्थानीय भाषा र प्रयोगकर्ता अनुभवहरु मा महत्वपूर्ण बारीकियों को सम्मान गर्न को लागी कि एक देश बाट अर्को एआई समाधान को विश्वसनीयता बनाउन वा भंग गर्न सक्छ। । उदाहरण को लागी, एक व्यवसायले भाषा, बोली, र आवाज आधारित अनुप्रयोगहरु मा उच्चारण सहित व्यक्तिगत र स्थानीयकृत सन्दर्भहरु को लागी आफ्नो अनुप्रयोगहरु को डिजाइन गर्नुपर्छ। यसरी, एउटा एपले अंग्रेजीदेखि कम प्रतिनिधित्व गरिएका भाषाहरूमा प्रत्येक भाषामा समान स्तरको आवाज अनुभव परिष्कार ल्याउँछ।

निष्पक्षता र विविधता

अन्ततः, माइन्डफुल एआईले समाधानहरू निष्पक्ष र विविध डेटा सेटहरूमा निर्माण गरिएको सुनिश्चित गर्दछ जहाँ समाधानहरू बजारमा जानु अघि विशेष परिणामहरूको परिणाम र प्रभावहरूको अनुगमन र मूल्याङ्कन गरिन्छ। सजग भएर र समाधानको विकासको हरेक भागमा मानिसहरूलाई समावेश गरेर, हामी AI मोडेलहरू सफा, न्यूनतम पक्षपाती र सम्भव भएसम्म नैतिक रहने सुनिश्चित गर्न मद्दत गर्छौं।

तिम्रो के बिचार छ?

यो साइट स्प्याम कम गर्न Akismet को उपयोग गर्दछ। जान्नुहोस् कि तपाईंको डेटा कसरी संसाधित छ.