Meta ના નિયમો માત્ર કાગળ પર? Facebook અને Instagram પર AI નો કાળો ખેલ: મહિલાઓની સુરક્ષા પર મોટું જોખમ

સોશિયલ મીડિયા વાપરતા પહેલાં ચેતી જજો! ફેસબુક-ઇન્સ્ટા પર ખુલ્લેઆમ ચાલી રહ્યો છે ‘Nudify’ એપ્સનો ખતરનાક ખેલ!

આજના ડિજિટલ યુગમાં આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ના અયોગ્ય ઉપયોગે નવી ચિંતાઓ જન્માવી છે. મેટા (Meta) નું કહેવું છે કે તે તેના પ્લેટફોર્મ્સ પર ‘ન્યુડિફાઈ’ (Nudify) એપ્સ અથવા તો કોઈ વ્યક્તિની સંમતિ વિના તેની અશ્લીલ અને નગ્ન તસવીરો બનાવતી ટૂલ્સના પ્રચાર પર સખત પ્રતિબંધ મૂકે છે. પરંતુ તાજેતરમાં સામે આવેલા એક રિપોર્ટ મુજબ, મેટાના આ દાવાઓ માત્ર કાગળ પર જ સીમિત હોય તેમ લાગે છે. ફેસબુક (Facebook) અને ઈન્સ્ટાગ્રામ (Instagram) પર આવી વિવાદિત એપ્સની હજારો જાહેરાતો ધમધમી રહી છે.

સૌથી ચિંતાજનક બાબત એ છે કે આવી મોટાભાગની જાહેરાતો મેટા દ્વારા માન્યતા પ્રાપ્ત એડવર્ટાઇઝિંગ પાર્ટનર્સ દ્વારા જ રન કરવામાં આવી રહી છે. જો નિયમો મુજબ આવી જાહેરાતો પર પ્રતિબંધ છે, તો પછી તે પ્લેટફોર્મ પર કેવી રીતે દેખાઈ રહી છે?

મેટા લાઇબ્રેરીમાં શંકાસ્પદ પેજ અને ગેરમાર્ગે દોરતી જાહેરાતો

ટાઇમ્સ નાઉ ડિજિટલે મેટાની પોતાની પબ્લિક ‘એડ લાઇબ્રેરી’ (Ad Library) માં તપાસ કરી ત્યારે આવી અનેક જાહેરાતો સક્રિય જોવા મળી હતી. આ જાહેરાતોમાં નાની વયની છોકરીઓના જાતીય રીતે ચિત્રિત વિડીયોનો ઉપયોગ કરીને એપ ડાઉનલોડ કરવાનો પ્રચાર કરવામાં આવી રહ્યો હતો. રસપ્રદ વાત એ છે કે આ જાહેરાતો ચલાવતા ફેસબુક પેજ અને તેઓ જે પ્રોડક્ટનો દાવો કરી રહ્યા હતા, તેમની વચ્ચે કોઈ મેળ જ નહોતો.

મેટાના પેજ કેટેગરી અને જાહેરાતો વચ્ચેના આવા વિરોધાભાસના કેટલાક ઉદાહરણો:

• “Qqfb-0720-31”: આ પેજ “બેબી ગુડ્સ/ચિલ્ડ્રન્સ ગુડ્સ” (બાળકોના સામાન) ની કેટેગરી હેઠળ લિસ્ટ હતું, પરંતુ તે યુવતીનો વિડીયો બતાવીને એપ ડાઉનલોડ કરવાની લિંક આપતું હતું.

• “Mark Hernandez”: આ પેજ “જમૈકન રેસ્ટોરન્ટ” તરીકે દર્શાવવામાં આવ્યું હતું. (જેને પાછળથી મેટાએ એડવર્ટાઇઝિંગ સ્ટાન્ડર્ડના ઉલ્લંઘન બદલ હટાવ્યું હતું).

• “Kane Salazar”: આ પેજને “મહિલાઓના કપડાંની દુકાન” (Women’s clothes shop) તરીકે વર્ગીકૃત કરવામાં આવ્યું હતું.

• “Ryan Butler”: “કિચન/કુકિંગ” કેટેગરી હેઠળ નોંધાયેલું આ એકાઉન્ટ પણ નીતિઓનું ઉલ્લંઘન કરવા બદલ પાછળથી ડિસેબલ કરવામાં આવ્યું હતું.

સ્પેમ અને નકલી જાહેરાતોના સામાન્ય લક્ષણો

આ પ્રકારની તમામ જાહેરાતોની તપાસ કરતા કેટલીક સામાન્ય પેટર્ન જોવા મળી હતી:

• અસ્થાયી અને નવા એકાઉન્ટ્સ: મોટાભાગના પેજ જાહેરાત લાઇવ થવાના થોડા દિવસો પહેલા જ બનાવવામાં આવ્યા હતા. આ એકાઉન્ટ્સ પર ફાળોઅર્સની સંખ્યા શૂન્ય અથવા એક જ હતી.

• નામમાં વારંવાર ફેરફાર: તપાસમાં સામે આવ્યું કે અમુક પેજના નામ ટૂંકા સમયમાં ત્રણ-ત્રણ વાર બદલવામાં આવ્યા હતા. તેમના નામ કોઈ પણ સામાન્ય બ્રાન્ડ કે વ્યક્તિ સાથે સુસંગત નહોતા.

• સિસ્ટમને છેતરવા બોગસ લખાણ: ઓટોમેટેડ રિવ્યૂ સિસ્ટમને ભ્રમિત કરવા માટે જાહેરાતની કેપ્શનમાં હાર્ટ ઈમોજી સાથે બિનજરૂરી કાલ્પનિક વાર્તાઓ લખવામાં આવતી હતી, જેથી મેટાના એલ્ગોરિધમને તે સામાન્ય પોસ્ટ લાગે.

• મલ્ટીપલ વર્ઝનનો ઉપયોગ: મેટાની સિસ્ટમ એક જ જાહેરાતના વિવિધ વર્ઝન બનાવવાની સુવિધા આપે છે. જાહેરાતકર્તાઓ આ સુવિધાનો દુરુપયોગ કરીને સામાન્ય લખાણ સાથે અશ્લીલ વિડીયો જોડી દેતા હતા, જેથી સિસ્ટમ ચેકિંગ દરમિયાન અશ્લીલ સામગ્રી પકડી ન શકે.

શું છે આ ‘ન્યુડિફાઈ’ એપ્સ અને તેનું જોખમ?

આ એપ્સ આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) ટેકનોલોજીનો ઉપયોગ કરીને સામાન્ય કપડાં પહેરેલી વ્યક્તિની તસવીરને ફેક નગ્ન ફોટો કે વિડીયોમાં બદલી નાખે છે. આ પ્રક્રિયામાં જે-તે વ્યક્તિની સંમતિ લેવામાં આવતી નથી.

વિવિધ રિપોર્ટ્સ મુજબ, આ ટૂલ્સનો ઉપયોગ સૌથી વધુ મહિલાઓ અને સગીર વયની છોકરીઓને નિશાન બનાવવા અને તેમને માનસિક રીતે ટાર્ગેટ કરવા માટે કરવામાં આવે છે. જોકે મેટાના નીતિ-નિયમો આવી એપ્સના પ્રચાર પર સખત મનાઈ ફરમાવે છે, છતાં તે પ્લેટફોર્મ પર સરેઆમ ચાલતી જોવા મળે છે.

વોચડોગ રિપોર્ટમાં સનસનાટીભર્યા ખુલાસા

વોશિંગ્ટનની સંસ્થા ટૅક ટ્રાન્સપરન્સી પ્રોજેક્ટ (TTP) ના એક અહેવાલ મુજબ, ફેસબુક અને ઇન્સ્ટાગ્રામ પર આવી હજારો ગેરકાયદેસર જાહેરાતો ચલાવવામાં આવી હતી. રિપોર્ટમાં જણાવાયું છે કે આમાંની મોટાભાગની જાહેરાતો GatherOne નામની બેઇજિંગ સ્થિત એજન્સી દ્વારા પોસ્ટ કરવામાં આવી હતી. GatherOne એ મેટા દ્વારા ચાઇનીઝ કંપનીઓ માટે જાહેરાત ચલાવવા માટે માન્યતા પ્રાપ્ત એજન્સી છે.

TTP ને મેટાની એડ લાઇબ્રેરીમાં ૨૧૦ એવા પેજ મળ્યા જે GatherOne સાથે જોડાયેલા હતા અને તેમણે લગભગ ૩૦,૮૦૦ જાહેરાતો ચલાવી હતી. આમાંથી ૪૩ પેજે ૭,૬૦૦ થી વધુ એવી જાહેરાતો ચલાવી હતી જે મહિલાઓના નગ્ન ફોટા બનાવતી એપ્સને પ્રોમોટ કરતી હતી.

નિયમો હોવા છતાં આ જાહેરાતો કેમ અટકતી નથી?

રિપોર્ટ અને તપાસના આધારે કેટલીક મુખ્ય ખામીઓ સામે આવી છે:

1. એઆઈ રિવ્યૂ સિસ્ટમની મર્યાદા: જાહેરાતોની ચકાસણી મોટે ભાગે માણસો દ્વારા નહીં પરંતુ ઓટોમેટેડ મશીન સિસ્ટમ દ્વારા થાય છે. આ સિસ્ટમ સેકન્ડોમાં જાહેરાતોને મંજૂરી આપે છે, જેથી નિયમ તોડતી જાહેરાતો સરળતાથી લાઈવ થઈ જાય છે.

2. નવા નામે ફરી પ્રવેશ: જ્યારે મેટા કોઈ એક એકાઉન્ટને બ્લોક કરે છે, ત્યારે જાહેરાતકર્તાઓ તુરંત જ નવી વેબસાઇટ અને નવા એકાઉન્ટ બનાવીને ફરીથી આવી જાહેરાતો ચાલુ કરી દે છે.

3. સર્ચ ફિલ્ટર્સ અપૂરતા: મેટા “nudify” કે “undress” જેવા શબ્દોના સર્ચ પર પ્રતિબંધ મૂકે છે. પરંતુ આ જાહેરાતો પેઇડ પ્રમોશન દ્વારા સીધી યુઝર્સના ફીડમાં ધકેલવામાં આવે છે, જેથી સર્ચ ફિલ્ટર્સ તેને રોકી શકતા નથી.

મેટાનો સ્પષ્ટતા અને દાવો

આ મુદ્દે પૂછવામાં આવેલા પ્રશ્નોના જવાબમાં મેટાના પ્રવક્તાએ જણાવ્યું હતું કે, “અમે અમારી ટેકનોલોજીમાં સુધારો કરીને માત્ર છેલ્લા એક વર્ષમાં ફેસબુક અને ઈન્સ્ટાગ્રામ પરથી ૪૦ લાખથી વધુ શંકાસ્પદ એકાઉન્ટ્સ સ્વચાલિત રીતે હટાવ્યા છે. આ સિવાય બાળ શોષણથી સંબંધિત ૩.૬ કરોડ કન્ટેન્ટ દૂર કરવામાં આવ્યા છે.”

કંપનીએ ઉમેર્યું હતું કે તેમની પાસે આવી પ્રવૃત્તિઓને ઓળખવા માટે એડવાન્સ AI ડિટેક્શન ટૂલ્સ છે. આ પ્રક્રિયા હેઠળ ભારતમાં પણ છેલ્લા છ મહિનામાં ૧,૬૦,૦૦૦ જેટલા એકાઉન્ટ્સ દૂર કરવામાં આવ્યા છે. મેટાનું કહેવું છે કે તેઓ AI-જનરેટેડ કે અસલી – કોઈપણ પ્રકારની બિન-સંમતિપાત્ર અશ્લીલ સામગ્રી સામે સખત નીતિ ધરાવે છે અને અન્ય ટેક કંપનીઓ સાથે પણ આ ડેટા શેર કરી રહ્યા છે.