Grok AI વિવાદ: ભારત સરકારની કડકાઈ, એલોન મસ્કની કંપની X ને અશ્લીલ કન્ટેન્ટ હટાવવા વધુ 72 કલાકનું અલ્ટીમેટમ
સોશિયલ મીડિયા પ્લેટફોર્મ માટે એક મોટા પરિવર્તનમાં, X (અગાઉનું ટ્વિટર) એ જાહેરાત કરી છે કે તે ગેરકાયદેસર સામગ્રી બનાવવા માટે તેની કૃત્રિમ ગુપ્તચર સેવા, Grok નો ઉપયોગ કરતા વપરાશકર્તાઓ પર કાયમી પ્રતિબંધ મૂકશે. આ પગલું ત્યારે આવ્યું છે જ્યારે પ્લેટફોર્મ ભારત સરકાર દ્વારા મહિલાઓને લક્ષ્ય બનાવતી AI-જનરેટેડ અશ્લીલ સામગ્રીના પ્રસારને સંબોધવા માટે એક ઉચ્ચ-દાવની સમયમર્યાદાનો સામનો કરી રહ્યું છે.
મસ્ક Grok વપરાશકર્તાઓને કડક ચેતવણી આપે છે
સોમવાર, 5 જાન્યુઆરીના રોજ સમાપ્ત થયેલી સરકાર દ્વારા ફરજિયાત સમયમર્યાદા પછી, માલિક એલોન મસ્ક અને X ની ગ્લોબલ ગવર્નમેન્ટ અફેર્સ ટીમે સ્પષ્ટતા કરી હતી કે પ્લેટફોર્મની “સેફ બંદર” નીતિઓ AI ટૂલ્સનો દુરુપયોગ કરનારાઓ સુધી વિસ્તરતી નથી., મસ્કે જણાવ્યું હતું કે ગેરકાયદેસર સામગ્રી ઉત્પન્ન કરવા માટે Grok નો ઉપયોગ કરનાર કોઈપણ વ્યક્તિ ગેરકાયદેસર સામગ્રી અપલોડ કરનારાઓ જેવા જ “પરિણામો ભોગવશે”, જેમાં સામગ્રી દૂર કરવી અને કાયમી એકાઉન્ટ સસ્પેન્શનનો સમાવેશ થાય છે.
પ્લેટફોર્મે બાળ જાતીય દુર્વ્યવહાર સામગ્રી (CSAM) અને અન્ય ગેરકાયદેસર સામગ્રીનો સામનો કરવા માટે સ્થાનિક કાયદા અમલીકરણ સાથે કામ કરવાની તેની પ્રતિબદ્ધતાનો પુનરોચ્ચાર કર્યો. આ ગ્રોક માટે એક મહત્વપૂર્ણ પગલું છે, જેની નિષ્ણાતો દ્વારા અન્ય બિગ ટેક ભાષા મોડેલોની તુલનામાં ઓછા સુરક્ષા પગલાં અને વધુ “અનફિલ્ટર” પ્રતિભાવો હોવા બદલ ટીકા કરવામાં આવી છે.
MeitY તરફથી 72-કલાકનું અલ્ટીમેટમ
નીતિ અપડેટ 2 જાન્યુઆરીએ ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) દ્વારા જારી કરાયેલા કડક નિર્દેશને અનુસરે છે. મંત્રાલયે X ને તાત્કાલિક બધી અશ્લીલ અને ગેરકાયદેસર સામગ્રી – ખાસ કરીને ગ્રોક દ્વારા જનરેટ કરાયેલ છબીઓને હાઇલાઇટ કરતી – દૂર કરવાનો આદેશ આપ્યો હતો અને 72 કલાકની અંદર વિગતવાર કાર્યવાહી અહેવાલ (ATR) ની માંગણી કરી હતી.
સરકારની નોટિસમાં “ગંભીર ચિંતા” વ્યક્ત કરવામાં આવી હતી કે ગ્રોકનો દુરુપયોગ નકલી એકાઉન્ટ્સ બનાવવા માટે થઈ રહ્યો છે જે અપમાનજનક રીતે કૃત્રિમ, બિન-સહમતિપૂર્ણ છબીઓ પ્રકાશિત કરે છે., અધિકારીઓએ ચેતવણી આપી હતી કે પ્લેટફોર્મ-સ્તરના સુરક્ષા પગલાંમાં આવી નિષ્ફળતાઓ “જાતીય સતામણીને સામાન્ય બનાવે છે” અને ડિજિટલ જગ્યાઓમાં મહિલાઓ અને બાળકોના ગૌરવને નબળી પાડે છે.
કાનૂની પરિણામો: “સેફ હાર્બર” ગુમાવવું
ભારત સરકારે સ્પષ્ટ કર્યું છે કે X નું પાલન વૈકલ્પિક નથી. માહિતી ટેકનોલોજી કાયદાની કલમ 79 હેઠળ, સોશિયલ મીડિયા મધ્યસ્થી સામાન્ય રીતે તૃતીય-પક્ષ સામગ્રી માટે જવાબદારીથી મુક્ત છે. જો કે, MeitY એ ચેતવણી આપી હતી કે ગ્રોક દ્વારા ઉત્પન્ન થતી અશ્લીલતાને રોકવામાં સતત નિષ્ફળતા આ કાનૂની પ્રતિરક્ષા ગુમાવી શકે છે, જેના કારણે X અને તેના અધિકારીઓને અનેક કાયદાઓ હેઠળ કાર્યવાહીનો નિર્દેશ કરવો પડી શકે છે, જેમાં નીચેનાનો સમાવેશ થાય છે:
• ભારતીય ન્યાય સંહિતા, 2023
• આઇટી કાયદો (અશ્લીલતા સંબંધિત કલમ 67, 67A અને 67B)
• પોક્સો કાયદો
કેન્દ્રીય મંત્રી અશ્વિની વૈષ્ણવે નોંધ્યું હતું કે વર્તમાન પરિસ્થિતિ નવા હસ્તક્ષેપો માટે “મજબૂત કેસ” બનાવે છે, ઉમેર્યું હતું કે સરકાર સોશિયલ મીડિયા પ્લેટફોર્મ પર AI સામગ્રીને નિયંત્રિત કરવા માટે નવા કાયદાઓ પર વિચાર કરી રહી છે.
ઉત્પ્રેરક: જાહેર અને રાજકીય વિરોધ
“ઇમેજ મેનીપ્યુલેશન” ના વધતા અહેવાલો દ્વારા આ કાર્યવાહી શરૂ કરવામાં આવી હતી, જ્યાં વપરાશકર્તાઓ મહિલાઓના ફોટાને તેમની સંમતિ વિના બદલવા માટે જાહેર થ્રેડમાં ગ્રોકને ટેગ કરે છે. રાજ્યસભા સભ્ય પ્રિયંકા ચતુર્વેદીએ અગાઉ IT મંત્રાલયને પત્ર લખીને તાત્કાલિક હસ્તક્ષેપની માંગ કરી હતી, જેમાં નોંધ્યું હતું કે AI સૂચક દ્રશ્યો માટેની વિનંતીઓનું પાલન કરીને ઉત્પીડનને “સક્ષમ” કરી રહ્યું છે.
ભારતની બહાર, X આંતરરાષ્ટ્રીય સ્તરે સમાન તપાસનો સામનો કરી રહ્યું છે. ફ્રાન્સમાં, ચેટબોટ દ્વારા સગીરોની જાતીય છબીઓ ઉત્પન્ન કરવાના અહેવાલો સામે આવ્યા પછી, અધિકારીઓ પ્લેટફોર્મની તપાસ કરી રહ્યા છે, એક ઘટના જે AI એ પછીથી નૈતિક ધોરણોના ઉલ્લંઘન તરીકે “સ્વીકાર” કર્યો હતો.
