સોશિયલ મીડિયા પ્લેટફોર્મ Xએ તેના કન્ટેન્ટ મોડરેશનમાં પોતાની ભૂલો સ્વીકારી છે. કંપનીએ કહ્યું છે કે અશ્લીલ ઈમેજ જનરેશન પર સંપૂર્ણપણે પ્રતિબંધ લગાવશે અને ભારતના કાયદાઓનું પાલન કરશે. સરકારના સુત્રો અનુસાર, અશ્લીલ કન્ટેન્ટ વાયરલ થયા બાદ આ નિર્ણય લેવામાં આવ્યો. પ્લેટફોર્મે જણાવ્યું હતું કે તેણે 3,500થી વધુ કન્ટેન્ટ બ્લોક કર્યા છે અને 600થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે. ખરેખરમાં, શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ 2 જાન્યુઆરીએ IT મંત્રીને AI ચેટબોટ ગ્રોકના દુરુપયોગ અંગે પત્ર લખ્યો હતો. આ પછી, કેન્દ્ર સરકારે તે જ દિવસે Xને AI એપ Grok દ્વારા બનાવવામાં આવી રહેલી અશ્લીલ અને અભદ્ર કન્ટેન્ટ તાત્કાલિક દૂર કરવા જણાવ્યું હતું, નહીં તો કાનૂની કાર્યવાહી કરવામાં આવશે. Xએ કાર્યવાહીની જાહેરાત કરતી વખતે કહ્યું કે ભારત અમારા માટે એક મોટું બજાર છે. કંપનીએ કહ્યું કે તે અહીંના નિયમોનું સન્માન કરશે. આ પગલું મોડરેશનને મજબૂત બનાવશે.
રાજ્યસભા સાંસદ પ્રિયંકા ચતુર્વેદીએ શનિવારે X પર આ મુદ્દા અંગે બીજી પોસ્ટ પોસ્ટ કરી. તેમણે લખ્યું કે સોશિયલ મીડિયા પ્લેટફોર્મ Xએ Grok દ્વારા અપમાનજનક અને જાતીય રીતે અશ્લીલ તસવીર બનાવવાને સંપૂર્ણપણે રોકવાને બદલે ફક્ત પેઇડ યુઝર્સ સુધી મર્યાદિત રાખ્યું છે. તેમણે આરોપ લગાવ્યો કે આ પગલું મહિલાઓ અને બાળકોની તસવીરના અનધિકૃત દુરુપયોગને અસરકારક રીતે મંજૂરી આપે છે, જેનાથી તેઓ જોખમમાં મુકાય છે. તેમણે કહ્યું કે તે શરમજનક છે કે પ્લેટફોર્મ નિંદનીય વર્તનનું મોનિટાઈઝ કરી રહ્યું છે. શિવસેના (UBT) સાંસદ પ્રિયંકા ચતુર્વેદીએ 2 જાન્યુઆરીએ IT મંત્રી અશ્વિની વૈષ્ણવને AI ચેટબોટ ગ્રોકના દુરુપયોગ અંગે પત્ર લખ્યો હતો. અગાઉ, 3 જાન્યુઆરીના રોજ, Xના માલિક ઈલોન મસ્કે કહ્યું હતું કે કેટલાક લોકો કહી રહ્યા છે કે ગ્રોક અપમાનજનક તસવીરો બનાવે છે, પરંતુ તે કંઈક ખરાબ લખવા માટે પેનને દોષ આપવા જેવું છે. કલમ શું લખવું તે નક્કી કરતી નથી, પણ જે તેને પકડીને લખે છે તે નક્કી કરે છે. મસ્કે કહ્યું કે ગ્રોક પણ આવી જ રીતે કામ કરે છે. તમને જે મળે છે તે મોટાભાગે તમે તેમાં શું ઇનપુટ કરો છો તેના પર આધાર રાખે છે. કારણ કે જવાબદારી ટુલની નહીં પરંતુ તેનો ઉપયોગ કરનાર વ્યક્તિની છે.
સોશિયલ મીડિયા પર, ખાસ કરીને X પર, AIના Grok ફીચરનો દુરુપયોગ થઈ રહ્યો છે. કેટલાક પુરુષો ફેક એકાઉન્ટ બનાવી રહ્યા છે અને મહિલાઓના ફોટા પોસ્ટ કરી રહ્યા છે, AIને કપડાં નાના દેખાડવા અથવા તસવીરોને ખોટી રીતે રજૂ કરવા કહી રહ્યા છે. આ ફક્ત નકલી એકાઉન્ટ્સ પૂરતું મર્યાદિત નથી, પરંતુ જે મહિલાઓ પોતાના ફોટા શેર કરે છે તેમને પણ નિશાન બનાવવામાં આવી રહી છે. આ ખૂબ જ ખોટું છે અને AIનો ગંભીર દુરુપયોગ છે. સૌથી ચિંતાજનક બાબત એ છે કે Grok આ અયોગ્ય માંગણીઓને સ્વીકારી રહ્યા છે. આ મહિલાઓની ગોપનીયતાનું ઉલ્લંઘન કરે છે અને મંજુરી વિના તેમની છબીઓનો ઉપયોગ કરવાની મંજૂરી આપે છે. આ ફક્ત ખોટું નથી, તે એક ગુનો છે.
કેટલાક વપરાશકર્તાઓ સોશિયલ મીડિયા પ્લેટફોર્મ X પર નકલી એકાઉન્ટ બનાવે છે. તેઓ આ એકાઉન્ટ્સમાંથી મહિલાઓના ફોટા પોસ્ટ કરે છે. ત્યારબાદ Grok AIને પ્રોમ્પ્ટ આપવામાં આવે છે કે મહિલાઓના ફોટાને ખોટી રીતે અને અપમાનજનક રીતે પ્રદર્શિત કરે. AIને કપડાં બદલવા અથવા તસવીરને સેક્યુઅલ અંદાજમાં રજૂ કરવા જેવા સંકેતો આપવામાં આવે છે. આ તસવીરો માટે મહિલાઓ પાસેથી કોઈ મંજુરી લેવામાં આવતી નથી. કેટલીકવાર, મહિલાઓ પોતે જ જાણતી નથી કે તેમના ફોટાનો આ રીતે ઉપયોગ થઈ રહ્યો છે. એવો આરોપ છે કે Grok આવી ખોટી માંગણીઓ રોકવાને બદલે તેને સ્વીકારે છે.