AI ટૂલ Grokને લઈને ઉઠેલા વિવાદ વચ્ચે સોશિયલ મીડિયા પ્લેટફોર્મ X (પૂર્વે ટ્વિટર)એ મોટો અને કડક નિર્ણય લીધો છે. સરકારી સૂત્રોના જણાવ્યા અનુસાર X એ તેની કન્ટેન્ટ મૉડરેશન પ્રક્રિયામાં ખામીઓ સ્વીકારી છે અને ભારતીય કાયદા તથા નિયમોનું કડક પાલન કરવાની ખાતરી આપી છે. અશ્લીલ અને અપમાનજનક સામગ્રીના ફેલાવા અંગે ઊભી થયેલી ચિંતાઓને ધ્યાનમાં રાખીને X દ્વારા આ કાર્યવાહી કરવામાં આવી છે.
સૂત્રોના જણાવ્યા મુજબ X પર ફેલાતી કેટલીક અશ્લીલ સામગ્રી કથિત રીતે કંપનીના AI ચેટબોટ Grok દ્વારા જનરેટ અથવા પ્રસારિત થઈ હતી. આ મામલે સરકારના દબાણ બાદ X એ તાત્કાલિક પગલાં લેતા લગભગ 3,500થી વધુ પોસ્ટ્સ બ્લોક કરી છે તેમજ 600થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે. સાથે જ કંપનીએ સ્પષ્ટ કર્યું છે કે ભવિષ્યમાં પ્લેટફોર્મ પર કોઈપણ પ્રકારની અશ્લીલ છબીઓ અથવા સામગ્રીને મંજૂરી આપવામાં આવશે નહીં.
સરકારી સૂત્રોએ જણાવ્યું હતું કે 7 જાન્યુઆરીના રોજ માહિતી ટેકનોલોજી મંત્રાલય દ્વારા X પાસેથી Grok AI સંબંધિત પોર્નોગ્રાફિક સામગ્રી સામે લેવામાં આવેલા પગલાં અંગે વિગતવાર માહિતી માગવામાં આવી હતી. ખાસ કરીને મહિલાઓની જાતીય સૂચક અને બિન-સહમતિપૂર્ણ છબીઓ જનરેટ થવા અંગે કેન્દ્ર સરકાર ગંભીર બની હતી.
બુધવારે X દ્વારા રજૂ કરાયેલ જવાબ વિગતવાર હતો પરંતુ તેને પૂરતો માનવામાં આવ્યો ન હતો. ત્યારબાદ મંત્રાલયે X પાસેથી વધુ સ્પષ્ટતા અને ભવિષ્યમાં આવી ઘટનાઓને રોકવા માટેના અસરકારક ઉપાયો અંગે વધારાની માહિતી માગી છે.
X એ તેના જવાબમાં જણાવ્યું છે કે તે ભારતીય કાયદા અને માર્ગદર્શિકાઓનું સંપૂર્ણ પાલન કરે છે અને ભારત તેના માટે એક મહત્વપૂર્ણ બજાર છે. કંપનીએ ભ્રામક માહિતી, અશ્લીલ સામગ્રી અને બિન-સહમતિપૂર્ણ જાતીય છબીઓ સામે કડક નીતિઓ અમલમાં હોવાનો દાવો પણ કર્યો છે.
આ સમગ્ર ઘટનાક્રમ બાદ સોશિયલ મીડિયા પર AI ટૂલ્સના દુરુપયોગ અને કન્ટેન્ટ નિયંત્રણને લઈને ફરી એકવાર ચર્ચા તેજ બની છે.
