માઇક્રોબ્લોગિંગ પ્લેટફોર્મ X (અગાઉનું ટ્વિટર) ફરી એકવાર વિવાદમાં સપડાયું છે. આ વખતે તે પોતાની AI ચેટબોટ ‘ગ્રોક’ (Grok) સાથે જોડાયેલી અશ્લીલ સામગ્રી અંગે વિવાદમાં છે. અનેક મોટી આઇટી કંપનીઓએ પોત પોતાની એઆઇ ચેટબોટ વિકસાવી છે, તે રીતે એક્સે પોતાની એઆઇ ચેટબોટ વિકસાવી છે જેને ગ્રોક નામ આપ્યું છે. ટ્વીટરના નવા માલિક ઇલોન મસ્ક આમ પણ એક વિવાદી વ્યક્તિ રહ્યા છે. તેમણે ટ્વીટર ખરીદ્યું ત્યારથી આ ટ્વીટર પણ વિવાદમાં છે.
ટ્વીટરને મસ્કે X નામ આપ્યું, જે આમ તો બહુ શોભતું નથી. હાલમાં એક નવો વિવાદ ત્યારે ઉભો થયો જ્યારે બહાર આવ્યું કે એક્સની એઆઇ ચેટબોટ પર ઇમેજ ટુલ્સમાં એવી સગવડ છે કે તે કોઇ પણ વ્યક્તિની છબી સાથે ચેડા કરી શકે છે અને તે પણ તેની સંમતિ વિના. લોકોની છબીને બદલીને તેમને નિ:વસ્ત્ર પણ આ ટુલ્સ બતાવી શકે છે! આ ભયંકર છે. અનેક લોકોએ આનો દુરુપયોગ શરૂ કર્યો. ખાસ કરીને મહિલાઓની તસવીરો સાથે ચેડા કરવા અનેક પ્રેરાય તે સ્વાભાવિક હતું. એક્સ પર અશ્લીલ સામગ્રીની ભરમાર થઇ ગઇ.
અનેક યુઝરો એઆઇ ગ્રોકનો દુરુપયોગ કરીને ફેક એકાઉન્ટો બનાવીને તેમાં ખાસ કરીને મહિલાઓ માટે અપમાનજનક એવી અશ્લીલ સામગ્રીનો સંગ્રહ કરવા માંડ્યા. અનેક દેશોમાં ઉહાપોહ શરૂ થયો. ભારત સરકારે લાલ આંખ કરીને એક્સને આવી સામગ્રી દૂર કરવા એક્સને અલ્ટીમેટમ આપ્યું. છેવટે એક્સે પોતાની ભૂલ સ્વીકારી છે અને લગભગ 3,500 પોસ્ટ્સ હટાવી દીધી છે અને 600 થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે, તેમ રવિવારે સરકારી સૂત્રોએ જણાવ્યું હતું.
X એ સત્તાવાળાઓને ખાતરી આપી છે કે તે ભારતીય કાયદાઓનું પાલન કરશે. આ કાર્યવાહી એવા સમયે કરવામાં આવી છે જ્યારે વિશ્વભરની સરકારો તરફથી ‘ગ્રોક’ પર દબાણ વધી રહ્યું છે. છેલ્લા કેટલાક દિવસોથી X પર ફેલાયેલી અશ્લીલ અને સંમતિ વિનાની જાતીય સામગ્રી તેમજ ડેટા સુરક્ષાને લઈને નિયમનકારોએ જનરેટિવ AI એન્જિનની તપાસ તેજ કરી છે. ભારતીય સરકારી સૂત્રોના જણાવ્યા અનુસાર, X એ પોતાની ભૂલ સ્વીકારી છે અને ભારતીય કાયદાઓનું પાલન કરવાની ખાતરી આપી છે.
તે મુજબ, તેણે લગભગ 3,500 કન્ટેન્ટ બ્લોક કર્યા છે અને 600 થી વધુ એકાઉન્ટ્સ ડિલીટ કર્યા છે. સૂત્રોએ જણાવ્યું કે કંપનીએ એવી પણ ખાતરી આપી છે કે હવે પછી તે પ્લેટફોર્મ પર અશ્લીલ સામગ્રીને મંજૂરી આપશે નહીં. ગયા રવિવારે, X ના ‘સેફ્ટી’ હેન્ડલ પરથી કહેવામાં આવ્યું હતું કે તે તેના પ્લેટફોર્મ પર ચાઈલ્ડ સેક્સ્યુઅલ એબ્યુઝ મટીરીયલ (CSAM) સહિતની ગેરકાયદેસર સામગ્રી સામે કાર્યવાહી કરે છે, જેમાં સામગ્રી હટાવવી, એકાઉન્ટ્સ કાયમી ધોરણે સ્થગિત કરવા અને સ્થાનિક સરકારો તેમજ કાયદા અમલીકરણ એજન્સીઓ સાથે મળીને કામ કરવાનો સમાવેશ થાય છે.
એક્સે પોતાના ઇમેજ એડિટીંગના ટુલ્સ માત્ર પેઇડ યુઝરો માટે મર્યાદિત કર્યા છે પરંતુ નિષ્ણાતો કહે છે કે આનાથી તેના દુરુપયોગ પર નિયંત્રણ આવશે નહીં. તેમની વાત સાચી છે, હજી પેઇંગ યુઝરો તો આનો દુરુપયોગ કરી જ શકે છે. xAI ના ચેટબોટ ‘ગ્રોક’ પર યુઝર પ્રોમ્પ્ટ્સ દ્વારા ઈમેજીસના ‘ડિજિટલ અનડ્રેસિંગ’ (અશ્લીલ છેડછાડ) ને કારણે X વિશ્વભરમાં ટીકાઓનો સામનો કરી રહ્યું છે.
યુરોપ અને એશિયા સહિત વિશ્વભરની સરકારોએ X ને ચેતવણી આપી છે કે જો પ્લેટફોર્મ ઓનલાઈન સુરક્ષાના નિયમોનું પાલન કરવામાં નિષ્ફળ જશે તો તેણે ગંભીર પરિણામો ભોગવવા પડશે. ભારત ઉપરાંત, યુકે (બ્રિટન) અને યુરોપિયન યુનિયન (EU) એ પણ ‘ગ્રોક’ ડીપફેક ઈમેજ વિવાદ મામલે ‘X’ પર દબાણ વધાર્યું છે. બ્રિટિશ વડાપ્રધાન કીર સ્ટારમરે આ બાબતને ઘૃણાસ્પદ ગણાવી છે, જ્યારે અહેવાલો અનુસાર યુરોપિયન કમિશને ‘X’ ને AI ચેટબોટ ગ્રોક સાથે સંબંધિત તમામ દસ્તાવેજો લાંબા સમય સુધી સાચવી રાખવા જણાવ્યું છે.
યુકેના સ્વતંત્ર સંચાર નિયામક, Ofcom એ તાજેતરમાં એક સોશિયલ મીડિયા પોસ્ટમાં જણાવ્યું હતું કે અમે ‘X’ પર ગ્રોકની એ વિશેષતા (ફીચર) અંગે ઉઠાવવામાં આવેલી ગંભીર ચિંતાઓથી વાકેફ છીએ જે લોકોની નગ્ન તસવીરો અને બાળકોની જાતીય તસવીરો બનાવે છે. Ofcom એ વધુમાં ઉમેર્યું હતું કે યુકેમાં યુઝર્સની સુરક્ષા માટેની તેમની કાયદેસરની ફરજોનું પાલન કરવા માટે તેમણે કેવા પગલાં લીધાં છે તે સમજવા માટે અમે ‘X’ અને ‘xAI’ સાથે તાત્કાલિક સંપર્ક કર્યો છે.
તેમના પ્રતિસાદના આધારે, અમે ઝડપી મૂલ્યાંકન કરીશું કે શું ત્યાં પાલન સંબંધિત એવી કોઈ ખામીઓ છે કે જેમાં તપાસની જરૂર હોય. આ અઠવાડિયા દરમિયાન, ત્રણ ડેમોક્રેટિક યુએસ સેનેટરોએ એક ખુલ્લા પત્રમાં એપલ (Apple) અને ગૂગલ (Google) ને વિનંતી કરી છે કે તેઓ સેવાની શરતોનું ઉલ્લંઘન કરવા બદલ તેમના એપ સ્ટોર્સ પરથી ‘X’ અને ‘ગ્રોક’ ને સસ્પેન્ડ કરે. બીજા બધા પગલા લેવા કરતા ખરેખર તો આવી કોઇ પણ કંપનીને અશ્લીલ સામગ્રીનું સર્જન થાય કે તેનો ફેલાવો થાય તેવા કોઇ પણ ટુલ્સ અને અનુકૂળતાઓ યુઝરોને પુરી પાડતા રોકવા વિશ્વના દેશોની સરકારોએ કડક કાયદાઓ ઘડવાની જરૂર છે.
