આર્ટિફિશિયલ ઈન્ટેલિજન્સ (AI) દ્વારા જનરેટ થતા ડીપ ફેક વીડિયો (deepfake Video) અને કન્ટેન્ટ પર પ્રતિબંધ મૂકવા માટે મોદી સરકાર ડિજિટલ ઈન્ડિયા બિલ લાવવા જઈ રહી છે. મીડિયા અહેવાલ મુજબ આ બિલમાં AI ટેક્નોલોજીના વધુ સારા ઉપયોગ અને પદ્ધતિઓ વિશે ચર્ચા કરવામાં આવશે. સૂત્રોના જણાવ્યા અનુસાર સરકાર આ બિલ માટે વિપક્ષી પાર્ટીઓનું સમર્થન મેળવવાનો પણ પ્રયાસ કરશે. જણાવી દઈએ કે દેશમાં અભિનેત્રી રશ્મિકા મંદાના, સચિન તેંડુલકર, ગૃહમંત્રી અમિત શાહ, આલિયા ભટ્ટ ઉપરાંત અનેક લોકોના ડીપફેક વીડિયો સામે આવ્યા છે જે બાબતને સરકારે ગંભીરતાથી લીધી છે.
24 જૂનથી શરૂ થઈ રહેલા 18મી લોકસભાના પ્રથમ સત્રમાં સૌથી પહેલા નવા સાંસદોના શપથ ગ્રહણ અને રાષ્ટ્રપતિનું સંબોધન થશે. સરકાર આ સત્રમાં સંપૂર્ણ બજેટ પણ રજૂ કરશે. સૂત્રોના જણાવ્યા અનુસાર સત્રમાં બજેટ સિવાય ડિજિટલ ઈન્ડિયા બિલ પર પણ ચર્ચા થઈ શકે છે. આ બિલમાં સોશિયલ મીડિયા પર રિલીઝ થયેલા વીડિયોને નિયંત્રિત કરવાની જોગવાઈ પર પણ ચર્ચા થઈ શકે છે.
PM નરેન્દ્ર મોદીએ 28 માર્ચે માઈક્રોસોફ્ટના કો-ફાઉન્ડર બિલ ગેટ્સને આપેલા ઈન્ટરવ્યુમાં ડીપ ફેક વીડિયોના જોખમ વિશે જણાવ્યું હતું. મોદીએ કહ્યું હતું કે AI સારી બાબત છે પરંતુ જો તે યોગ્ય તાલીમ વિના કોઈને આપવામાં આવે તો તેનો દુરુપયોગ થવાની સંભાવના છે. મોદીએ કહ્યું કે ભારત જેવા લોકતાંત્રિક દેશમાં કોઈ પણ વ્યક્તિ ડીપફેકનો ઉપયોગ કરી શકે છે. તેથી AI જનરેટેડ કન્ટેન્ટ પર વોટરમાર્ક હોવો જોઈએ જેથી લોકોને ખબર પડે કે તે AI જનરેટેડ છે. આનાથી કોઈ ગેરમાર્ગે દોરાશે નહીં.
ડીપફેકને રોકવા માટે કેન્દ્રીય IT મંત્રાલયે ચૂંટણી પહેલા જાન્યુઆરીમાં જ નવા નિયમો તૈયાર કર્યા હતા. આ અનુસાર નવા નિયમોનું ઉલ્લંઘન કરનાર કોઈપણ સોશિયલ મીડિયા પ્લેટફોર્મને ભારતમાં બિઝનેસ કરવાથી રોકી દેવામાં આવશે. આઈટી મંત્રાલયે કહ્યું હતું કે 17 જાન્યુઆરીએ સોશિયલ મીડિયા પ્લેટફોર્મ અને અન્ય હિતધારકો વચ્ચે બે બેઠકો યોજાઈ હતી. એવું નક્કી કરવામાં આવ્યું હતું કે સોશિયલ મીડિયા પ્લેટફોર્મ એઆઈ દ્વારા ડીપફેક સામગ્રીને ફિલ્ટર કરવા માટે કામ કરશે. ડીપફેક કન્ટેન્ટ પોસ્ટ કરનારાઓ સામે IPC અને IT એક્ટની કલમો હેઠળ કેસ નોંધવામાં આવશે.
ગયા વર્ષે તત્કાલિન IT રાજ્ય મંત્રી રાજીવ ચંદ્રશેખરે કહ્યું હતું કે સરકાર સોશિયલ મીડિયાના વીડિયો અને નકલી વીડિયોને નિયંત્રિત કરવા માટે બિલ લાવવાની તૈયારી કરી રહી છે. તેમણે ફાઇનાન્શિયલ એક્સપ્રેસ ડિજીફંડ એન્ડ સેફ્ટી સમિટમાં કહ્યું હતું કે આ બિલ પર લાંબી ચર્ચાની જરૂર છે જેમાં સમય લાગી શકે છે. ચૂંટણી પહેલા તેને સંસદમાં લાવવું શક્ય જણાતું નથી.
જણાવી દઈએ કે 27 એપ્રિલે અમિત શાહનો એક નકલી વીડિયો સોશિયલ મીડિયા પર વાયરલ થયો હતો. તે તેલંગાણા કોંગ્રેસ અને સીએમ રેવંત રેડ્ડીએ શેર કર્યો હતો. આ વીડિયો માં અમિત શાહ એસસી-એસટી અને ઓબીસીના આરક્ષણને ખતમ કરવાની વાત કરતા જોવા મળે છે. પીટીઆઈના ફેક્ટ ચેક યુનિટે કહ્યું કે મૂળ વીડિયોમાં અમિત શાહે તેલંગાણામાં મુસ્લિમો માટે ગેરબંધારણીય અનામત હટાવવાની વાત કરી હતી.
ગયા વર્ષે નવેમ્બરમાં અભિનેત્રી રશ્મિકા મંદાનાનો એક ડીપફેક વીડિયો સોશિયલ મીડિયા પર વાયરલ થયો હતો જેમાં રશ્મિકાના ચહેરાને AI ટેક્નોલોજીનો ઉપયોગ કરીને પ્રભાવકના ચહેરા પર મોર્ફ કરવામાં આવ્યો હતો. સોશિયલ મીડિયા પર હજારો લોકોએ રશ્મિકાના આ નકલી વિડિયોને રિયલ ગણાવ્યો કારણ કે તેમાં ચહેરાના હાવભાવ એકદમ વાસ્તવિક દેખાતા હતા.
ડીપફેક શું છે અને તે કેવી રીતે બને છે?
કોઈ બીજાના ચહેરા, અવાજ અને અભિવ્યક્તિને વાસ્તવિક વિડિયો, ફોટો અથવા ઓડિયોમાં ફીટ કરવાને ડીપફેક કહેવાય છે. આ એટલું સ્પષ્ટ રીતે થાય છે કે કોઈપણ તેના પર વિશ્વાસ કરી શકે છે. આમાં નકલી પણ અસલી જેવું લાગે છે. આમાં મશીન લર્નિંગ અને આર્ટિફિશિયલ ઈન્ટેલિજન્સનો ઉપયોગ કરવામાં આવે છે. જેમાં ટેક્નોલોજી અને સોફ્ટવેરની મદદથી વીડિયો અને ઓડિયો બનાવવામાં આવે છે. વર્તમાન ટેકનોલોજીમાં અવાજમાં પણ સુધારો થયો છે. આમાં વૉઇસ ક્લોનિંગ ખૂબ જ ખતરનાક બની ગયું છે.
