ઓપનએઆઈ દ્વારા તેનું નવું ટેક્સ્ટ-ટુ-વિડિયો ટૂલ ‘સોરા’બહાર પાડવામાં આવ્યું છે જે ૬૦ સેકન્ડનો કલ્પના આધારિત વાસ્તવિક વિડીયો બનાવી શકે છે, જેને લઈને મૂવી નિર્માતાઓથી લઈને વિશ્લેષકો ચિંતામાં મુકાયા છે. આનો વિકૃત કલ્પનાઓ ધરાવતા લોકો દુરુપયોગ કરી શકે છે. ઉમેદવારો આનો ઉપયોગ ચૂંટણી દરમિયાન અત્યંત વાસ્તવિક ડીપફેક બનાવવા, મતદારોને મૂંઝવણમાં મૂકવા અથવા ગેરમાર્ગે દોરવા અથવા ફક્ત વિભાજનકારી અફવાઓ ફેલાવીને અરાજકતા ફેલાવવા માટે કરી શકે છે.
રેગ્યુલેટર્સ અને સોશ્યલ મિડિયા પ્લેટફોર્મ પહેલેથી જ AI-જનરેટેડ ડિસઇન્ફર્મેશન સામે મથી રહ્યા છે. સ્લોવાકિયાની ચૂંટણીને રાજકીય નેતાઓના બનાવટી ઑડિયોએ પ્રભાવિત કરી હોવાનું કહેવાય છે. રાજકારણીઓ અને નાગરિકો માટે ચિંતાનો વિષય છે કે જેમ જેમ આ ટેક્નોલૉજી વધુ ને વધુ અત્યાધુનિક બનતી જશે તેમ તેમ વાસ્તવિક શું છે અને નકલી શું છે તે કહેવું પહેલાં કરતાં વધુ મુશ્કેલ બનશે. પોલિટિકલ ડિસઇન્ફોર્મેશન અને AIના નિષ્ણાતો કહે છે કે સોશ્યલ મિડિયા પહેલાંથી જ દારૂગોળો ભરેલા શસ્ત્રાગાર જેવું છે, જેમાં એક તણખો વિસ્ફોટ કરી શકે છે. આમાં હવે AIનો ઉમેરો થયો છે. આજે પણ સોશ્યલ મિડિયા પ્લેટફોર્મનું નિયમન કેવી રીતે કરવું તે એક વણઉકેલાયેલ પ્રશ્ન છે.
મિડજર્ની, ઓપનએઆઈ અને માઈક્રોસોફ્ટ સહિત જનરેટિવ AI ઈમેજ મેકર્સ ઓફર કરતી કેટલીક કંપનીઓનું કહેવું છે કે તેમની નીતિઓ વપરાશકર્તાઓને ગેરમાર્ગે દોરતાં ચિત્રો જનરેટ કરવાથી અટકાવશે. જો કે આવી નીતિઓ લાગુ કરવામાં આવી રહી નથી. અમેરિકાના પ્રમુખ જો બિડેનની હોસ્પિટલની નકલી ફોટોરિયાલિસ્ટિક તસવીરો અથવા મેક્સિકન બોર્ડર ક્રોસ કરનારાઓને શુભેચ્છા પાઠવતી તેમની તસવીરો ચૂંટણીને પ્રભાવિત કરવાના આશય સાથે બહાર પાડવામાં આવી હતી. ઉલ્લેખનીય છે કે ભૂતપૂર્વ રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે ૨૦૨૦ની ચૂંટણીનાં પરિણામો સાથે છેડછાડ કરવામાં આવી હોવાનો આરોપ લગાવ્યો હતો. નકલી ફોટાઓનો ઉપયોગ ચૂંટણીમાં છેતરપિંડીના ખોટા દાવાઓને સમર્થન આપવા માટે થઈ શકે છે.
સોશ્યલ મિડિયા ડિસઇન્ફોર્મેશન નિષ્ણાતો કહે છે કે AIના નિયમનની જે વાતચીતો ચાલી રહી છે તેમાં કોઈ સ્પષ્ટતા નથી જોવા મળી રહી. અગાઉ પણ સોશ્યલ મિડિયા પર ખોટી માહિતી ફેલાતી રોકવા મોટી ટેક કંપનીઓએ પગલાં લેવાનું વચન આપ્યું હતું પરંતુ સમસ્યા આજે પણ યથાવત્ છે. આ વર્ષે યુરોપિયન યુનિયન, યુકે, ભારત અને યુએસમાં ચૂંટણીઓ યોજાવાની છે ત્યારે બિગ ટેક કંપનીઓએ ફરી એક વાર તેમના પ્લેટફોર્મ પર આ પ્રકારની ગેરમાહિતીના પ્રસારને ઘટાડવાનું વચન આપ્યું છે. ફેબ્રુઆરીના અંતમાં, ફેસબુક અને ઇન્સ્ટાગ્રામના માલિક મેટાએ યુરોપિયન સંસદની ચૂંટણી દરમિયાન ખોટી માહિતીને ઘટાડવાના હેતુથી શ્રેણીબદ્ધ પગલાંની જાહેરાત કરી હતી. તેમાં ફેક્ટ-ચેકિંગ સંસ્થાઓ સાથે ભાગીદારી થકી AI-જનરેટેડ અથવા મેનિપ્યુલેટેડ સામગ્રીને ચેક કરવાની વાત કરી છે.
અનિયંત્રિત AI અને અનિયંત્રિત સોશ્યલ મિડિયાનો સંગમ નાગરિક સમાજ માટે ચિંતાનો વિષય છે, કારણ કે ઘણા મોટા સોશ્યલ મિડિયા પ્લેટફોર્મ્સ પાસે અયોગ્ય અને ખોટી માહિતી, અપ્રિય ભાષણ અને અન્ય હાનિકારક સામગ્રી પર નજર રાખવા કોઈ સિસ્ટમ જ નથી. ૨૦૨૨માં એલોન મસ્ક દ્વારા ટ્વિટરનો ચાર્જ સંભાળવા ખોટી માહિતીનું નિયમન કરનાર લગભગ ત્રીજા ભાગનો સ્ટાફ ઘટાડી દીધો છે.
આજે ચૂંટણીમાં ખોટી માહિતી ફેલાવનારાઓ પાસે નવાં નવાં સાધનો અને ક્ષમતાઓ ઉપલબ્ધ છે, ત્યારે ઘણી સોશ્યલ મિડિયા કંપનીઓ આવી અશુદ્ધિઓને ગાળવા માટેની ક્ષમતાઓ જાણીજોઈને મર્યાદિત કરે છે, જે ખરેખર ચિંતાજનક વલણ છે. ચૂંટણીનાં ચક્રો ગતિમાન થાય તે પહેલાં સોશ્યલ મિડિયા પર ડીપફેક્સ કેટલી હદે ફેલાઈ જશે તેની આગાહી કરવી મુશ્કેલ હશે. પરંતુ સંશોધકો કહે છે કે કેટલુંક નુકસાન પહેલાથી જ થઈ ચૂક્યું છે. AI ઇમેજ જનરેટર્સ ચૂંટણીની પ્રચાર ઝુંબેશને વધુ ખરાબ બનાવી શકે છે જે સામે આપણે ખૂબ સભાન રહેવું પડશે. આવનાર સમયમાં સોશ્યલ મિડિયા પ્લેટફોર્મ્સ સામે સખત પગલાંની જરૂર પડશે.
– આ લેખમાં પ્રગટ થયેલાં વિચારો લેખકનાં પોતાના છે.
ઓપનએઆઈ દ્વારા તેનું નવું ટેક્સ્ટ-ટુ-વિડિયો ટૂલ ‘સોરા’બહાર પાડવામાં આવ્યું છે જે ૬૦ સેકન્ડનો કલ્પના આધારિત વાસ્તવિક વિડીયો બનાવી શકે છે, જેને લઈને મૂવી નિર્માતાઓથી લઈને વિશ્લેષકો ચિંતામાં મુકાયા છે. આનો વિકૃત કલ્પનાઓ ધરાવતા લોકો દુરુપયોગ કરી શકે છે. ઉમેદવારો આનો ઉપયોગ ચૂંટણી દરમિયાન અત્યંત વાસ્તવિક ડીપફેક બનાવવા, મતદારોને મૂંઝવણમાં મૂકવા અથવા ગેરમાર્ગે દોરવા અથવા ફક્ત વિભાજનકારી અફવાઓ ફેલાવીને અરાજકતા ફેલાવવા માટે કરી શકે છે.
રેગ્યુલેટર્સ અને સોશ્યલ મિડિયા પ્લેટફોર્મ પહેલેથી જ AI-જનરેટેડ ડિસઇન્ફર્મેશન સામે મથી રહ્યા છે. સ્લોવાકિયાની ચૂંટણીને રાજકીય નેતાઓના બનાવટી ઑડિયોએ પ્રભાવિત કરી હોવાનું કહેવાય છે. રાજકારણીઓ અને નાગરિકો માટે ચિંતાનો વિષય છે કે જેમ જેમ આ ટેક્નોલૉજી વધુ ને વધુ અત્યાધુનિક બનતી જશે તેમ તેમ વાસ્તવિક શું છે અને નકલી શું છે તે કહેવું પહેલાં કરતાં વધુ મુશ્કેલ બનશે. પોલિટિકલ ડિસઇન્ફોર્મેશન અને AIના નિષ્ણાતો કહે છે કે સોશ્યલ મિડિયા પહેલાંથી જ દારૂગોળો ભરેલા શસ્ત્રાગાર જેવું છે, જેમાં એક તણખો વિસ્ફોટ કરી શકે છે. આમાં હવે AIનો ઉમેરો થયો છે. આજે પણ સોશ્યલ મિડિયા પ્લેટફોર્મનું નિયમન કેવી રીતે કરવું તે એક વણઉકેલાયેલ પ્રશ્ન છે.
મિડજર્ની, ઓપનએઆઈ અને માઈક્રોસોફ્ટ સહિત જનરેટિવ AI ઈમેજ મેકર્સ ઓફર કરતી કેટલીક કંપનીઓનું કહેવું છે કે તેમની નીતિઓ વપરાશકર્તાઓને ગેરમાર્ગે દોરતાં ચિત્રો જનરેટ કરવાથી અટકાવશે. જો કે આવી નીતિઓ લાગુ કરવામાં આવી રહી નથી. અમેરિકાના પ્રમુખ જો બિડેનની હોસ્પિટલની નકલી ફોટોરિયાલિસ્ટિક તસવીરો અથવા મેક્સિકન બોર્ડર ક્રોસ કરનારાઓને શુભેચ્છા પાઠવતી તેમની તસવીરો ચૂંટણીને પ્રભાવિત કરવાના આશય સાથે બહાર પાડવામાં આવી હતી. ઉલ્લેખનીય છે કે ભૂતપૂર્વ રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પે ૨૦૨૦ની ચૂંટણીનાં પરિણામો સાથે છેડછાડ કરવામાં આવી હોવાનો આરોપ લગાવ્યો હતો. નકલી ફોટાઓનો ઉપયોગ ચૂંટણીમાં છેતરપિંડીના ખોટા દાવાઓને સમર્થન આપવા માટે થઈ શકે છે.
સોશ્યલ મિડિયા ડિસઇન્ફોર્મેશન નિષ્ણાતો કહે છે કે AIના નિયમનની જે વાતચીતો ચાલી રહી છે તેમાં કોઈ સ્પષ્ટતા નથી જોવા મળી રહી. અગાઉ પણ સોશ્યલ મિડિયા પર ખોટી માહિતી ફેલાતી રોકવા મોટી ટેક કંપનીઓએ પગલાં લેવાનું વચન આપ્યું હતું પરંતુ સમસ્યા આજે પણ યથાવત્ છે. આ વર્ષે યુરોપિયન યુનિયન, યુકે, ભારત અને યુએસમાં ચૂંટણીઓ યોજાવાની છે ત્યારે બિગ ટેક કંપનીઓએ ફરી એક વાર તેમના પ્લેટફોર્મ પર આ પ્રકારની ગેરમાહિતીના પ્રસારને ઘટાડવાનું વચન આપ્યું છે. ફેબ્રુઆરીના અંતમાં, ફેસબુક અને ઇન્સ્ટાગ્રામના માલિક મેટાએ યુરોપિયન સંસદની ચૂંટણી દરમિયાન ખોટી માહિતીને ઘટાડવાના હેતુથી શ્રેણીબદ્ધ પગલાંની જાહેરાત કરી હતી. તેમાં ફેક્ટ-ચેકિંગ સંસ્થાઓ સાથે ભાગીદારી થકી AI-જનરેટેડ અથવા મેનિપ્યુલેટેડ સામગ્રીને ચેક કરવાની વાત કરી છે.
અનિયંત્રિત AI અને અનિયંત્રિત સોશ્યલ મિડિયાનો સંગમ નાગરિક સમાજ માટે ચિંતાનો વિષય છે, કારણ કે ઘણા મોટા સોશ્યલ મિડિયા પ્લેટફોર્મ્સ પાસે અયોગ્ય અને ખોટી માહિતી, અપ્રિય ભાષણ અને અન્ય હાનિકારક સામગ્રી પર નજર રાખવા કોઈ સિસ્ટમ જ નથી. ૨૦૨૨માં એલોન મસ્ક દ્વારા ટ્વિટરનો ચાર્જ સંભાળવા ખોટી માહિતીનું નિયમન કરનાર લગભગ ત્રીજા ભાગનો સ્ટાફ ઘટાડી દીધો છે.
આજે ચૂંટણીમાં ખોટી માહિતી ફેલાવનારાઓ પાસે નવાં નવાં સાધનો અને ક્ષમતાઓ ઉપલબ્ધ છે, ત્યારે ઘણી સોશ્યલ મિડિયા કંપનીઓ આવી અશુદ્ધિઓને ગાળવા માટેની ક્ષમતાઓ જાણીજોઈને મર્યાદિત કરે છે, જે ખરેખર ચિંતાજનક વલણ છે. ચૂંટણીનાં ચક્રો ગતિમાન થાય તે પહેલાં સોશ્યલ મિડિયા પર ડીપફેક્સ કેટલી હદે ફેલાઈ જશે તેની આગાહી કરવી મુશ્કેલ હશે. પરંતુ સંશોધકો કહે છે કે કેટલુંક નુકસાન પહેલાથી જ થઈ ચૂક્યું છે. AI ઇમેજ જનરેટર્સ ચૂંટણીની પ્રચાર ઝુંબેશને વધુ ખરાબ બનાવી શકે છે જે સામે આપણે ખૂબ સભાન રહેવું પડશે. આવનાર સમયમાં સોશ્યલ મિડિયા પ્લેટફોર્મ્સ સામે સખત પગલાંની જરૂર પડશે.
– આ લેખમાં પ્રગટ થયેલાં વિચારો લેખકનાં પોતાના છે.