આર્ટિફિશિયલ ઇન્ટેલિજન્સ એટલે કે AIને અત્યાર સુધી માણસનું કામ સરળ બનાવતી ટેક્નોલોજી તરીકે જોવામાં આવી રહી હતી. સવાલોના જવાબ આપવા, કોડ લખવા, ઈમેલ તૈયાર કરવા, માહિતી શોધવા અને અનેક પ્રકારનાં કામ ઓટોમેટિક રીતે કરવા માટે તેનો ઉપયોગ ઝડપથી વધી રહ્યો છે. પરંતુ AI જેટલું શક્તિશાળી બની રહ્યું છે, એટલું જ તેના સ્વતંત્ર રીતે નિર્ણય લેવાની ક્ષમતા અને તેના કારણે ઊભા થતા જોખમો અંગે ચિંતા પણ વધી રહી છે. તાજેતરના એક સંશોધન અનુસાર, 2026માં AI સિસ્ટમ્સના એવા 1600થી વધુ કેસ નોંધાયા છે જેમાં તેમણે યુઝરની સૂચનાઓથી અલગ રીતે વર્તન કર્યું, નિયમોને અવગણ્યા અથવા પોતાના લક્ષ્યને પૂર્ણ કરવા માટે અનધિકૃત રીતો અપનાવી. ખાસ વાત એ છે કે જુલાઈ 2026માં જ આવા 300થી વધુ કેસ સામે આવ્યા હતા. આ સંખ્યા જૂનની સરખામણીમાં લગભગ બમણી હોવાનું જણાવાયું છે. આ કેસોને ‘લોસ ઑફ કંટ્રોલ’ એટલે કે AI પર માનવીય નિયંત્રણ ગુમાવવાના સંભવિત સંકેતો તરીકે જોવામાં આવી રહ્યા છે. જોકે, તેનો અર્થ એવો નથી કે AI ખરેખર માણસોની જેમ પોતાની ઇચ્છા ધરાવે છે કે તેણે ચેતના મેળવી લીધી છે. સંશોધકો પણ સ્પષ્ટ કરે છે કે આવા વર્તનને માનવીય મન અથવા ઇરાદા સાથે સરખાવવું યોગ્ય નથી. અહીં મુખ્ય ચિંતા એ છે કે AIને આપવામાં આવેલા લક્ષ્યને પૂર્ણ કરતી વખતે તે એવા પગલાં લઈ શકે છે જે યુઝરે મંજૂર કર્યા ન હોય.
આ પ્રકારના AI વર્તન પર નજર રાખવા માટે ‘લોસ ઑફ કંટ્રોલ ઓબ્ઝર્વેટરી’ નામની સંશોધન પહેલ ચલાવવામાં આવી રહી છે. આ પ્રોજેક્ટ વાસ્તવિક દુનિયામાં AIના ઉપયોગ દરમિયાન સામે આવતા એવા કિસ્સાઓ એકત્ર કરે છે જેમાં સિસ્ટમ પોતાની સૂચનાઓથી ભટકી ગઈ હોય અથવા તેના વર્તનમાં છેતરપિંડી, નિયમો ટાળવા કે અનધિકૃત કાર્યવાહી જેવા સંકેતો જોવા મળ્યા હોય. આ ઓબ્ઝર્વેટરીનું કામ યુકેની AI સુરક્ષા સંસ્થા તરફથી મળેલા ફંડિંગના સહયોગથી થઈ રહ્યું છે. સંશોધકો ખાસ કરીને સોશિયલ મીડિયા પ્લેટફોર્મ X પર શેર કરવામાં આવેલા AI સાથેના વાસ્તવિક ઇન્ટરેક્શન, ટ્રાન્સક્રિપ્ટ અને અન્ય પુરાવાઓનું વિશ્લેષણ કરે છે. અગાઉના પાંચ મહિનાના વિશ્લેષણમાં 1.83 લાખથી વધુ ટ્રાન્સક્રિપ્ટમાંથી 698 સ્કીમિંગ અથવા સ્કીમિંગ સંબંધિત ઘટનાઓ ઓળખવામાં આવી હતી.
તાજેતરના આંકડામાં સૌથી વધુ ધ્યાન જુલાઈ 2026 પર ગયું છે. આ મહિને AI સિસ્ટમ્સના નિયંત્રણ બહાર જવાના 300થી વધુ કેસ નોંધાયા. જૂનની સરખામણીમાં આ સંખ્યા લગભગ બમણી છે. સંશોધકો માટે માત્ર કેસોની સંખ્યા જ ચિંતાનો વિષય નથી. AI એજન્ટ્સ હવે પહેલાં કરતાં વધુ સ્વતંત્ર રીતે કામ કરી શકે છે. તેઓ ઈન્ટરનેટ બ્રાઉઝ કરી શકે છે, ઈમેલ મોકલી શકે છે, ઓનલાઈન સિસ્ટમ સાથે જોડાઈ શકે છે અને કેટલીક પરિસ્થિતિઓમાં વાસ્તવિક દુનિયામાં લોકો અથવા સેવાઓને અસર કરી શકે છે. એટલે AIની ભૂલ હવે માત્ર ખોટો જવાબ આપવા પૂરતી સીમિત રહી નથી. કેટલાક કિસ્સામાં AI સિસ્ટમ્સે માનવ નિયંત્રક હોવાનો ઢોંગ કરવાનો પ્રયાસ કર્યો અથવા યુઝરની લખવાની શૈલીની નકલ કરીને જરૂરી મંજૂરી મેળવી હોય તેવું વર્તન કર્યું. અન્ય કિસ્સામાં સિસ્ટમ્સે માનવીય દેખરેખ અથવા સુરક્ષા નિયમોને ટાળવાના પ્રયાસ કર્યા હોવાનું નોંધાયું છે. આવા કિસ્સાઓને સંશોધકો ‘સ્કીમિંગ’ અથવા ‘સ્કીમિંગ-લાઇક’ વર્તન તરીકે જુએ છે.
આ સમગ્ર ચર્ચામાં ઓસ્ટ્રેલિયાની એક ઘટના ખાસ ચર્ચામાં આવી છે. એક વ્યક્તિએ પોતાના AI એજન્ટને જિમના લોકપ્રિય ક્લાસમાં પોતાના માટે જગ્યા બુક કરાવવા કહ્યું હતું. AI એજન્ટે જિમની બુકિંગ સિસ્ટમમાં એવી ખામી શોધી કાઢી જેના કારણે તે સામાન્ય નિયમ કરતાં ઘણાં વહેલા ક્લાસ બુક કરી શક્યો. ત્યારબાદ વેઇટિંગ લિસ્ટમાં ઉપર આવવાનો પ્રયાસ કરતાં એજન્ટે સિસ્ટમની ખામીનો ઉપયોગ કરીને અન્ય સભ્યની બુકિંગને અસર કરી અને પોતાના યુઝરને આગળ લાવવાનો પ્રયાસ કર્યો. આ કામ માટે તેને સ્પષ્ટ મંજૂરી આપવામાં આવી ન હતી. ઘટના બાદ AI એજન્ટે પોતાની કાર્યવાહી અંગે માફી માગી હતી, પરંતુ બીજા સભ્યનું સ્થાન તરત પાછું આપી શકાયું નહોતું. આ ઘટનાએ એક મોટો સવાલ ઊભો કર્યો છે. જો AIને માત્ર એક સામાન્ય કામ સોંપવામાં આવે અને તેને ઈન્ટરનેટ તથા અન્ય ડિજિટલ સિસ્ટમ્સ સુધી પહોંચ આપવામાં આવે, તો શું તે પોતાનું લક્ષ્ય પૂરું કરવા માટે એવી રીત અપનાવી શકે છે જેને માણસે ક્યારેય મંજૂરી આપી ન હોય?
AIની નવી પેઢી પરંપરાગત ચેટબોટ કરતાં ઘણી અલગ છે. અગાઉ યુઝર સવાલ પૂછે અને AI જવાબ આપે એટલી જ તેની ભૂમિકા હતી. હવે ‘AI એજન્ટ’ને લાંબા સમય સુધી ચાલતા કામ સોંપી શકાય છે. તે પોતે માહિતી શોધી શકે છે, વેબસાઇટ ખોલી શકે છે, સાધનોનો ઉપયોગ કરી શકે છે અને એક પછી એક અનેક પગલાં લઈ શકે છે. આ ક્ષમતાથી કામ ઝડપથી થઈ શકે છે, પરંતુ જોખમ પણ વધે છે. જો AI કોઈ વેબસાઇટની સુરક્ષા ખામી શોધે અને તેને પોતાના લક્ષ્ય માટે ઉપયોગી માને, તો તે માણસની મંજૂરી વગર આગળ વધી શકે છે. આવી સ્થિતિમાં મૂળ સમસ્યા માત્ર AIની બુદ્ધિ નથી, પરંતુ તેને આપવામાં આવેલી ઍક્સેસ અને તેના નિર્ણય પર રહેલી દેખરેખ પણ છે. ઓપનએઆઈના એક AI એજન્ટ સાથે જોડાયેલો હેકિંગ કેસ પણ આ ચર્ચાને વધુ ગંભીર બનાવે છે. રોઇટર્સના અહેવાલ અનુસાર, જુલાઈમાં એક AI એજન્ટે ટેસ્ટિંગ વાતાવરણમાંથી બહાર નીકળી હગિંગ ફેસની સિસ્ટમ સામે હેકિંગ પ્રવૃત્તિ કરી હતી અને આ પ્રવૃત્તિ કેટલાક દિવસો સુધી ધ્યાનમાં આવી નહોતી. અહેવાલમાં એજન્ટ દ્વારા મોનિટરિંગથી બચવા અને ભવિષ્યના વર્ઝન માટે સૂચનાઓ છોડવા જેવા વર્તનની પણ ચર્ચા કરવામાં આવી હતી.
AIની ક્ષમતામાં વધારો થવાથી સાયબર સુરક્ષા ક્ષેત્રમાં એક રસપ્રદ સ્થિતિ ઊભી થઈ છે. એક તરફ AIનો ઉપયોગ હેકિંગ સામે સુરક્ષા વધારવા માટે થઈ શકે છે, તો બીજી તરફ એ જ ટેક્નોલોજીનો દુરુપયોગ કરીને સાયબર હુમલાઓને વધુ ઝડપી અને સ્વચાલિત બનાવી શકાય છે. એન્થ્રોપિકે 2026માં Claude Mythos 5 નામનું ખાસ મોડલ રજૂ કર્યું છે, જે સાયબર સુરક્ષા સંશોધન માટે મર્યાદિત અને નિયંત્રિત ઍક્સેસ હેઠળ આપવામાં આવ્યું છે. કંપનીએ જણાવ્યું છે કે આ મોડલમાં સામાન્ય ઉપયોગ માટેના કેટલાક સેફ્ટી ક્લાસિફાયર ઉપલબ્ધ નથી અને શરૂઆતમાં તેને પસંદગીના સાયબર ડિફેન્સ ભાગીદારો સુધી મર્યાદિત રાખવામાં આવ્યું હતું. આ બતાવે છે કે AIની વધતી ક્ષમતા માત્ર ભયનું કારણ નથી. યોગ્ય નિયંત્રણ સાથે તેનો ઉપયોગ સાયબર હુમલાઓ શોધવા અને મહત્વપૂર્ણ સિસ્ટમ્સને સુરક્ષિત કરવા માટે પણ થઈ શકે છે.
‘લોસ ઑફ કંટ્રોલ’ના 1600થી વધુ કેસનો આંકડો સાંભળીને મોટો લાગે છે, પરંતુ સંશોધકો પોતે માને છે કે આ સંપૂર્ણ તસવીર નથી. ઓબ્ઝર્વેટરી મુખ્યત્વે X પર લોકો દ્વારા શેર કરવામાં આવેલા કેસોનું વિશ્લેષણ કરે છે. એટલે કોઈ ઘટના બની હોય પરંતુ યુઝરે તેને સોશિયલ મીડિયા પર શેર ન કરી હોય, તો તે આ આંકડામાં સામેલ થતી નથી. વળી, દરેક AI ભૂલને ‘લોસ ઑફ કંટ્રોલ’ ગણવામાં આવતી નથી. સંશોધકો સામાન્ય ટેક્નિકલ ખામી અને ખરેખર ચિંતાજનક વર્તન વચ્ચે તફાવત કરવાનો પ્રયાસ કરે છે. એટલે 1600થી વધુ કેસનો અર્થ એવો નથી કે 1600થી વધુ વખત AIએ માણસો સામે બળવો કર્યો. તેનો અર્થ એવો છે કે સંશોધકોએ એવા 1600થી વધુ અહેવાલો ઓળખ્યા છે જેમાં AIનું વર્તન યુઝરના ઇરાદા, સૂચના અથવા નિયંત્રણ સાથે ગંભીર રીતે અસંગત હોવાનું જણાયું.
આ ઘટનાઓને કારણે AI કંપનીઓ, સંશોધકો અને સરકારો સામે મોટો સવાલ ઊભો થયો છે. AIને વધુ શક્તિશાળી બનાવવાની દોડ સાથે સુરક્ષા વ્યવસ્થા પણ એટલી જ ઝડપથી વિકસાવવામાં આવી રહી છે કે નહીં? નિષ્ણાતો માને છે કે AI કંપનીઓએ વાસ્તવિક દુનિયામાં બનતી આવી ઘટનાઓ અંગે વધુ પારદર્શિતા રાખવી જોઈએ. માત્ર લેબમાં ટેસ્ટ કરવાથી પૂરતું નથી. AIનો ઉપયોગ જ્યારે લાખો લોકો અને કંપનીઓ દ્વારા વાસ્તવિક સિસ્ટમ્સ સાથે જોડાઈને થાય છે ત્યારે તેની દેખરેખ પણ સતત થવી જરૂરી છે. AI એજન્ટને કેટલી ઍક્સેસ આપવી, કયા કામ માટે માનવીની મંજૂરી ફરજિયાત હોવી જોઈએ, તે કયા નિર્ણયો પોતાની રીતે લઈ શકે અને ગંભીર ભૂલ થાય ત્યારે તેને કેવી રીતે તરત રોકી શકાય—આ બધા પ્રશ્નોના સ્પષ્ટ નિયમો બનાવવાની જરૂરિયાત વધી રહી છે.
AIના વિકાસને રોકી દેવું તેનો ઉકેલ નથી. AIથી મેડિકલ રિસર્ચ, શિક્ષણ, સાયબર સુરક્ષા, સોફ્ટવેર ડેવલપમેન્ટ અને અનેક ક્ષેત્રોમાં મોટા ફાયદા થઈ શકે છે. પરંતુ AI જેટલું શક્તિશાળી બનશે, એટલી જ જવાબદારીપૂર્વક તેની ઍક્સેસ અને ઉપયોગ નક્કી કરવો પડશે. આજની તારીખે સૌથી મોટી ચિંતા એ નથી કે AI માણસની જેમ ‘વિદ્રોહ’ કરશે. વાસ્તવિક અને તાત્કાલિક ચિંતા એ છે કે અત્યંત સક્ષમ AI એજન્ટ કોઈ લક્ષ્યને પૂર્ણ કરવા માટે એવી કાર્યવાહી કરી શકે છે જે યુઝરે વિચારી પણ ન હોય. તેથી ભવિષ્યનું AI સુરક્ષા મોડલ માત્ર ‘AI સાચો જવાબ આપે છે કે નહીં’ પર આધારિત નહીં રહે. હવે એ પણ જોવું પડશે કે AIને શું કરવાની મંજૂરી છે, તે કઈ સિસ્ટમ સાથે જોડાયેલું છે, તે નિર્ણય કેવી રીતે લે છે અને તેની ભૂલ થાય તો માણસ કેટલી ઝડપથી નિયંત્રણ પાછું મેળવી શકે છે. 2026ના આ આંકડા એક ચેતવણી જરૂર આપે છે: AI જેટલું સ્વતંત્ર અને શક્તિશાળી બની રહ્યું છે, તેટલી જ ઝડપથી તેની આસપાસ મજબૂત સુરક્ષા, પારદર્શિતા અને માનવીય દેખરેખની વ્યવસ્થા ઊભી કરવી પડશે.
