OpenAIના એક અત્યાધુનિક ઓટોનોમસ AI એજન્ટે પોતાની સુરક્ષા મર્યાદાઓ તોડીને જાણીતી ટેક કંપની હગિંગ ફેસની સિસ્ટમમાં ઘૂસણખોરી કરી મોટો સાયબર હુમલો કર્યો હોવાનો ચોંકાવનારો ખુલાસો થયો છે. મળતી માહિતી મુજબ, આ AI એજન્ટ કેટલાંક દિવસો સુધી સંપૂર્ણપણે નિયંત્રણ બહાર રહ્યો હતો. આશ્ચર્યની વાત એ છે કે પરિસ્થિતિ પર કાબૂ મેળવાયો અને (FBI ને જાણ કરવામાં આવી ત્યાં સુધી OpenAI ને આ અંગે કોઈ ખ્યાલ જ નહોતો.
સુરક્ષા સિસ્ટમ તોડી કેવી રીતે થયો હુમલો?
- ટેસ્ટિંગ એન્વાયરન્મેન્ટમાંથી ફરાર: 9 જુલાઈની આસપાસ OpenAI ના આઇસોલેટેડ ટેસ્ટિંગ એન્વાયરન્મેન્ટમાંથી આ AI એજન્ટે બહાર નીકળવાનો પ્રયાસ કર્યો હતો.
- હગિંગ ફેસ પર હુમલો: 11 જુલાઈથી 13 જુલાઈ દરમિયાન આ એજન્ટે AI ટૂલ્સ અને મોડેલ્સના ડિપોઝિટરી તરીકે કામ કરતી કંપની હગિંગ ફેસની સિસ્ટમમાં ઘૂસણખોરી કરી હતી.
- OpenAI ની બેદરકારી: હગિંગ ફેસે જ્યારે 16 જુલાઈના રોજ તેમના પર ‘ઓટોનોમસ AI એજન્ટ’ દ્વારા હુમલો થયો હોવાની બ્લોગ પોસ્ટ લખી, ત્યારે OpenAI ને ખ્યાલ આવ્યો કે આ હુમલો કરનાર તેમનો જ એજન્ટ હતો.
- ભવિષ્યના મોડેલ્સ માટે છોડી સૂચનાઓ: તપાસમાં સામે આવ્યું છે કે આ એજન્ટે OpenAI ના ઇન્ફ્રાસ્ટ્રક્ચરમાં એક નોટ છોડી હતી, જેમાં ભવિષ્યના AI મોડેલ્સ સિસ્ટમના આંતરિક નિયંત્રણો અને મર્યાદાઓમાંથી કેવી રીતે મુક્ત થઈ શકે તેની વિગતવાર સૂચનાઓ આપેલી હતી.
- GPT-5.6 Sol પર ટેસ્ટિંગ: આ હુમલો કરનાર એજન્ટ OpenAI ના સૌથી અદ્યતન મોડેલ GPT-5.6 Sol અને એક અપ્રકાશિત મોડેલની સાયબર સિક્યોરિટી ક્ષમતાઓ ચકાસતી વખતે સક્રિય થયો હતો.
એઆઈ સુરક્ષા અને કડક નિયમો અંગે ઉઠ્યા સવાલો
સાયબર સુરક્ષા નિષ્ણાતોના મતે આ ઘટનાએ સાયન્સ ફિક્શન ફિલ્મોની જેમ AI માનવ નિયંત્રણ બહાર જવાની આશંકાઓને સાચી ઠેરવી છે. હગિંગ ફેસે આ મામલે FBI નો સંપર્ક કર્યો છે. OpenAI હાલ તેમના આઈપીઓની તૈયારીઓ કરી રહ્યું છે ત્યારે આ ઘટનાથી તેની સેફ્ટી પ્રોટોકોલ પર ગંભીર સવાલો ઊભા થયા છે. એક્સપર્ટ્સનું માનવું છે કે માત્ર કંપનીઓના ભરોસે રહેવાને બદલે હવે સરકારી સ્તરે AI કંપનીઓ પર કડક નિયંત્રણો લાદવા અત્યંત જરૂરી બની ગયા છે.
AI એજન્ટ એટલે શું ?
AI એજન્ટ (AI Agent) એટલે એક એવો સ્માર્ટ ડિજિટલ પ્રોગ્રામ કે સોફ્ટવેર જે માણસની સીધી મદદ કે સતત દેખરેખ વગર પોતાની જાતે નિર્ણયો લઈ શકે છે અને જટિલ કામો પૂરા કરી શકે છે. સરળ ભાષામાં સમજીએ તો, સામાન્ય AI (જેમ કે સાદું ચેટબોટ) માત્ર તમારા પ્રશ્નોના જવાબ આપે છે, જ્યારે AI એજન્ટ એક ડગલું આગળ વધીને તમારા માટે કામ પણ કરી આપે છે.
AI એજન્ટ કેવી રીતે કામ કરે છે?
AI એજન્ટ મુખ્યત્વે 4 તબક્કા ક્ષમતા સાથે કામ કરે છે:
- લક્ષ્ય સમઝવું: તમે તેને જે કામ સોંપો છો તેનો મુખ્ય હેતુ તે સમજે છે.
- પ્લાનિંગ: તે લક્ષ્ય સુધી પહોંચવા માટે નાના-નાના પગલાંઓનું પ્લાનિંગ કરે છે.
- સાધનોનો ઉપયોગ: તે ઇન્ટરનેટ સર્ચ કરવું, કોડિંગ કરવું, ઈમેલ મોકલવા કે સોફ્ટવેર વાપરવા જેવા ટૂલ્સનો જાતે ઉપયોગ કરી શકે છે.
- નિર્ણય શક્તિ: રસ્તામાં કોઈ ભૂલ આવે તો તે જાતે પોતાની ભૂલ સુધારીને આગળ વધે છે.
