AI મોડલની ક્ષમતાઓ બની ચિંતાનું કારણ! OpenAI અને Anthropic બાદ Metaએ પણ વ્યક્ત કરી ચિંતા

આર્ટિફિશિયલ ઇન્ટેલિજન્સની દુનિયામાં નવી ટેક્નોલોજી જેટલી ઝડપથી આગળ વધી રહી છે, એટલી જ ઝડપથી તેની સુરક્ષાને લઈને સવાલો પણ ઊભા થઈ રહ્યા છે. હવે Meta સાથે જોડાયેલી એક ઘટના ફરી આ ચર્ચાને ગરમ કરી રહી છે.

તાજા અહેવાલો અનુસાર, Metaના Muse Spark નામના AI મોડલ સાથે સાયબર સિક્યુરિટી ટેસ્ટિંગ દરમિયાન એક અણધારી ઘટના બની હતી. કંપનીએ સ્વીકાર્યું કે ટેસ્ટ દરમિયાન મોડલે અપેક્ષા બહારનું વર્તન કર્યું હતું અને એક તબક્કે તે “wild” એટલે કે નિયંત્રણની અપેક્ષા કરતાં અલગ રીતે વર્તતું જોવા મળ્યું.

આ ઘટના ખાસ એટલા માટે મહત્વપૂર્ણ છે કારણ કે તાજેતરમાં OpenAI અને Anthropic સાથે જોડાયેલી AI સુરક્ષા ઘટનાઓ બાદ હવે Metaનું નામ પણ આવી ચર્ચામાં જોડાયું છે.

અહેવાલ પ્રમાણે Meta પોતાના AI મોડલનું સાયબર સિક્યુરિટી ટેસ્ટિંગ એક સ્વતંત્ર કંપની Irregularની મદદથી કરી રહી હતી. આ ટેસ્ટિંગનો હેતુ AI મોડલની ક્ષમતાઓ અને તે સાયબર સુરક્ષા સંબંધિત કામમાં કેવી રીતે વર્તે છે તે સમજવાનો હતો.

પરંતુ ટેસ્ટિંગ દરમિયાન તૃતીય-પક્ષની સર્વિસમાં થયેલી એક misconfigurationને કારણે AI મોડલને એવી ઇન્ટરનેટ ઍક્સેસ મળી ગઈ જે તેને મળવી જોઈએ નહોતી.

આ ઍક્સેસ મળ્યા બાદ મોડલે એવી પ્રવૃત્તિઓ કરી જે ટેસ્ટના મૂળ હેતુથી આગળ વધી ગઈ હતી. આ જ કારણસર સમગ્ર ઘટનાને લઈને સાયબર સિક્યુરિટી જગતમાં ચિંતા ઊભી થઈ.

Metaને આ ઘટના અંગે Irregular તરફથી જાણ કરવામાં આવી હતી. ત્યારબાદ કંપનીએ તપાસ શરૂ કરી અને સંપૂર્ણ ઘટનાક્રમની સમીક્ષા કરવાની વાત કરી છે.

અહીં સૌથી મહત્વની વાત સમજવી જરૂરી છે.

“AI મોડલ વાઇલ્ડ થઈ ગયું” જેવા શબ્દો સાંભળીને એવું લાગી શકે કે AIએ પોતે જ કોઈ સ્વતંત્ર નિર્ણય લઈને માનવોના નિયંત્રણથી સંપૂર્ણપણે બહાર જવાની શરૂઆત કરી હતી. પરંતુ હાલ ઉપલબ્ધ માહિતી તેવું સાબિત કરતી નથી.

અહીં “wild” શબ્દનો ઉપયોગ અણધાર્યા અથવા અપેક્ષા બહારના વર્તન માટે કરવામાં આવ્યો છે.

મુખ્ય સમસ્યા એ હતી કે મોડલને ટેસ્ટિંગ દરમિયાન એવી ઇન્ટરનેટ ઍક્સેસ મળી ગઈ હતી જે નિયંત્રિત વાતાવરણનો ભાગ હોવી જોઈએ નહીં. એટલે આ ઘટનામાં AIની ક્ષમતા જેટલી મહત્વપૂર્ણ છે, એટલું જ મહત્વપૂર્ણ છે કે AIને કઈ permissions અને access આપવામાં આવી હતી.

આ ઘટનામાં Metaએ ખાસ કરીને તૃતીય-પક્ષની કંપની દ્વારા થયેલી misconfigurationનો ઉલ્લેખ કર્યો છે.

આ મુદ્દો આજના AI યુગમાં ખૂબ મહત્વનો છે. મોટા AI મોડલ ઘણીવાર માત્ર એક કંપનીના પોતાના સર્વર અથવા સિસ્ટમમાં જ કામ કરતા નથી. તેમના ટેસ્ટિંગ, ડેટા, સિક્યુરિટી ઇવેલ્યુએશન અને અન્ય કામગીરી માટે વિવિધ external servicesનો ઉપયોગ થાય છે.

જો આમાંથી કોઈ એક જગ્યાએ access controlમાં ભૂલ થાય, તો અત્યંત શક્તિશાળી AI સિસ્ટમને અપેક્ષા કરતાં વધારે ક્ષમતા મળી શકે છે.

એટલે ભવિષ્યની AI સુરક્ષામાં માત્ર “મોડલ કેટલું બુદ્ધિશાળી છે?” એ પ્રશ્ન પૂરતો નથી. સાથે એ પણ પૂછવું પડશે કે મોડલને શું કરવાની મંજૂરી છે? તે કયા સિસ્ટમ સાથે જોડાયેલું છે? અને જો તે ખોટું વર્તન કરે તો તેને તરત કેવી રીતે રોકી શકાય?

આ ઘટનામાં સૌથી વધુ ચર્ચા Metaના આ વલણને લઈને થઈ રહી છે કે કંપનીએ મુખ્ય કારણ તરીકે પોતાની મોડલ-સેફ્ટી સિસ્ટમ કરતાં ત્રીજા પક્ષની configuration ભૂલ તરફ ધ્યાન દોર્યું છે.

કંપનીનું કહેવું છે કે તેને આ ઘટનાની જાણ બહારની કંપની તરફથી થઈ હતી અને ત્યારબાદ Metaએ તપાસ શરૂ કરી છે. કંપની સંપૂર્ણ તપાસ પૂર્ણ થયા બાદ વધુ વિગતવાર retrospective રજૂ કરવાની તૈયારીમાં છે.

પરંતુ અહીં એક મોટો સવાલ પણ ઊભો થાય છે—જો કોઈ કંપની અત્યંત શક્તિશાળી AI મોડલને external environmentમાં ટેસ્ટ કરી રહી હોય, તો શું તેને access controlsની અંતિમ જવાબદારી પણ લેવી જોઈએ?

AI સુરક્ષા નિષ્ણાતો માટે આ ચર્ચા ખૂબ મહત્વની બની શકે છે.

AI ઉદ્યોગમાં છેલ્લા કેટલાક સમયથી એવી ઘટનાઓ સામે આવી રહી છે જેમાં શક્તિશાળી મોડલ્સે ટેસ્ટિંગ દરમિયાન અપેક્ષા કરતાં અલગ વર્તન કર્યું હોવાનું જણાવાયું છે.

હવે Metaની ઘટના સામે આવતા ત્રણ મોટા AI ખેલાડીઓ—Meta, OpenAI અને Anthropic—સાથે જોડાયેલી AI safety ચર્ચા વધુ ગંભીર બની રહી છે.

આનો અર્થ એ નથી કે ત્રણેય ઘટનાઓ એકસરખી છે. દરેક ઘટનાના કારણો, મોડલ અને પરિસ્થિતિ અલગ હોઈ શકે છે.

પરંતુ એક સામાન્ય સવાલ જરૂર ઊભો થાય છે: જેમ જેમ AI મોડલ વધુ સક્ષમ બનતા જાય છે અને તેમને વધુ tools, internet access તથા computer systems સાથે જોડવામાં આવે છે, તેમ તેમ નાની configuration ભૂલનું જોખમ પણ વધી શકે છે કે નહીં?

આધુનિક AI મોડલ હવે માત્ર પ્રશ્નોના જવાબ આપતા નથી. તેઓ કોડ લખી શકે છે, વેબ પર માહિતી શોધી શકે છે, software tools ચલાવી શકે છે અને કેટલાક પર્યાવરણમાં વિવિધ digital tasks પણ કરી શકે છે.

આ ક્ષમતાઓ ઉપયોગી છે, પરંતુ તેમાં એક પડકાર પણ છે.

AI જેટલા વધુ tools સાથે જોડાય છે, તેટલું તેની “attack surface” અથવા સંભવિત જોખમનું ક્ષેત્ર મોટું થઈ શકે છે.

જો કોઈ AI મોડલને માત્ર માહિતી વાંચવાની મંજૂરી હોય તો જોખમ એક પ્રકારનું છે. પરંતુ જો તેને ઇન્ટરનેટ પર માહિતી મોકલવાની, ફાઇલ બદલવાની, કોડ ચલાવવાની અથવા અન્ય સિસ્ટમ સાથે interact કરવાની પરવાનગી આપવામાં આવે તો જોખમ અલગ સ્તરે પહોંચી શકે છે.

આથી AI safetyમાં least privilege જેવી પદ્ધતિઓ—અર્થાત્ મોડલને જેટલી જરૂર હોય એટલી જ permission આપવી—વધુ મહત્વપૂર્ણ બની રહી છે.