મિનાબની શાળા પર થયેલો હુમલો એ માત્ર ટેકનિકલ ભૂલ નહોતી, પણ ‘અલ્ગોરિધમિક ડિહ્યુમનાઇઝેશન‘નું ઉદાહરણ હતું. જ્યારે જવાબદારી અલ્ગોરિધમ અને કમાન્ડર વચ્ચે વહેંચાઈ જાય, ત્યારે સત્ય ઓગળી જાય છે
ચિરંતના ભટ્ટ
યુદ્ધમાં આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) વિશેનું સૌથી મોટું જૂઠ એ જ તેની સૌથી મોટી છટકબારી છે. “મશીને નિર્ણય લીધો” એમ કહી દેવું બહુ સહેલું છે, કારણ કે તેનાથી જવાબદારી સત્તાધીશોને બદલે કોડિંગ પર ઢોળી શકાય છે. આજે પણ યુદ્ધો રાષ્ટ્રો અને લશ્કરો જ લડે છે, પરંતુ AI તેની ઝડપ વધારી રહ્યું છે.
ઈરાન પર અમેરિકા-ઈઝરાયેલ હુમલા દરમિયાન, મિનાબની એક પ્રાથમિક શાળા પર હુમલો થયો, જેમાં 160થી વધુ લોકો માર્યા ગયા, જેમાંથી મોટા ભાગનાં બાળકો હતાં. શરૂઆતી આકલન મુજબ, આ સાઇટ કદાચ એટલા માટે નિશાન બની કારણ કે ઇન્ટેલિજન્સ ડેટાબેઝે આ સ્થાનને ભૂતપૂર્વ લશ્કરી સુવિધા સાથે જોડ્યું. આ દુર્ઘટના પાછળનું કારણ આઉટડેટેડ ઇન્ટેલિજન્સ અને મશીની ઝડપનું જીવલેણ મિશ્રણ હતું. AI માટે શાળા એ માત્ર ‘પિક્સેલ્સ’ અને ‘મેટ્રિક્સ’નો સમૂહ છે, જેમાં માનવીય સંવેદનાનો કોઈ જ સ્થાન નથી. જ્યારે યુદ્ધ ‘ડેટા ડ્રિવન’ બને છે, ત્યારે બાળકો માત્ર ‘કોલેટરલ ડેમેજ’નો આંકડો બનીને રહી જાય છે. આ દુર્ઘટના પાછળનું ટેકનિકલ સત્ય કદાચ ‘અલ્ગોરિધમિક ડિહ્યુમનાઇઝેશન’ છે, આમ થાય ત્યારે યુદ્ધભૂમિ પરનો જીવંત સંદર્ભ (Context) ભૂંસાઈ જાય છે.
આર્ટિફિશિયલ ઇન્ટેલિજન્સ હવે થિંક ટેન્ક્સમાં ચર્ચાતો ભવિષ્યવાદી ખ્યાલ નથી; તે આધુનિક લશ્કરની કામગીરીમાં પ્રવેશી ચૂક્યો છે. પ્રોજેક્ટ મેવન જેવી સિસ્ટમ્સ તોતિંગ ડેટાના પ્રવાહોને પ્રોસેસ કરી વિશ્લેષકોને સરળતાથી પેટર્ન શોધાય તે માટે બનાવાઈ હતી, એક સમયે આ કામગીરીમાં દિવસો નીકળી જાત. AI મિસાઈલ છોડતું નથી, પણ તે ‘ટાર્ગેટ પ્રોફાઈલિંગ’ એટલી ઝડપથી કરે છે કે માણસની નૈતિક ચેતનાને વિચારવાનો સમય જ મળતો નથી. મશીન જ્યારે ‘90% કોન્ફિડન્સ સ્કોર’ આપે છે, ત્યારે કમાન્ડર તેને અંતિમ સત્ય માની લેવાની ભૂલ કરી બેસે છે. ટેક્નોલોજી નિશ્ચિતતાની ખાતરી આપે છે, પણ તેનાથી નિર્ણય લેનારી સંસ્થાઓ વધુ આત્મવિશ્વાસુ બની જાય છે. એકવાર વિશ્લેષણની આ સાયકલ ગતિ પકડે પછી તેની પર નિયંત્રણ રાખવું સહેલું નથી હોતું. મશીની રજૂઆત કોમ્પ્યુટેશનલ સત્તાનો આભાસ આપે છે.
“પ્રિસિઝન વોરફેર”(ચોકસાઈભર્યું યુદ્ધ)ના નેરેટિવમાં હંમેશાં વધુ નિયંત્રિત અને નૈતિક યુદ્ધનો વાયદો કરવામાં આવે છે. ટેક્નોલોજીની દરેક પેઢીને પ્રગતિ તરીકે વેચવામાં આવી છે, પણ ખરેખર તો આ બધી પ્રગતિ અંતે તો પતન અને અનિશ્ચિતતામાં વધારો કરે છે. ટેક્નોલૉજી ઝડપ અને નિશ્ચિતતાની ખાતરી આપે એટલે તેના પર આધાર રાખતી સંસ્થાઓ અનિશ્ચિત સંજોગોમાં પણ તેની પર વધુ વિશ્વાસ રાખે છે. AI આ જ ઘરેડનું નવુંનક્કોર ચેપ્ટર છે.
એન્થ્રોપિકની ક્લાઉડ (Claude) સિસ્ટમની ચર્ચા આ સંસ્થાકીય તણાવને સ્પષ્ટ રીતે દર્શાવે છે. લશ્કરી આયોજનકારોને કોમર્શિયલ AI આપી શકે તેવું ઝડપી વિશ્લેષણ જોઈએ છે, પરંતુ ટેક્નોલોજી કંપનીઓ જે ગાર્ડરેઇલ્સ અથવા મર્યાદાઓની વાત કરે છે તેમાં તેમને ખાસ રસ નથી હોતો. સંરક્ષણ સંસ્થાઓને મશીની કાર્યક્ષમતામાં રસ હોય છે, જ્યારે ટેક્નોલોજી કંપનીઓ નૈતિક મર્યાદાઓની વાત કરે છે.
અહીં અસલી ઘર્ષણ સિલિકોન વેલીના નૈતિક ગાર્ડરેઇલ્સ અને પેન્ટાગોનની લશ્કરી જરૂરિયાતો વચ્ચે છે. લશ્કરી વડાઓને એવા ‘બ્લેક બોક્સ’ સોફ્ટવેરમાં રસ છે જે તરત અને ઝડપી પરિણામ આપે, ભલે એ પ્રક્રિયામાં પારદર્શકતાનો ભોગ લેવાય. જ્યારે ટેક કંપનીઓ નફા અને રાષ્ટ્રીય સુરક્ષાના નામે લશ્કરો સાથે હાથ મિલાવે છે, ત્યારે ‘નૈતિક જવાબદારી’ કોર્પોરેટ પ્રેઝન્ટેશન્સમાં દબાઈ જાય છે. આ ‘કોર્પોરેટ પ્રોફિટ’ અને ‘મિલિટરી એફિશિયન્સી’નું જોડાણ આધુનિક યુદ્ધને વધુ અસ્પષ્ટ અને બેજવાબદાર બનાવી રહ્યું છે.
AI “ટાર્ગેટ પસંદ” નથી કરતું. અહીં મુદ્દો એ છે કે AI સિસ્ટમો હવે યુદ્ધમાં માણસના નિર્ણય લેવાની પ્રક્રિયાને પ્રભાવિત કરવા લાગી છે. શરૂઆતમાં વિશ્લેષકો મશીન શું સૂચવે છે તેની તપાસ કરતા હોય છે. પરંતુ સમય જતા તેઓ કદાચ મશીન જે ભલામણ કરે છે તેની માત્ર સમીક્ષા કરતા રહી જાય છે. જોખમ એ છે કે હુમલા સુધી પહોંચતી નિર્ણય પ્રક્રિયા એટલી ઝડપી બની જાય છે કે તેને નિયંત્રિત કરવા માટે બનેલી સંસ્થાઓ પાછળ રહી જાય.
અને આ તો AIના યુદ્ધનું માત્ર પહેલું મેદાન છે. બીજું મેદાન મિસાઈલ પડ્યા પછી શરૂ થાય છે.
આધુનિક યુદ્ધ હવે, જમીન પર અને ઓનલાઈન એમ બે રીતે લડાય છે. હુમલા પછી થોડા કલાકોમાં જ સોશિયલ મીડિયા પર વિનાશના ફોટા અને વીડિયો ફેલાઈ જાય છે. તેમાં કેટલાક સાચા હોય છે, કેટલાક જૂના સંઘર્ષોના વીડિયો ફરી વપરાય છે અને કેટલાક તો પૂરી રીતે AIએ બનાવેલા બોગસ વિઝ્યુઅલ્સ હોય છે.
અહીં સત્ય માટેનું એક સમાંતર યુદ્ધ શરૂ થઈ જાય છે. હાલના અમુક યુદ્ધોને મામલે સંશોધકોએ નોંધ્યું છે કે સિન્થેટિક વિઝ્યુઅલ્સ, મેનીપ્યુલેટેડ ક્લિપ્સ અને ભાવનાત્મક રીતે ચાર્જ થયેલા નેરેટિવ્સ મોટે ભાગે ખરાઈ કરાયેલા રિપોર્ટિંગ કરતાં વધુ ઝડપથી ફેલાય છે. સળગતી શાળા, રડતું બાળક, વિખેરાયલો કાટમાળ વગેરેની દરેક તસવીર રાજકીય મોબિલાઇઝેશન માટે કાચો માલ બની જાય છે. ડોક્યુમેન્ટેશન અને બનાવટ વચ્ચેની રેખા ધીમે ધૂંધળી થવા લાગે છે.
પૂર્વી યુરોપ અને મધ્ય પૂર્વમાં આપણે જોયું છે કે કેવી રીતે બોટ નેટવર્ક અને સિન્થેટિક મીડિયા મિનિટોમાં વૈશ્વિક ધારણાઓ બદલી નાખે છે. આ હવે યુદ્ધ ચાલતું હોય તેવા પ્રદેશોમાં પણ જોવા મળે છે, જ્યાં બોટ નેટવર્ક અને તકવાદી પ્રચારકો સિન્થેટિક મીડિયાનો ઉપયોગ કરીને મિનિટોમાં જ ઘટનાઓ વિશેની વૈશ્વિક ધારણાઓને આકાર આપવાનો પ્રયાસ કરે છે.
મધ્ય પૂર્વમાં રાજ્ય-સંબંધિત ઇન્ફ્લુએન્શિયલ નેટવર્ક્સ આ ઇકોસિસ્ટમમાં ખૂબ નિપુણ બની ગયા છે. અંહી કલેક્ટિવ સોશિયલ મીડિયા ક્લસ્ટરો દ્વારા ઘડાયેલા નેરેટિવ્ઝ અલગ-અલગ પ્રેક્ષકો માટે નવી રીતે પૅક વાયરલ કરી દેવાય છે.
અહીં ધ્યેય માત્ર સમજાવવાનો નથી. તે મૂંઝવણ ઊભી કરવાનો છે. ચકાસણીને એટલી અસરકારક રીતે દબાવી દેવી કે વાસ્તવિકતાની દરેક આવૃત્તિ રાજકીય રીતે વાટાઘાટનો વિષય બની જાય. આવા માહોલમાં, AI માત્ર યુદ્ધને જ નહીં પણ અસ્પષ્ટતા, ગુંચવણોને વેગ આપે છે.
ભારત અનેક અસ્થિર માહિતી અને સુરક્ષા ઇકોસિસ્ટમના સંગમ પર બેઠેલો દેશ છે: વિવાદિત સરહદો, મોટું અને ઘણી વાર વિસ્ફોટક બની જાય એવું ડિજિટલ જાહેર ક્ષેત્ર, અને એવી રાજકીય સંસ્કૃતિ જ્યાં વાયરલ નેરેટિવ્ઝ ઘણીવાર કલાકોમાં જ ફેક્ટ-ચેકિંગને પાછળ છોડી દે છે. આપણને અનુભવ છે જ કે કેવી રીતે મેનીપ્યુલેટેડ વીડિયો અને સિન્થેટિક ઓડિયો ચૂંટણી અથવા કોમી તણાવ દરમિયાન જાહેર ચર્ચાને વિકૃત કરી શકે છે.
કલ્પના કરો કે આવી ગતિશીલતા AI-આધારિત યુદ્ધ સાથે ટકરાય. દૂરવર્તી સરહદ પર ડ્રોન હુમલામાં ભૂલ થાય છે. મિનિટોમાં, નરસંહારનો દાવો કરતા AI-જનરેટેડ ફૂટેજ ઓનલાઇન દેખાય છે. ડીપફેક્સ આ ઘટનાને કોમી હિંસા અથવા વિદેશી આક્રમણ તરીકે રજૂ કરે છે. મૂળ ઘટના કદાચ નાની, અસ્પષ્ટ, આકસ્મિક પણ હોઈ શકે. પણ નેરેટિવ કોઈ અજગરની માફક ભરડો લે અને સત્ય દબાઈ જાય, સંજોગો વિસ્ફોટક બની જાય.
ભારતની ઊર્જા સુરક્ષા આ જોખમમાં એક વધારાનું લેયર ઉમેરે છે. ભારતની ઉર્જા સુરક્ષા હોર્મુઝ જેવા ભૌગોલિક ચોકપોઇન્ટ્સ પર નિર્ભર છે, જ્યાં માત્ર લશ્કરી જ નહીં પણ ઇન્ફર્મેશન વોર પણ આંતરિક અસ્થિરતા લાવી શકે છે. ઈરાનથી બલૂચિસ્તાન સુધી ફેલાયેલા આ ક્ષેત્રમાં ઇન્ટેલિજન્સ નિષ્ફળતા માત્ર લશ્કરી તણાવ જ નહીં, પરંતુ ઇન્ફર્મેશન વૉર પણ છેડી શકે છે. આ સંજોગો ભારતના આંતરિક રાજકારણ પર અસર કરનારા સાબિત થાય તેમ બને. ટૂંકમાં એવા દિવસો દૂર નથી કે કોઈ કટોકટી યુદ્ધભૂમિના આંચકાથી નહીં પણ વાયરલ વીડિયોથી શરૂ થઈ જાય.
ભારત માટે હવે વ્યૂહાત્મક સ્વાયત્તતા (Strategic Autonomy) માત્ર હથિયારો કે તેલ પૂરતી મર્યાદિત નથી, તે હવે ‘અલ્ગોરિધમિક સ્વાયત્તતા’ સુધી લંબાવી પડશે. જો આપણી સુરક્ષા પ્રણાલી વિદેશી કોડિંગ અને પશ્ચિમી અલ્ગોરિધમ્સ પર નિર્ભર રહેશે, તો આપણું ‘Fog of War’ પણ કોઈ બીજાના સર્વરથી નક્કી થશે. ભારતને પોતાની એવી AI ઇકોસિસ્ટમની જરૂર છે જે આપણી જમીની હકીકત, આપણી ભાષા અને આપણી સામાજિક જટિલતાને સમજે, જેથી કોઈ વિદેશી ભૂલ કે ભ્રામક નેરેટિવ આપણી રાષ્ટ્રીય સુરક્ષાને અસ્થિર ન કરી શકે.
ભારત માટે, વ્યૂહાત્મક પડકાર આનાથી બમણો છે. પહેલાં તો, આપણે લશ્કરી AIની આસપાસના વૈશ્વિક ધોરણોને આકાર આપવામાં ગંભીરતાથી ભાગ લેવો જોઈએ “સાર્થક માનવ નિયંત્રણ”(meaningful human control)નો સિદ્ધાંત માત્ર રાજદ્વારી સૂત્ર બનીને રહી જાય તો ન ચાલે. તેનું ઓડિટ કરી શકાય તેવું ઓવરસાઇટ સ્ટ્રક્ચર્સ હોવું જોઈએ. તેમાં મંજૂર માટે એકથી વધુ સ્તર હોવા જોઈએ, નિર્ણય પારદર્શક રીતે લેવાય તે માટેના રસ્તા સાફ હોવા જોઈએ અને જવાબદારીની પણ સ્પષ્ટ પદ્ધતિઓ હોવી જોઇએ. આ બધું ખાસ જરૂરી છે જ્યારે મશીનને આધારે થયેલું વિશ્લેષણ નાગરિકો માટે નુકસાન કરી શકે તેવી શક્યતાઓ નજર સામે હોય.
બીજું, લોકશાહી રાષ્ટ્રો અને સોસાયટીઝે અલ્ગોરિધમિક યુદ્ધના માહિતી સંબંધિત પરિણામો માટે સાબદા રહેવું પડશે. દરેક પ્લેટફોર્મને પ્રોવેનન્સ સિસ્ટમ્સ, AI-જનરેટેડ વિઝ્યુઅલ્સ માટે વૉટરમાર્કિંગની જરૂર પડશે અને AI-જનરેટેડ વિગતો ડિજિટલ ઇકોસિસ્ટમ્સમાં ફેલાય તે પહેલા જો કોઈ સામગ્રી સાથે ચેડાં થયા હોય તો તે સામગ્રીને ઓળખવા માટે સક્ષમ ઝડપી વેરિફિકેશન નેટવર્ક પણ જોઈશે.
આમાંથી કોઈ પણ પગલું છેતરપિંડી કે દુર્ઘટનાને નાબૂદ કરશે નહીં. યુદ્ધ ક્યારે ય ટેક્નોલોજીકલ રીતે શુદ્ધ કે નૈતિક રીતે વ્યવસ્થિત રહ્યું નથી. પરંતુ અહીં ધ્યેય સંપૂર્ણતા નથી. ધ્યેય એ છે કે ભૂલથી કોઈ તણખો થાય તો તે ઝડપથી ભડકો ન બની જાય. AIના યુગમાં સૌથી મોટો વ્યૂહાત્મક પડકાર કદાચ એ જ છે કે ભૂલથી ખડા થયેલા સંકટના ચક્રને ધીમું પાડવાની સમજ અને સાવચેતી સત્તાધિશો પાસે કે નિર્ણય લેનારાઓ પાસે હોય.
બાય ધી વેઃ
જ્યારે જવાબદારી અલ્ગોરિધમ્સ, વિશ્લેષકો, કોન્ટ્રાક્ટરો અને કમાન્ડરો વચ્ચે વહેંચાઈ જાય છે, ત્યારે જવાબદારી ધીમે ધીમે અસ્પષ્ટ બની જાય છે. વિશ્લેષકોનું કહેવું છે કે સિસ્ટમે તો સૂચન માત્ર કર્યું હતું, હુમલાની મંજૂરી માણસોએ આપી હતી તેમ કમાન્ડરનું કહેવું છે અને કોન્ટ્રાક્ટરનું કહેવું છે કે ટેક્નોલૉજીનો ખોટો ઉપયોગ થયો. AI પ્લેટફોર્મ કહે છે કે તે ફક્ત સામગ્રીને હોસ્ટ કરે છે. આ આખા સર્કિટમાં સત્ય ઓગળી જાય છે.
ક્લોઝવિટ્ઝે લખ્યું હતું કે યુદ્ધ એ અનિશ્ચિતતાનું ક્ષેત્ર છે, એક એવું ધુમ્મસ જેના દ્વારા સૌથી શિસ્તબદ્ધ કમાન્ડરોએ પણ રસ્તો કાઢવો પડે છે. અત્યારે જે રીતે યુદ્ધો ચાલી રહ્યા છે તેનું કઠોર સત્ય, મોતને ભેટેલા શહિદો અને નિર્દોષ બાળકો છે, તે એમ જ ચાલતું આવ્યું છે પણ કમનસીબે હવે આ નુકસાન AIને કારણે પહેલાં કરતાં વધારે ઝડપથી થઈ રહ્યું છે. AI ધુમ્મસ હટાવવા આવ્યું હતું, પણ તેણે તો યુદ્ધને અરીસા વગરના એવા ભુલભુલામણીના રસ્તા પર લાવી દીધું છે જ્યાં સત્ય અને મોત વચ્ચે માત્ર એક સેકન્ડના કોડિંગનો જ ફરક રહ્યો છે.
પ્રગટ : ‘બહુશ્રૃત’ નામક લેખિકાની સાપ્તાહિક કટાર, ’રવિવારીય પૂર્તિ’, “ગુજરાતમિત્ર”, 15 માર્ચ 2026
