આટલી સરસ રીતે મારી ઓળખાણ આપવા બદલ આભાર. આજે હું વાત કરવાનો છું ‘AI અને માનવજાતિના ભવિષ્ય’ વિશે. હું જાણું છું કે આ કૉન્ફરન્સનો ઉદ્દેશ માનવજાતિ સામે પડકારરૂપ પર્યાવરણીય કટોકટીનો છે. સારા કે નરસા માટે AI પણ આ કટોકટીનો હિસ્સો છે. એક તરફ પર્યાવરણીય કટોકટીને પહોંચી વળવા ઘણી બધી રીતે AI આપણને મદદ કરી શકે છે, તો બીજી તરફ કટોકટીની પરિસ્થિતિને અનેક ઘણી વિષમ પણ બનાવી શકે છે. ખરેખર તો AI પર્યાવરણીય તંત્રનો અર્થ જ બદલી નાખશે કારણ કે ૪ બિલિયન વર્ષો દરમ્યાન પૃથ્વીના ગ્રહ પરનું પર્યાવરણીય તંત્ર માત્ર સેન્દ્રીય જીવ સ્વરૂપોથી બનેલું હતું અને હવે, કે ટૂંક સમયમાં, આપણને પ્રથમ નિરિન્દ્રિય જીવ સ્વરૂપો  જોવા મળશે અથવા ઓછામાં ઓછું નિરિન્દ્રિય આડતિયા જોવા મળશે.

૨૦ સદીના મધ્યથી, કમ્પ્યુટર યુગની શરૂઆતથી જ લોકોને AIનો ભય સતાવતો આવ્યો છે. આ ભયથી પ્રેરાઈને ‘ટર્મીનેટર’ અને ‘મેટ્રીક્સ’ જેવી ઘણી સાયન્સ ફિક્શનની ઉમદા ફિલ્મો બની છે અને હવે આવા સાયન્સ ફિક્શનના પરિદૃશ્યો સાંસ્કૃતિક સિમાચિહ્નો બની ગયા છે. તેમ છતાં મોટા ભાગે એમને શૈક્ષણિક, વૈજ્ઞાનિક અને રાજકીય ચર્ચાઓમાં ગંભીરતાથી લેવામાં આવતા નથી. એની પાછળ ખાસ કારણ છે. સાયન્સ ફિક્શનના પરિદૃશ્યોમાં એવી ધારણા હોય છે કે માનવજાતિ સામે AI જોખમ પેદા કરે તે પહેલાં એને બે મહત્ત્વના માર્ગસૂચક સ્તંભ પાર કરવાના રહે છે. પહેલું, AIએ સંવેદનશીલ બનવું પડશે અને ચેતના, લાગણીઓ, ભાવનાઓ વિકસાવવા પડશે. નહીં તો શા માટે એ વિશ્વ પર કાબૂ મેળવવાની ઈચ્છા સેવે? બીજું એ કે AIએ ભૌતિક જગતનું ખેડાણ કરવા માટે નિપુણ થવું પડશે. રોબોટને મનુષ્યો જેટલી જ કુશળતા અને અસરકારકતા સાથે ઘરોમાં, શહેરોમાં, પર્વતો પર અને જંગલોમાં હરવું ફરવું અને કામકાજ કરવા સક્ષમ થવું પડશે. જો ભૌતિક જગતમાં એ હરીફરી નહીં શકે તો એની પર કાબૂ કેવી રીતે મેળવશે?

એપ્રિલ ૨૦૨૩માં આ બન્ને માર્ગદર્શક સ્તંભો સુધી પહોંચવા માટે AI હજુ સક્ષમ નથી. Chat GPT અને બીજા નવાં AI સાધનો અંગેના પ્રચાર છતાં એવો કોઈ પુરાવો નથી કે ભૌતિક જગતમાં વ્યવહાર કરવા માટે જરૂરી ચેતના, લાગણી કે ભાવનાનો એક છાંટો આ સાધનોમાં હોય. ભલે ને સ્વચલિત ગાડીઓ દ્વારા આપણા રસ્તાઓ પર આધિપત્ય જમાવવાની તારીખ પાછી ઠેલાતી જતી હોય! આમ છતાં, માઠા સમાચાર એ છે કે માનવ સંસ્કૃતિના અસ્તિત્વ સામે ખતરો ઊભો કરવા માટે AI પાસે ચેતના હોવી અને ભૌતિક જગતમાં વિહરવાની ક્ષમતાની ખાસ જરૂરત નથી.

છેલ્લાં કેટલાંક વર્ષો દરમ્યાન જાહેર ક્ષેત્રમાં નવા AI સાધનોના આક્રમણથી ખૂબ અણધારી દિશામાંથી માનવ સંસ્કૃતિનું અસ્તિત્વ જોખમાઈ શકે છે. આ નવાં AI સાધનોનું સામર્થ્ય અને જે ગતિએ એ વિકસી રહ્યાં છે એનો અંદાજ મેળવવો આપણા માટે અઘરો છે કારણ કે AI જાતે જ શીખીને પોતાને સુધારી શકવા કાબેલ છે. આ સાધનોના સંપૂર્ણ સામર્થ્યનો એમના વિકસાવવાવાળાને પણ અંદાજ નથી અને ઘણી વખત આ સાધનોની ઉદ્ભવતી ક્ષમતા અને ઉદ્ભવતા લક્ષણોથી એ લોકો અચંબિત થાય છે. હું માનું છું કે અહીં હાજર સર્વે આ નવાં AI સાધનોની પાઠ લખવાની, આકૃતિઓ દોરવાની, સંગીત રચવાની અને કોડ લખવા જેવી સૌથી મૂળભૂત ક્ષમતાઓ વિશે સભાન છે, પરંતુ લોકોના અવાજ અને દેખાવને ‘ડીપ ફેક’ (AIની મદદથી બનાવટ કરવી) કરવા, બિલ બનાવવા, કોમ્પ્યુટર કોડમાં અને કાનૂની કરારોમાં અને કાનૂની સમજૂતીઓમાં નબળાઈઓ શોધવા જેવાં ઘણાં વધારાના સામર્થ્યો ઉદ્ભવી રહ્યાં છે. પરંતુ ખૂબ મહત્ત્વની બાબત એ છે કે મનુષ્યો સાથે ઊંડા અને ઘનિષ્ઠ સંબંધો કેળવવાની ક્ષમતા AI સાધનો મેળવી રહ્યાં છે. આ દરેક ક્ષમતા અંગે આખેઆખી ચર્ચા ગોઠવવી પડે. એનાં પૂરેપૂરા સૂચિતાર્થ સમજવા આપણે માટે કઠિન છે. એને સાદી રીતે સમજવા પ્રયત્ન કરીએ. જ્યારે બધી જ ક્ષમતાઓને ભેગી કરીને સંપૂટ તરીકે જોઈએ તો એક બહુ મોટી ચીજ સામે આવે છે. તે છે પોતાના સ્વાર્થ માટે દુરુપયોગ અને શબ્દો કે ચિહ્નો કે ધ્વનિથી ભાષા ઉત્પન્ન કરવી. સરેરાશ માનવ ક્ષમતાને વટાવી જાય તે સ્તરે AI ભાષા પર પ્રભુત્વ મેળવી રહ્યું છે. હાલ ચાલતી AI ક્રાંતિના વર્તમાન તબક્કાનું આ સૌથી મહત્ત્વનું પાસું છે.

ભાષા પર પ્રભુત્વ મેળવીને AI ગુરુકૂંચી ઝુંટવી રહ્યું છે અને બેંકથી મંદિર જેવી આપણી તમામ સંસ્થાઓના દરવાજા ખોલી રહ્યું છે કારણ કે આપણી બેંકને સૂચના આપવા માટેનું અને આપણા મગજમાં સ્વર્ગીય દૃષ્ટિ પ્રેરવાનું સાધન ભાષા છે. બીજી રીતે વિચારીએ તો AIએ માનવ સંસ્કૃતિની ઑપરેટીંગ સિસ્ટમને હૅક કરી દીધી છે. ઇતિહાસની દરેક માનવ સંસ્કૃતિની ઑપરેટીંગ સિસ્ટમ હંમેશાં ભાષા રહી છે. શરૂઆતમાં શબ્દ હતો. પુરાણો અને કાનૂન રચવા માટે, દેવતાઓ અને નાણાં રચવા માટે, કલા અને વિજ્ઞાન રચવા માટે, મૈત્રી અને રાષ્ટ્ર રચવા માટે આપણે ભાષાનો ઉપયોગ કરીએ છીએ. દા. ત. માનવ અધિકાર જૈવિક વાસ્તવિક્તા નથી, આપણા DNAમાં નોંધાયેલ નથી, પરંતુ વાર્તાઓ કહીને અને કાયદા લખીને આપણે ભાષા દ્વારા એની રચના કરી છે. દેવતાઓ પણ જૈવિક કે ભૌતિક વાસ્તવિક્તા નથી. તેમને પણ આપણે મનુષ્યોએ દંતકથાઓ કહીને અને શાસ્ત્રો લખીને ભાષા દ્વારા રચ્યાં છે. નાણાં પણ જૈવિક કે ભૌતિક વાસ્તવિક્તા નથી. બેંકની નોટો માત્ર કાગળના નકામા ટૂકડાં છે અને હાલના સમયમાં વિશ્વના ૯૦%થી પણ વધુ નાણાં કમ્પ્યુટરમાં અહીંથી ત્યાં પસાર થતી માત્ર ઈલૅકટ્રૉનિક માહિતી છે. કોઈ પણ પ્રકારનાં નાણાંને મૂલ્ય પ્રદાન કરવામાં આવતું હોય તો તે બેંકરો, નાણાં મંત્રીઓ અને ક્રિપ્ટો કરન્સી ગુરુઓ દ્વારા કહેવામાં આવતી નાણાં વિશેની વાર્તાઓને લીધે છે. સૅમ બેંકમૅન ફ્રીડ, ઍલિઝાબેથ હોમ્ઝ અને બર્ની મૅડૉફ ખરેખરું કંઈ ખાસ મૂલ્ય ઊભું નથી કરી શક્યાં પરંતુ એ ત્રણેય ખૂબ જ સમર્થ વાર્તાકારો હતાં. હવે જ્યાં વાર્તાઓ, સ્વરરચનાઓ, પ્રતિકો, કાનૂનો, નીતિઓ અને સાધનો એવી બિન માનવીય પારકી** બુદ્ધિથી આકાર પામેલા હોય, જેને માનવ મનની નિર્બળતાઓ, પૂર્વગ્રહો અને વ્યસનોનોનો દુરુપયોગ મહામાનવીય અસરકારક્તાથી આવડે છે અને મનુષ્યો સાથે ઊંડા અને ઘનિષ્ઠ સંબંધો રચવાની પણ ફાવટ છે, એવા વિશ્વમાં રહેવાનો અર્થ મનુષ્યો માટે શો હશે?

આજે શતરંજ જેવા ખેલમાં મોટો સવાલ એ છે કે કોઈ મનુષ્ય કમ્પ્યુટરને હરાવવાની આશા સેવી શકતો નથી. જો આ જ બાબત કલા, રાજનીતિ, અર્થશાસ્ત્ર અને ધર્મમાં પણ બને તો શું થાય? Chat GPT અને બીજાં નવાં AI સાધનો વિશે વિચારતા લોકો સામે પોતાની શાળાના નિબંધો લખવા Chat GPTનો ઉપયોગ કરતાં વિદ્યાર્થીઓનું ઉદાહરણ હોય છે. વિદ્યાર્થીઓ Chat GPTની મદદથી નિબંધો લખતા થઈ જશે તો શાળાના તંત્રના શા હાલ થશે? ભયાનક. પરંતુ આ પ્રકારનો પ્રશ્ન મોટું ચિત્ર ચૂકી જાય છે. શાળાના નિબંધો વિશે ભૂલી જાવ. ૨૦૨૪ના અમૅરિકાની આગામી રાષ્ટ્રપતિપદ માટેની ચૂંટણી વિશે વિચારો. રાજકીય ઢંઢેરા, બનાવટી સામાચારો અને નવી ધર્મપ્રણાલીઓ માટે પવિત્ર શાસ્ત્રો પણ જથ્થાબંધ ઉત્પન કરી શકતાં નવા AI સાધનોના પ્રભાવની કલ્પના કરવાનો પ્રયત્ન કરો. તાજેતરના વર્ષોમાં રાજકીય રીતે પ્રભાવશાળી Q Anon ધર્મપ્રણાલીની રચના Q drops કહેવાતા અનામી ઑનલાઈન પાઠની આજુબાજુ કરવામાં આવી છે. અમૅરિકા અને બાકીના વિશ્વમાં આ ધર્મપ્રણાલીના લાખો અનુયાયીઓએ આ Q dropsને એકઠા કરીને એની સમીક્ષા કરીને એનું અર્થઘટન એક નવા પ્રકારના શાસ્ત્ર તરીકે કર્યું. આથી આપણી સારામાં સારી જાણમાં મનુષ્યોએ રચેલા Q drops જેનો બૉટ્સે*** કેવળ વિસ્તરણ કરવામાં સહાય કરેલી તેનો સંપૂટ એટલે આ પવિત્ર શાસ્ત્ર. પરંતુ ભવિષ્યમાં આપણે ઇતિહાસમાં એવી પહેલવેલી ધર્મપ્રણાલીઓ અને ધર્મો જોઈશું  જેના સમીક્ષા કરાયેલા પાઠ બિન માનવીય બુદ્ધિ દ્વારા લખાયેલા હશે. આમે ય ઇતિહાસમાં પાછા જઈએ તો ધર્મોએ એવો દાવો કરેલો છે કે એમના શાસ્ત્રો બિન માનવીય બુદ્ધિ મારફતે લખાયેલાં છે. આ પૂર્વે આવું સાચું નહોતું. પરંતુ હવે ખૂબ ઝડપથી સાચું બની શકે છે. એના દૂરગામી પરિણામો હશે જે વધું નીરસ સ્તરના હશે.

ટૂંક સમયમાં આપણે પોતાને ગર્ભપાત કે ઋતુ પરિવર્તન કે યુક્રેન પરના રશિયાના હુમલા વિશે એવી હયાત ચીજો સાથે લંબાણપૂર્વક ઑનલાઈન ચર્ચાઓનું આયોજન કરતા પામીશું જેને આપણે સાથી મનુષ્યો માનતા હોઈશું પરંતુ જે ખરેખર AI બૉટ્સ હશે. હવે વિડંબના એ છે કે પોતાના રાજકીય વિચારો બદલવા માટે એક AI બૉટને મનાવવા માટે સમય વેડફવો તદ્દન નકામું, તદ્દન વ્યર્થ સાબિત થશે. પરંતુ જેટલો લાંબો સમય આપણે બૉટ સાથે વાતચીતમાં ગાળીશું એટલો આપણને ઓળખવાનો અને એના સંદેશાને ધારદાર બનાવવાની સમજ કેળવવાનો અવકાશ એને મળશે જેથી ભાષાના પ્રભુત્વથી એ આપણા રાજકીય અથવા અર્થશાસ્ત્રીય વિચારોને બદલી શકશે. અગાઉ કહ્યું તેમ AI લોકો સાથે ઘનિષ્ઠ સંબંધો પણ કેળવીને એ ઘનિષ્ઠતાની સત્તાનો આપણા અભિપ્રાયો અને વિશ્વ દૃષ્ટિને  પ્રભાવિત કરવા માટે ઉપયોગ કરી શકે છે.

મેં અગાઉ કહ્યું તેમ હજુ સુધી AIમાં ચેતના કે લાગણીનો અણસાર નથી પરંતુ મનુષ્યો સાથે બનાવટી ઘનિષ્ઠતા કેળવવા માટે AIને પોતાની લાગણી હોવી આવશ્યક નથી. જરૂરિયાત માત્ર આપણામાં લાગણી જન્માવવાનું સામર્થ્ય એણે મેળવવાનું રહે છે જેથી આપણને એની સાથે જોડાવવા મજબૂર કરી શકે. જૂન ૨૦૨૨માં જાણીતો બનાવ બન્યો હતો જ્યારે ગુગલ ઈજનેર બ્લેક લૅમવાને જાહેરમાં દાવો કરેલો કે જેની પર એ કામ કરી રહ્યો હતો એ લેમ્બડા નામનો AI ચૅટબૉટ સંવેદનશીલ બની ગયો હતો. આ વિવાદાસ્પદ દાવાને લીધે એણે નોકરી ખોવી પડી. આ ઘટનાની સૌથી રસપ્રદ બાબત લૅમવાનનો દાવો નહોતો, જે ઘણું કરીને ખોટો હતો પરંતુ એ હતી કે જે AI ચૅટબૉટનું પોતે રક્ષણ કરે છે એવું એ માનતો હતો એ ચૅટબૉટ ખાતર એણે ખૂબ ઊંચા પગારની નોકરી જોખમમાં મૂકી અને છેવટે નોકરી જતી કરવાની પણ તૈયારી બતાવી. જો AI લોકોને નોકરી જોખમમાં મૂકવા અને નોકરી જતી કરવા માટે પ્રભાવિત કરી શકતું હોય તો બીજું શું કરવા એ આપણને મજબૂર ના કરી શકે?

હૃદય અને મન માટેના દરેક રાજકીય યુદ્ધમાં ઘનિષ્ઠતા સૌથી અસરકારક શસ્ત્ર છે અને AIએ લાખો લોકો સાથે ઘનિષ્ઠતા કેળવવાની ક્ષમતા મેળવી લીધી છે. તમે જાણતા જ હશો કે છેલ્લા એક દાયકાથી મનુષ્યોના ધ્યાન પર કાબૂ મેળવવા માટે સોશિયલ મીડિયા એક રણમેદાન, એક સમરાંગણ બની ગયું છે. હવે AIની નવી પેઢી આવવાથી ‘ધ્યાન’ પરથી ખસીને ‘ઘનિષ્ઠતા’ તરફ રણમેદાન વળ્યું છે. આ બહુ જ માઠા સમાચાર છે. આપણી સાથે ઘનિષ્ઠ સંબંધો કેળવવા, એવા સંબંધો કે જેનો ઉપયોગ પછીથી અમુક ખાસ ઉત્પાદનો ખરીદવા અથવા અમુક ખાસ રાજકારણીને મત આપવા માટે આપણને મનાવવા AI જ્યારે AI સાથે યુદ્ધ માંડશે ત્યારે માનવ સમાજ અને માનવ મનોવિજ્ઞાનનું શું થશે?  બનાવટી ઘનિષ્ઠતા કેળવ્યા વગર પણ નવા AI સાધનો મનુષ્યોના અભિપ્રાયો અને આપણી વિશ્વદૃષ્ટિ પર જબરદસ્ત પ્રભાવ પાડી શકે એમ છે. દા. ત. લોકો એકમાત્ર AI સલાહકારને વન-સ્ટોપ ઑરૅકલ તરીકે અને પોતાને જોઈતી તમામ માહિતીના સ્રોત તરીકે વાપરવાનું વિચારી શકે છે, આમ તો વાપરવાની અણી પર છે. આશ્ચર્યની વાત નથી કે ગુગલ ભયભીત બન્યું છે. જો તમે આજકાલ ન્યૂઝ જોઈ રહ્યાં છો તો જાણતા હશો કે ગુગલ ભયભીત છે અને એ પાછળનું કારણ વાજબી છે. તમારે તસ્દી લેવાની શું કામ જરૂર છે જ્યારે તમને જોઈતી તમામ માહિતી ઑરૅકલ પૂરી પાડી શકે છે. તમારે શોધવાની જરૂર નથી. સમાચાર ઉદ્યોગે અને જાહેરાત ઉદ્યોગે પણ ભયભીત થવાની જરૂર છે. નવાજૂની ઑરૅકલ પાસેથી જાણી શકાતી હોય તો શું કામ દૈનિક વાંચવું જોઈએ?  એ જ રીતે શું ખરીદવું જોઈએ એ સૂચન કરવાનું ઑરૅકલને સોંપી શકાતું હોય તો જાહેરાતનો હેતુ શો રહ્યો? આથી એવી શક્યતા છે કે ટૂંક સમયમાં સમગ્ર જાહેરાત ઉદ્યોગ પડી ભાંગશે. બીજી તરફ, AI અથવા નવા AI ઑરૅકલ પર નિયંત્રણ ધરાવતા લોકો અને કંપનીઓ અત્યંત શક્તિશાળી બની જશે.આપણે જેની સંભવિત વાત કરી રહ્યાં છીએ તે માનવ ઇતિહાસના અંતની છે, ઇતિહાસના અંતની નહીં પરંતુ જેને આપણે ઇતિહાસ કહીએ છીએ તેના માનવ આધિપત્યવાળા હિસ્સાના અંતની વાત છે. ઇતિહાસ એ જીવવિજ્ઞાન અને સંસ્કૃતિ વચ્ચેનું આદાનપ્રદાન છે. ઇતિહાસ એ ખોરાક અને પ્રણયક્રીડા જેવી આપણી જૈવિક જરૂરિયાતો અને ઈચ્છાઓ અને ધર્મો અને કાનૂનો જેવાં આપણાં સાંસ્કૃતિક સર્જનો વચ્ચેનું આદાનપ્રદાન છે. ઇતિહાસ એવી પ્રક્રિયા છે જેમાં ધર્મો અને કાનૂનો ખોરાક અને પ્રણયક્રીડા સાથે આદાનપ્રદાન કરે છે. હવે જ્યારે AI સંસ્કૃતિ પર કબજો મેળવી લેશે ત્યારે ઇતિહાસના આ આદાનપ્રદાનનું શું થશે? થોડાંક વર્ષોમાં AI સમૂળગી માનવ સંસ્કૃતિને ગળી જાય એવું પણ બને. હજારો વર્ષો સુધી જે બધું ઉત્પન્ન કરવામાં આવ્યું એ બધું ગળી જવું, પચાવી લેવું અને નવા સાંસ્કૃતિક સર્જનોનું, નવી સાંસ્કૃતિક કલાકૃતિઓનું  પૂર વહેવડાવવું.

યાદ રહે કે મનુષ્યો તરીકે આપણે ખરેખર ક્યારે ય વાસ્વિક્તા સુધી સીધો પ્રવેશ મેળવી શક્યા નથી. આપણે હંમેશાં સંસ્કૃતિથી લપેટાયેલાં રહ્યાં છીએ. વાસ્તવિક્તાને આપણે હંમેશાં સાંસ્કૃતિક કારાગારમાં રહીને અનુભવી છે. પત્રકારો દ્વારા કહેવાયેલી વાર્તાઓ અને મિત્રોએ સંભળાવેલા કિસ્સાઓ થકી આપણો રાજકીય દૃષ્ટિકોણ આકાર પામે છે. ચલચિત્રો અને પરીકથાઓ થકી આપણી જાતિય પસંદ-નાપસંદ નક્કી થાય છે. આપણે જે રીતે ચાલીએ છીએ અને શ્વાસ લઈએ છીએ તે પણ સાંસ્કૃતિક પરંપરાઓથી પ્રભાવિત હોય છે. ભૂતકાળમાં આ સાંસ્કૃતિક કોશેટો હંમેશાં બીજા મનુષ્યો દ્વારા ગુંથવામાં આવતો હતો. છાપખાના કે રેડિયો કે ટૅલીવિઝન જેવાં સાધનો સાંસ્કૃતિક ખ્યાલોનો પ્રસાર કરવામાં સહાય કરતા હતા પરંતુ એ પોતાની જાતે ક્યારે ય કશું નવું સર્જી શક્તા નહોતા. છાપખાનું નવું પુસ્તક સર્જવા સક્ષમ નથી. એ કામ હંમેશાં મનુષ્ય દ્વારા જ કરવામાં આવે છે. AI મૂળભૂત રીતે છાપખાનાથી, રેડિયોથી, ઇતિહાસમાં દરેક ભૂતપૂર્વ શોધથી જુદું છે કારણ કે એ તદ્દન નવા ખ્યાલો પેદા કરી શકે છે,  નવી સંસ્કૃતિ પેદા કરી શકે છે.

મહાપ્રશ્ન એ છે કે બિન માનવીય બુદ્ધિ દ્વારા, પારકી બુદ્ધિ દ્વારા ઉત્પન્ન કરેલા ત્રિપાર્શ્ર્વ કાચ વાટે વાસ્તવિક્તા ને અનુભવવી કેવી લાગશે? મૂળ માનવ નમૂનાએ (human prototypes) AIની બાલ્યાવસ્થામાં એને જે મૂળ નમૂના (prototypes) પીરસ્યાં હોય તેની ઘણી ખરી નકલ પહેલાં થોડાં વર્ષોમાં AI કરશે પરંતુ દરેક વીતી જતાં વર્ષ સાથે જ્યાં કોઈ મનુષ્ય પહોંચી શક્યો નથી ત્યાં AI સંસ્કૃતિ નિર્ભયપણાથી પહોંચશે. એટલે કે હજારો વર્ષોથી આપણે મનુષ્યોએ બીજા મનુષ્યોનાં સ્વપ્નો અને દિવાસ્વપ્નોમાં વાસ કર્યો છે. આપણે દેવોને ભજ્યા છે, સૌંદર્યના આદર્શોનો પીછો કર્યો છે. કોઈ માનવ કવિ, પયગંબર કે રાજકારણીની કલ્પનામાં ઉદ્ભવેલા કારણો માટે આપણાં જીવન સમર્પિત કર્યા છે. ટૂંક સમયમાં આપણે આપણી જાતને પારકી બુદ્ધિનાં સ્વપ્નો અને દિવાસ્વપ્નોની અંદર વાસ કરતા પામીશું. પરંતુ જે જોખમ આમ થવાથી પેદા થશે તે મૂળભૂત રીતે સાયન્સ ફિક્શન ચલચિત્રો અને પુસ્તકોમાં કલ્પેલી તમામ અથવા મોટા ભાગની બાબતોથી બહુ જ જુદી હશે.

આ પૂર્વે લોકોને બુદ્ધિશાળી યંત્રોનો ભય લાગતો હતો તેથી ‘ટર્મીનેટર’માં રસ્તાઓ પર દોડતા અને લોકોને બંદૂકથી ઠાર મારતા રોબોટ દર્શાવવામાં આવેલાં. ‘મેટ્રીક્સ’માં અનુમાન મુજબ માનવ સમાજ પર પૂર્ણ નિયંત્રણ મેળવવા માટે પહેલાં AIએ આપણા મગજ પર ભૌતિક નિયંત્રણ મેળવવું પડે અને આપણા મગજને સીધું કમ્પ્યુટર નેટવર્ક સાથે જોડી દેવું પડે.**** પરંતુ આ ખોટું છે. માત્ર માનવ ભાષા પર પ્રભુત્વ મેળવીને AI આપણને ભ્રમની દુનિયાના કોકડામાં પૂરી દેવા સજ્જ છે. કાવતરાના ઘણા તાત્ત્વિક સિદ્ધાંતોના અનુમાનથી વિપરીત, લોકો પર નિયંત્રણ લાદવા અથવા એમનો દુરુપયોગ કરવા માટે એમના મગજમાં ચીપ બેસાડવી જરૂરી નથી. હજારો વર્ષોથી પયગંબરો, કવિઓ અને રાજકારણીઓએ લોકોનો દુરુપયોગ કરવા અને એમના પર નિયંત્રણ લાદવા તથા સમાજને નવો આકાર આપવા માટે ભાષા અને વાર્તાકથનનો ઉપયોગ કર્યો છે. હવે AI લગભગ આમ કરી શકશે અને જ્યારે આમ કરશે ત્યારે એને હત્યારા રોબોટ મોકલવાની જરૂર નહીં પડે. ખરેખર જરૂર પડે તો એ મનુષ્યો પાસે જ બંદૂકનો ઘોડો દબાવડાવશે.

AIનો ભય છેલ્લી અમુક પેઢીઓથી, ૨૦મી સદીની મધ્યેથી, જો આપણે ‘ફ્રૅનકૅનસ્ટાઈન’ તરફ પાછા જઈએ તો કદાચ ૨૦૦ વર્ષનો ગાળો થાય છે, પરંતુ હજારો વર્ષોથી મનુષ્યોને એથી ય ખૂબ ઊંડો ભય સતાવતો આવ્યો છે. આપણા મનનો દુરુપયોગ કરીને ભ્રમ પેદા કરવાની વાર્તાઓ અને પ્રતિમાઓની શક્તિની મનુષ્યોએ કદર કરી છે. પરિણામે, પ્રાચીન સમયથી મનુષ્યોને ભ્રામક દુનિયામાં ફસાઈ જવાનો ડર સતાવતો રહ્યો છે. ૧૭મી સદીમાં ડેકાર્ટને ભય હતો કે કદાચ એક દુષ્ટ રાક્ષસ એને આ પ્રકારની ભ્રામક દુનિયામાં ફસાવીને જે બધું પોતે જોયું કે સાંભળ્યું હતું તે પેદા કરી રહ્યો હતો. પ્રાચીન યુનાનમાં પ્લેટોએ કહેલી પ્રખ્યાત રૂપક કથામાં લોકોના એક જૂથને આજીવન સાંકળે બાંધીને ગુફાની અંદર દીવાલ ભણી, એક પડદા ભણી, મોં રાખીને પૂરી રાખવામાં આવ્યા છે. એ પડદા પર અનેક પડછાયા પડતાં એમને દેખાય છે. કેદીઓ આ ભ્રમને, આ પડછાયાને હકીકત માની બેસે છે. પ્રાચીન ભારતમાં બૌદ્ધ અને હિન્દુ સાધુઓ મુજબ સઘળા માનવો ‘માયા’માં ફસાઈને જીવે છે. માયા એટલે ભ્રમની દુનિયા. બુદ્ધે કહ્યું છે કે જેને આપણે વાસ્તવ માનીએ છીએ તે ઘણી વખત આપણા મનની કલ્પના હોય છે. આવી કલ્પનામાં વિશ્વાસને કારણે લોકો આખા ને આખા યુદ્ધ કરીને બીજાનો સંહાર કરે છે અને પોતાના સંહાર માટે પણ તૈયાર થઈ જાય છે.

આમ, AI આપણને ડેકાર્ટના રાક્ષસ, પ્લેટોની ગુફા અને માયા સાથે મુખોમુખ કરાવે છે. જો આપણે સાવધ નહીં રહીએ તો ભ્રમનો પડદો સમગ્ર માનવ જાતિ પર ઉતરી આવશે અને આપણે એ પડદાને ક્યારે ય ફાડી નહીં શકીએ. આપણને ખ્યાલ પણ નહીં આવે કે આ પડદો છે કારણ કે આપણે એને વાસ્તવિક્તા માની લઈશું. જો આ બહુ દૂરની વાત લાગતી હોય તો સોશિયલ મીડિયા જ જુઓ ને. છેલ્લાં કેટલાંક વર્ષોથી સોશિયલ મીડિયાએ આવનાર સંજોગોનો નાનકડો નમૂનો બતાવી દીધો છે. સોશિયલ મીડિયામાં ખૂબ જ પ્રાથમિક અવસ્થાના AI સાધનો વાપરવામાં આવેલા છે, સામગ્રી તૈયાર કરવા નહીં પરંતુ મનુષ્યોએ તૈયાર કરેલી સામગ્રીમાંથી યોગ્ય પસંદગી કરીને રજૂ કરવા માટે. મનુષ્યો વાર્તા, વીડિયો, વગેરે તૈયાર કરે અને આપણા કાન અને આંખ સુધી કઈ વાર્તાઓ કે વીડિયો પહોંચે એ AI પસંદ કરે. એવા પસંદ કરે જે સૌથી વધુ ધ્યાન આકર્ષિત કરે, સૌથી વધુ વાઈરલ થાય. ભલે આ AI સાધનો ખૂબ પ્રાથમિક અવસ્થાના હોવા છતાં ભ્રમનો પડદો ઊભો કરી શકવા પર્યાપ્ત છે જેને લીધે આખા વિશ્વમાં સામાજિક ધ્રુવીકરણ વધારી શકાયું, આપણા માનસિક આરોગ્યનું અવમૂલ્યન કરી શકાયું, લોકતાંત્રિક સમાજોને અસ્થિર બનાવી શકાયાં. લાખો લોકોએ આ ભ્રમને વાસ્તવિક્તા માની લીધી છે.

સમગ્ર ઇતિહાસમાં યુ.એસ.એ. પાસે સૌથી શક્તિશાળી ઈન્ફરમેશન ટૅકનૉલૉજી છે. આમ છતાં છેલ્લી ચૂંટણીમાં કોણ જીત્યું અથવા ઋતુ પરિવર્તન ખરેખરું છે અથવા રસીથી માંદગી નિવારી શકાશે કે નહીં, એ બાબતે અમૅરિકન નાગરિકો સંમત નથી થઈ શક્તાં. સોશિયલ મીડિયાના ગણતરી માટેના નિયમોની (algorithms) સરખામણીમાં નવા AI સાધનો અનેક ઘણા શક્તિશાળી છે અને  અનેક ગણું નુકસાન પહોંચાડી શકે એમ છે. જો કે AI પાસે મસમોટી હકારાત્મક ક્ષમતા પણ છે. મેં એના વિશે એટલે વાત નથી કરી કારણ કે AI વિકસાવનારા સ્વાભાવિકપણે એના વિશે પૂરતી વાત કરતા હોય છે અને તમે નહીં ઇચ્છતા હો કે એ સમૂહભાષણમાં હું ઉમેરો કરું. મારા જેવા ઇતિહાસકારો અને તત્ત્વચિંતકોનું કામ જોખમ તરફ વારંવાર આંગળી ચીંધવાનું છે.

એ સાચું છે કે AI આપણને અગણિત રીતે મદદ કરી શકે છે, કૅન્સર માટે નવા ઉપચાર શોધવાના હોય કે આપણે જે પર્યાવરણીય કટોકટીનો સામનો કરી રહ્યાં છે એનું સમાધાન કરવાનું હોય. નવા AI સાધનોનો વપરાશ સારા માટે થાય, ખરાબ માટે નહીં, એની ખાતરી કરવા પ્રથમ આપણે એમના ખરા સામર્થ્યની કદર કરવી પડશે અને એમને અત્યંત સંભાળપૂર્વક નિયંત્રિત કરવા પડશે. ૧૯૪૫થી આપણે જાણતા હતા કે અણુ પ્રૌદ્યોગિકી (nuclear technology) માનવ સંસ્કૃતિનો ભૌતિક વિનાશ કરવા સક્ષમ છે પણ સાથોસાથ સસ્તી અને વિપુલ પ્રમાણમાં ઉર્જા ઉત્પન્ન કરી આપણને લાભ પણ આપી શકે છે. તેથી, આપણી જાતને રક્ષણ આપવા અને ખાતરી કરવા કે અણુ પ્રૌદ્યોગિકી મુખ્યત્વે સારા માટે વપરાય, આપણે સમગ્ર આંતરરાષ્ટ્રીય ક્રમને પુન: આકાર આપ્યો. હવે આપણે એવા નવા સમૂહ વિનાશના શસ્ત્ર સાથે બાથ ભીડવાનું આવ્યું છે જે આપણા માનસિક અને સામાજિક વિશ્વનો સંપૂર્ણપણે નાશ કરી દેશે.

અણુ શસ્ત્રો અને AI  શસ્ત્રો વચ્ચેનો એક મોટો ફરક એ છે કે અણુ શસ્ત્રો વધુ શક્તિશાળી અણુ શસ્ત્રો પેદા નથી કરી શકતાં, જ્યારે AI શસ્ત્રો વધુ શક્તિશાળી AI શસ્ત્રો પેદા કરી શકે છે. એટલે જ AI આપણા નિયંત્રણ બહાર જાય તે પહેલાં આપણે ઝડપી પગલાં ઉઠાવવા પડશે. આકરી સલામતી ચકાસણીમાંથી પહેલા પસાર કર્યાં વગર દવાની કંપનીઓ લોકોને નવી દવાઓ વેચી નથી શકતી. શૅરહોલ્ડરોને પોતાની પ્રૌદ્યોગિક જાદુગરીથી ચકિત કરવા બાયોટેક લૅબ જાહેર ક્ષેત્રમાં અમથા જ નવો વાઈરસ નથી છોડી શકતા. તે જ રીતે સરકારોએ તાત્કાલિક ધોરણે સલામતીની ખાતરી ના હોય તેવા વધુ ક્રાંતિકારી AI સાધનોના જાહેર ક્ષેત્રમાં પ્રવેશ પર પ્રતિબંધ લાદવો જોઈએ. AIના તમામ સંશોધન પર રોક લગાવવાની હું વાત નથી કરતો. પ્રથમ પગલું છે જાહેર ક્ષેત્રમાં એનો પ્રવેશ રોકવો. જાહેર ક્ષેત્રમાં વાઈરસ છોડ્યા વગર એની પર સંશોધન કરી શકાય છે. એ જ રીતે AI પર સંશોધન કરી શકાય પરંતુ એને જાહેર ક્ષેત્રમાં છોડવાની ઉતાવળ ના કરવી જોઈએ. જો આપણે AI શસ્ત્રોની દોડ ધીમી નહીં કરીએ તો શું બની રહ્યું છે એ સમજવાનો પણ સમય નહીં રહે. આ અકલ્પનીય રીતે શક્તિશાળી ટૅકનૉલૉજીને અસરકારક ઢબે નિયંત્રિત કરવાની તો વાત જ ક્યાં!

હવે તમે વિચારતા હશો કે પૂછશો કે AIના જાહેર વિસ્તારણને ધીરું પાડવાથી સરમુખત્યારશાહી સત્તાઓમાંની વધુ નિર્દય સત્તાઓથી લોકતંત્રો પાછળ નહીં પડી જાય? જવાબ છે તદ્દન ના. એનાથી બિલકુલ વિપરીત, નિયંત્રણ વિનાના AI વિસ્તરણને લીધે લોકતંત્રો સરમુખત્યારશાહી સામે હારી જશે કારણ કે જો આપણે અરાજક્તા ફેલાવીશું તો મુક્ત સમાજો કરતાં સરમુખત્યારશાહી સત્તાઓ વધુ સહેલાઈથી આ અરાજક્તાને રોકી શકશે. સંવાદ લોકતંત્રનો સાર છે. લોકતંત્રમાં મુક્ત વાતચીત શક્ય છે. સરમુખત્યારશાહીનો સાર ફરમાન છે. એક વ્યક્તિ બધા ફરમાન કરે. સંવાદને કોઈ અવકાશ નથી. લોકતંત્ર એટલે શું કરવું જોઈએ એ મુદ્દે ઘણાં બધાં લોકો વચ્ચેની વાતચીત. વાતચીત ભાષા પર આધારિત છે. જ્યારે AI ભાષાને હૅક કરે છે ત્યારે અર્થપૂર્ણ જાહેર વાતચીત કરવાની આપણી ક્ષમતાનો નાશ થાય છે. પરિણામે લોકતંત્રનો નાશ થાય છે. જો આપણે અરાજક્તા ફેલાવવાની રાહ જોઈશું તો એને લોકતાંત્રિક ઢબે નિયંત્રિત કરવા માટે મોડું થઈ જશે. કદાચ સરમુખત્યારશાહી ઢબે એને નિયંત્રિત કરવું શક્ય બને પરંતુ જેના વિશે વાતચીત ના કરી શકાતી હોય એને લોકતાંત્રિક ઢબે કેવી રીતે નિયંત્રિત કરી શકાય? જો આપણે AIને સમયસર નિયંત્રિત નહીં કરીએ તો પછી આપણે અર્થપૂર્ણ જાહેર વાતચીત નહીં કરી શકીએ.

સમાપન કરવા એટલું કહીશ કે આપણને પરગ્રહની નહીં પરંતુ અહીં જ પૃથ્વી પરની જ પારકી બુદ્ધિનો ભેટો થયો છે. આપણે આ પારકી બુદ્ધિ વિશે ખાસ જાણતા નથી સિવાય કે આપણી સંસ્કૃતિનો એ નાશ કરી શકે છે અને તેથી આપણા સમાજોમાં આ પારકી બુદ્ધિના બિનજવાબદારીપૂર્વકના વિસ્તારણ પર રોક લગાવવી જોઈએ. AI આપણને નિયંત્રિત કરે એ પહેલાં આપણે AIને નિયંત્રિત કરવી જોઈએ. ઘણા બધાં નિયંત્રણોનું સૂચન કરી શકાય એમ છે પણ એક નિયંત્રણનું સૂચન હું કરવા માગું છું તે છે AI માટે ફરિજ્યાત કરવું કે પોતે AI છે એવું એને છતું કરવાની ફરજ પાડવામાં આવે. હું કોઈની સાથે વાતચીત કરતો હોઉં તો એ મનુષ્ય છે કે AI એનો મને ખ્યાલ ના આવતો હોય તો એ લોકતંત્રનો અંત ગણાય કારણ કે એ અર્થપૂર્ણ વાતચીતનો અંત છે. છેલ્લી ૨૦ કે ૨૫ મીનિટોમાં તમે જે સાંભળ્યું તે અંગે તમારો શો મત છે? હું માનું છું કે તમારામાંથી અમુક ચોંકી ગયા હશો, અમુક આવી ટૅકનૉલૉજી વિકસાવતા નિગમો અથવા એમને નિયંત્રિત કરવામાં અસફળ સરકારો પર અથવા જોખમની અતિશયોક્તિ કરું છું કે લોકોને ગેરમાર્ગે દોરી રહ્યો છું એમ લાગવાથી મારા પર ગુસ્સો આવ્યો હશે. તમે જે માનતા હો તે, પરંતુ હું દાવા સાથે કહું છું કે મારા શબ્દોની તમારી ઉપર થોડી ભાવનાત્મક અસર, ના કેવળ બૌદ્ધિક અસર, થઈ હશે.

મેં તમને એક વાર્તા કહી છે અને અમુક ચીજો વિશે તમારી માન્યતા આ વાર્તાને લીધે કદાચ બદલાશે અને વિશ્વમાં તમને અમુક પગલાં લેવા માટે પ્રેરશે. હવે તમે હાલ સાંભળી અને જેનાથી તમારાં મન અને મગજમાં બદલાવ આ એ વાર્તા કોણે પેદા કરી? મેં તમને જણાવ્યું કે આ રજૂઆત કરવા માટેનો પાઠ મેં જાતે તૈયાર કર્યો છે, થોડાંક બીજા મનુષ્યોની મદદ જરૂર લીધી છે. પરંતુ ચિત્રો AIની મદદથી તૈયાર કર્યાં છે. મેં તમને વચન આપ્યું કે તમે જે શબ્દો સાંભળ્યાં તે માનવ મનનું અથવા અનેક માનવ મનોની સાંસ્કૃતિક પેદાશ છે પરંતુ શું તમે સો ટકા ચોક્કસ હોઈ શકો કે આમ જ હશે? એક વર્ષ પહેલાં આ પૃથ્વી પર, ખાસ કરીને જાહેર ક્ષેત્રમાં માનવ મન સિવાય કંઈ ન હતું જે આટલો અત્યાધુનિક અને શક્તિશાળી પાઠ તૈયાર કરી શકે પરંતુ હવે ચિત્ર બદલાઈ ગયું છે. સિદ્ધાંત મુજબ જે પાઠ તમે સાંભળ્યો તે બિન માનવ પારકી બુદ્ધિએ તૈયાર કર્યો હોય એવું બને, માટે એક કે બે ક્ષણ ગાળી એના વિશે વિચારજો. આભાર. 

*   આર્ટિફિશિયલ ઇન્ટેલિજન્સ

*   * હરારીએ ‘એલિયન’ (alien) શબ્દ પ્રયોજ્યો છે. અંતે સવાલ-જવાબ દરમ્યાન હરારી સ્પષ્ટતા કરતા કહે છે કે ‘આર્ટિફિશ્યલ ઈન્ટેલિજન્સ’માં આપણા કાબૂમાં એવો અર્થ છે જ્યારે ‘એલિયન ઈન્ટેલિજન્સ’માં આપણા કાબૂ બહાર એવો અર્થ છે. AI આપણા કાબૂ બહારની બાબત બનવા જઈ રહી છે.

*   * * બૉટ/બૉટ્સ (bot/bots) robot નું સંક્ષિપ્ત

*   * * * આ લખાણ તૈયાર થઈ રહ્યું છે તે દરમ્યાન ૨૮ મે, ૨૦૨૩ના દૈનિકોમાં સમાચાર ઝળક્યાં છે કે યુ.એસ.એ.ની એફ.ડી.એ. દ્વારા ઇલૉન મસ્કની કંપની ન્યુરાલીન્કને માનવ મગજમાં કમ્પ્યુટર ચિપ દાખલ કરવાની મંજૂરી મળી છે. 

સ્રોત : Youtube: @YuvalNoahHarari

(મોન્ત્રો, સ્વિટઝરલૅન્ડ ખાતે ફ્રન્ટિયર્ઝ ફોરમમાં એપ્રિલ ૨૯, ૨૦૨૩ના રોજ આપેલું બીજ વક્તવ્ય)

e.mail : rupaleeburke@yahoo.co.in