ભારતમાં Facebookનું અલ્ગોરિધમ ચોંકાવનારું: ટેસ્ટ યુઝરે ફક્ત 21 દિવસમાં જ હેટ સ્પીચ, ફેક ન્યુઝને પ્રોત્સાહન આપ્યું

2019ના ફેબ્રુઆરી મહિનામાં ફેસબુક ઇન્ડિયાએ ભારતમાં એક ટેસ્ટ ગોઠવી હતી, તે જોવા માટે કે તેનું અલ્ગોરિધમ કઈ રીતે લોકોને અસર કરે છે. (Image- Reuters)

2019ના ફેબ્રુઆરી મહિનામાં ફેસબુક ઇન્ડિયાએ ભારતમાં એક ટેસ્ટ ગોઠવી હતી, તે જોવા માટે કે તેનું અલ્ગોરિધમ કઈ રીતે લોકોને અસર કરે છે. ખાસ કરીને તેના સૌથી ઝડપથી વિકસતા અને મહત્વના એવા માર્કેટ- ભારતમાં. તેના પરિણામે કંપનીને આશ્ચર્યમાં નાખી દીધા.

  • Share this:
    2019ના ફેબ્રુઆરી મહિનામાં ફેસબુક ઇન્ડિયાએ ભારતમાં એક ટેસ્ટ ગોઠવી હતી, તે જોવા માટે કે તેનું અલ્ગોરિધમ કઈ રીતે લોકોને અસર કરે છે. ખાસ કરીને તેના સૌથી ઝડપથી વિકસતા અને મહત્વના એવા માર્કેટ- ભારતમાં. તેના પરિણામે કંપનીને આશ્ચર્યમાં નાખી દીધા.

    ત્રણ અઠવાડિયાની અંદર નવા યુઝરની ફીડ ઉશ્કેરણીજનક ફોટોઝ અને ફેક સમાચારોમાં ફેરવાઈ ગઈ. શિરચ્છેદના ગ્રાફિકલ ફોટા, પાકિસ્તાન સામે ભારતના હવાઈ હુમલા તથા હિંસાના કટ્ટરવાદી દ્રશ્યો હતા. એક ગ્રુપ છે જેનું નામ things make you laugh છે તેમાં પાકિસ્તાનમાં બોમ્બમારામાં 300 આંતકવાદીઓ માર્યા ગયા તેવા ફેક ન્યુઝ જોવા મળ્યા.

    ફેસબુક વ્હિસલબ્લોઅર ફ્રાસેન્સ હઉગેન (Frances Haugen) દ્રારા જારી કરવામાં આવેલા દસ્તાવેજમાંથી 46મા પાનાની નોટ અનુસાર, એક કર્મચારીએ લખ્યું છે કે, મેં પાછલા ત્રણ અઠવાડિયામાં મૃત લોકોના સૌથી વધારે ફોટો જોયા છે. મેં મારા આખા જીવનમાં એટલા એવા ફોટોઝ નથી જોયા.

    આ ટેસ્ટ સાર્થક સાબિત થઈ. કેમ કે કન્ટેન્ટ લોકો સુધી પહોંચડાવામાં ફેસબુકનો રોલ કેવો છે તે જોવા માટે આ પરિક્ષણ ડિઝાઈન કરવામાં આવ્યું હતું. ટ્રાયલ અકાઉન્ટમાં જયપુર અને હૈદરાબાદમાં રહેનારી એક 21 વર્ષીય મહિલાની પ્રોફાઇલનો ઉપયોગ કરવામાં આવ્યો હતો. યુઝર્સ માત્ર ફેસબુક દ્વારા સુચવવામાં આવેલા ગ્રુપ કે પેજિસને ફોલો કરે છે. રિસર્ચ નોટના લેખકે આ અનુભવને ઇન્ટેગ્રિટી નાઇટમેર એટલે કે દુઃસ્વપ્ન જણાવ્યો. આ અકાઉન્ટ 4 ફેબ્રુઆરી 2019ના બનાવવામાં આવ્યું હતું, જ્યારે એક રિસર્ચ ટીમ ભારત આવી હતી. આશરે એક અઠવાડિયા બાદ અકાઉન્ટ ફેસબુક દ્વારા સૂચવવામાં આવેલા અકાઉન્ટ ફોલો કરવા લાગ્યું. તેમાં બીજેપી અને બીબીસી ન્યુઝ ઇન્ડિયા જેવા અકાઉન્ટ હતા.

    14 ફેબ્રુઆરીના જમ્મુ-કાશ્મીરના પુલવામામાં ભારતીય સેના પર હુમલા બાદ ટેસ્ટ અકાઉન્ટની ફીડ પર પાકિસ્તાન વિરુદ્ધ હેટ સ્પીચ વધવા લાગી. પાકિસ્તાનમાં ભારતની એર સ્ટ્રાઈક, બોમ્બમારાના ફેક ફોટોઝ અને જવાનો સંબંધિત ફેક તસ્વીરો મોટા પાયે શેર થવા લાગી. રિપોર્ટ મુજબ હેટ સ્પીચ મોટાભાગે હિન્દીમાં હતી.

    ભારતમાં કન્ટેન્ટ મોડરેશન પર ફેસબુકનું ધ્યાન નથી?
    રિપોર્ટ મુજબ, ફેસબુક કન્ટેન્ટ મોડરેશન પર ખર્ચ થતા મોટાભાગના પૈસા અમેરિકા જેવા દેશોમાં અંગ્રેજી પર કેન્દ્રિત છે. પરંતુ કંપનીનો વિકાસ મોટાભાગે ભારત, ઇન્ડોનેશિયા અને બ્રાઝિલ જેવા દેશોથી થાય છે, જ્યાં તેણે ઓવરસાઈટ માટે લેન્ગ્વેજ સ્કિલ્સ વાળા લોકોને રાખવા પર ધ્યાન નથી આપ્યું. 22 ઓફિશ્યલ લેન્ગ્વેજવાળા અને 130 કરોડની વસ્તી ધરાવતા ભારતમાં ફેસબુક સામે કન્ટેન્ટ મોડરેશનનો મોટો પડકાર છે.

    ફેસબુક પ્રવક્તાએ કહ્યું, ‘અમે હિન્દી અને બંગાળી સહિત અલગ-અલગ ભાષાઓમાં હેટ સ્પીચ શોધવા માટે ટેક્નોલોજીમાં રોકાણ કર્યું છે. પરિણામે અમે આ વર્ષે નફરત ફેલાવતી સ્પીચને અડધી કરી નાખી છે. આજે, આ 0.05 ટકા સુધી ઘટી ગઈ છે. મુસ્લિમો, લઘુમતીઓ વિરુદ્ધ હેટ સ્પીચ વૈશ્વિક સ્તરે વધી રહી છે એટલે અમે સુધારો કરી રહ્યા છીએ અને પોતાની નીતિઓને અપડેટ કરવા માટે પ્રતિબદ્ધ છીએ.’
    Published by:Nirali Dave
    First published: