Guvernul Indiei a purtat, pe 5 și 6 august, o rundă de discuții cu echipa globală Meta pe marginea celor mai sensibile probleme legate de funcționarea platformelor digitale. Pe agenda întâlnirii au figurat combaterea conținutului care implică exploatarea și abuzul sexual asupra copiilor (CSEAM), restricționarea temporară a unor conturi verificate și extinderea conținutului generat cu ajutorul inteligenței artificiale, potrivit secretarului pentru Tehnologia Informației, Sankaran Krishna
Meta era deja în atenția autorităților indiene, după ce pe Instagram au fost descoperite reclame plătite ce conțineau materiale de tip CSEAM. În urma acestor constatări, Guvernul de la New Delhi a trimis companiei o notificare oficială prin care a solicitat explicații și măsuri clare pentru prevenirea unor situații similare.
Discuțiile au avut loc la doar câteva zile după ce o postare publicată pe Facebook de premierul Narendra Modi, referitoare la nemulțumirile studenților provocate de scurgerea subiectelor de la examene, a fost restricționată temporar de platformă.
„Vom discuta mai multe aspecte. Este vorba despre materialele CSEAM și măsurile adoptate pentru combaterea acestora, despre conținutul generat sintetic și modul în care este monitorizat, precum și despre protejarea conturilor verificate ale personalităților publice. Atunci când se decide eliminarea unui conținut trebuie să existe garanții și proceduri clare”, a declarat Sankaran Krishnan, cu ocazia lansării unei platforme independente de evaluare a inteligenței artificiale, dezvoltată de AI4Bharat la IIT Madras împreună cu Josh Talks AI.
Guvernul cere explicații privind mecanismele de moderare ale Meta
Secretarul pentru Tehnologia Informației a explicat că autoritățile au vrut să afle de ce mecanismele de moderare nu au funcționat corespunzător în aceste cazuri și ce dificultăți întâmpină compania.
„Dorim să înțelegem de ce unele dintre aceste mecanisme nu au funcționat așa cum ar fi trebuit și care sunt provocările cu care se confruntă Meta”, a adăugat Krishnan.
Oficialul indian a subliniat că o companie cu resursele și capacitatea tehnologică ale Meta ar trebui să poată identifica și soluționa eficient astfel de probleme, în special în ceea ce privește protecția utilizatorilor și integritatea platformelor.
Înaintea întâlnirii cu echipa globală, Guvernul indian a convocat și conducerea Meta India, cerând ulterior explicații suplimentare privind restricționarea temporară a postării premierului Narendra Modi.
Totodată, autoritățile de la New Delhi au acuzat compania că algoritmii folosiți pentru distribuirea și moderarea conținutului pot crea un bias algoritmic, favorizând sau limitând vizibilitatea anumitor tipuri de conținut fără o justificare transparentă.
Discuțiile dintre autoritățile indiene și reprezentanții marilor platforme digitale reflectă preocupările tot mai mari legate de modul în care sunt gestionate conținutul online, mecanismele de moderare și noile tehnologii bazate pe inteligență artificială. India reprezintă una dintre cele mai importante piețe pentru Meta, datorită numărului ridicat de utilizatori ai platformelor sale și rolului tot mai mare pe care îl are în dezvoltarea economiei digitale globale. Rezultatul acestor consultări ar putea influența modul în care compania își adaptează politicile de moderare și utilizarea instrumentelor AI, într-un moment în care platformele tehnologice sunt supuse unei presiuni tot mai mari pentru a asigura un mediu online mai sigur și mai transparent.