L'algoritme sota l'escrutini: un repte per a les institucions andorranes
Una investigació realitzada per La Fundación Maldita.es ha revelat una xifra alarmant que afecta directament la seguretat dels menors al Principat. L'estudi va identificar més de 26.000 perfils potencialment vinculats a l'abús sexual infantil dins de la plataforma TikTok.
Aquest descobriment no només posa en dubte l'eficàcia dels filtres automàtics de la xarxa social, sinó que obre un debat urgent sobre com les autoritats andorranes poden protegir els infants davant d'un contingut accessible des del país. Carlos Hernández, director adjunt de Maldita.es, va explicar al Diari que alguns usuaris intenten ocultar parcialment vídeos explícits utilitzant lletres o imatges innocents per esquivar la detecció.
> "Els sistemes de TikTok no funcionen i no n'hi ha prou amb pedaços, s'han d'aplicar mesures"
Aquesta declaració resumeix el consens entre experts davant les deficiències detectades. L'entitat investigadora també va trobar assetjament a menors en vídeos en directe i negociacions de material il·lícit als comentaris.
La resposta institucional: limitacions i competències
La reacció dels organismes públics ha estat mesurada però cautelosa. El Govern andorrà va assegurar que no té constància de cap cas relacionat amb aquests fets específics al país ni ha obert una investigació penal directa contra la plataforma en aquest moment.
Per altra banda, l'Agència Andorrana de Protecció de Dades (APDA) manté un rol diferenciat. Tot i que no persegueix penalment el material d'abús, sí que supervisa les dades personals. L'organisme recorda que la llei permet afectar empreses estrangeres si ofereixen serveis a residents o analitzen el seu comportament.
Víctor Rosselló, expert en protecció de dades, considera que l'eina legal existeix per impedir visualitzacions des d'adreces IP andorranes. No obstant això, abans de promoure un bloqueig judicial, caldria acreditar tècnicament que els vídeos són realment accessibles des del Principat.
> "Protecció de Dades podria fer que aquests continguts no es veiessin a Andorra"
Aquesta frase il·lustra la via administrativa com a possible solució, tot i que les decisions judicials o administratives d'Espanya no són directament aplicables aquí. L'APDA estudia si té competències per actuar o ha de derivar el cas.
Com funcionen els algoritmes del risc?
Martí Mercadé, CEO d'Altitud Digital, va explicar com la tecnologia recomanadora funciona en contra dels usuaris innocents. Els sistemes aprenen de cada interacció: cerques, temps de visualització i botons 'm'agrada'.
Cada segon que un usuari es queda mirant contingut afavoreix l'algoritme per mostrar vídeos similars. Això crea una espiral on el consum reiterat d'una temàtica perillosa porta a la descoberta involuntària de material il·lícit.
L'especialista va advertir que els mecanismes de filtratge poden tenir fallades sistèmiques, permetent esquivar-los amb simples trucus visuals com imatges superposades. L'objectiu real d'aquests algoritmes és retenir l'usuari al màxim temps possible.
Què fa la policia i les entitats internacionals?
La policia andorrana manté un canal de comunicació amb TikTok per demanar informació i comunicar continguts que calgui retirar immediatament. A més, Andorra Digital disposa d'acords de cooperació amb organitzacions com INCIBE, INSAFE i INHOPE.
Aquestes entitats especialitzades treballen en la prevenció i denúncia a nivell internacional. No obstant això, el debat segueix obert sobre si les mesures actuals són suficients per garantir un entorn segur per als menors que naveguen per internet des d'Andorra.
El projecte de llei parlamentari que restringiria l'accés dels menors de 16 anys a xarxes socialies amb risc segueix en tràmit, però encara no s'ha concretat cap suspensió específica contra TikTok.