Una diseñadora gráfica y educadora de 38 años en Delhi, de nombre Shubnam, fue grabada con lentes inteligentes de Meta durante una protesta contra un proyecto de ley que reduciría el reconocimiento legal para personas transgénero en India. El video fue editado en una publicación burlona que atrajo millones de visualizaciones, abusos transfóbicos, videos de reacción y memes generados por IA, propagándose desde Instagram hasta X y YouTube.
Shubnam dijo que el video retrocedió dos décadas de progreso personal: «Por un momento, sentí que toda esta vida adulta que había vivido era solo un largo sueño lúcido, y que iba a despertar como esa niña queer e ignorante otra vez». Desde entonces, no ha usado un sari fuera de su vecindario.
Grabación de Shubnam
Shubnam, que se identifica como transfemenina, estaba en una protesta contra un proyecto de ley que endurecería el reconocimiento legal para personas transgénero en India. Un creador de contenido con lentes inteligentes de Meta la grabó, y en el video, el creador le preguntó a Shubnam por qué vestía «ropa femenina».
Shubnam le pidió que se alejara. El video fue editado en una publicación burlona que atrajo millones de visualizaciones, abusos transfóbicos, videos de reacción y memes generados por IA, propagándose desde Instagram hasta X y YouTube.
La propagación del daño
Expertos advierten que muchos otros sufrirán experiencias similares a medida que los lentes inteligentes se vuelvan más comunes, y que los problemas de privacidad se están volviendo especialmente agudos en India, donde la grabación encubierta y la circulación de imágenes sin consentimiento ya son generalizadas. Los casos de ciberacoso, sextorsión, deepfakes y otras formas de abuso en línea están creciendo en India.
Las autoridades de seguridad india están adoptando por sí mismas herramientas de vigilancia impulsadas por IA, incluidos sistemas de reconocimiento facial y lentes inteligentes habilitados por IA, lo que reduce las posibilidades de una respuesta ante tecnologías como los lentes inteligentes.
Lentes inteligentes en India
Los lentes inteligentes se encuentran entre los dispositivos de más rápido crecimiento en el mercado de dispositivos portátiles de India, según International Data Corporation. Reliance Jio, una de las compañías de telecomunicaciones más grandes de India, planea lanzar un competidor de menos de 105 dólares para los lentes de Meta a finales de este año, mientras que el último modelo de Meta cuesta 420 dólares en India.
Meta rechaza la responsabilidad de proteger a las personas de intrusiones, según Janusz Świerczyński, investigador de la Oxford Saïd Business School que estudia privacidad y tecnología emergente. Meta se basa en que los usuarios se comporten de forma responsable, dice Świerczyński, y les indica a los usuarios que busquen un pequeño LED en los marcos de las gafas que se activa cuando se está grabando.
El Problema del LED
Los creadores han demostrado formas de sortear la luz de grabación en las gafas de Meta, incluyendo cubrirla o desactivarla. Eso significa que la luz en la que Meta confía para indicar la grabación no siempre es confiable.
Algunos manifestantes le dijeron a MIT Technology Review que nunca vieron el LED en las gafas Meta AI que llevaban los policías.
Vigilancia Policial
Una petición presentada por la ex presidenta de la Unión de Estudiantes de Jawaharlal Nehru University, Aishe Ghosh, alegaba que la policía de Delhi filmó a los manifestantes continuamente durante semanas, incluso mientras comían y descansaban, y amenazó con enviar imágenes a los padres y colegios de los estudiantes. El fiscal general de la India desestimó el caso en julio como «litigio de lujo».
La policía abrió 10 investigaciones penales contra estudiantes por delitos que incluyen disturbios, agresión a funcionarios públicos y daños a la propiedad pública.
Consentimiento en India
Sameer Parmar, consejero de Meri Trustline, dice que la débil comprensión de India sobre el consentimiento le da a una cámara invisible mucho más espacio para causar daño. Parmar señala que simplemente estar en un lugar público a menudo se considera un consentimiento implícito para ser fotografiado o filmado.
Eso significa que un manifestante que no ve el LED en las gafas de un policía puede asumir que no se está grabando, aunque sí lo esté.
Lo Que Dice Meta
Meta dice que su LED de captura parpadea cuando se toma una foto o un video, no se puede desactivar y, si se cubre o daña, la cámara se desactiva. Meta también dice que los usuarios deben cumplir con la ley y respetar la privacidad.
La posición de la empresa es que el usuario es responsable de cómo se utiliza el dispositivo. El usuario, no el fabricante, debe vigilar la luz y decidir qué es aceptable. )
El costo del registro encubierto )
La experiencia de Shubnam muestra lo rápido que un momento privado puede convertirse en una pesadilla pública. Una sola grabación se convirtió en una burla que la siguió en línea, y el daño no se detuvo en la pantalla. Cambió la forma en que se viste y se mueve por su ciudad. )
El mercado indio de lentes inteligentes está creciendo rápidamente, y lo mismo ocurre con el abuso que los acompaña. La tecnología se está moviendo más rápido que las leyes y las normas que deberían regirla. )
La pregunta ahora es si alguien intervendrá para detenerlo. )
- Ciberacoso )
- Chantaje sexual )
- Deepfakes )
- Otro abuso en línea )
Estos casos están creciendo en India, y los lentes inteligentes los están facilitando. La cámara es lo suficientemente pequeña para pasar desapercibida, la luz puede ser cubierta, y el metraje puede extenderse por Internet en cuestión de horas. )
La historia de Shubnam es un ejemplo, pero no es un caso aislado. A medida que la tecnología se vuelve más barata y común, los riesgos se multiplican. )
La postura del periódico )
El periódico apoya a Shubnam y se opone al registro de manifestantes por los lentes inteligentes de Meta, la edición del material en una bobina burlona y la propagación de abusos transfóbicos y memes generados por IA en las plataformas de redes sociales. El registro de Shubnam, la edición en una bobina burlona y la propagación de contenido abusivo muestran exactamente lo que sucede cuando la vigilancia no se cuestiona.
El periódico se opone al estado de vigilancia, ya sea construido por gobiernos o por las empresas que les venden, y apoya a los ciudadanos y grupos locales que están resistiendo. La dependencia de Meta de una pequeña luz LED que puede ser cubierta o deshabilitada, y su negativa a asumir la responsabilidad de proteger a las personas de intrusiones, encaja claramente en esa oposición. El periódico apoya el derecho de Shubnam a vestirse libremente y moverse por su ciudad sin temor a ser grabada y ridiculizada.
El periódico quiere que la tecnología se detenga hasta que las leyes y normas estén al día. Quiere que los fabricantes dejen de afirmar que el usuario es el único responsable de cada consecuencia de una cámara que puede ser oculta, cubierta o deshabilitada.
Fuente: «“Los lentes inteligentes ya están causando estragos en India,” MIT Technology Review.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.