La tecnología avanza y con ello la violencia digital

Columnas domingo 19 de mayo de 2024 - 23:13

La Inteligencia Artificial (IA) ha redefinido la forma de crear contenido, generar información y distribuirla en la red; no obstante, la falta de regulación sobre el uso de estas tecnologías ha abierto la puerta a abusos graves en Internet.

La violencia digital se define como cualquier acción que utilice las Tecnologías de la Información y la Comunicación (TIC) para agredir, violentar, vulnerar o exhibir la intimidad de una persona.

El entorno digital ha trasladado y amplificado las violencias que experimentan, en su mayoría, mujeres y personas de la diversidad sexual, inclusive cada día surgen nuevas herramientas, y con ellas, nuevas formas de ataques y agresiones.

Una de las formas más insidiosas de estas violencias es el deepfake, este término describe materiales multimedia –videos, fotos, audios– que son tan realistas, pero que son fabricados mediante IA.

Estos contenidos falsos pueden suplantar la voz o la cara de una persona en material preexistente y así crear una peligrosa ilusión de realidad. El tipo más común de deepfake es el fakeporn, donde se manipulan imágenes y videos para crear contenido sexual no consensuado.

Este tipo de material atenta contra la integridad, dignidad y privacidad, causando daños económicos y psicológicos. Además, genera un impacto moral profundo en las víctimas y en sus seres queridos.

Enfrentar cualquier tipo de violencia es un desafío monumental y es importante recalcar que la víctima nunca es culpable, pues la responsabilidad debe recaer completamente en el agresor.

Las empresas tecnológicas deberían implementar mecanismos de control para proteger a los usuarios y gracias a la ‘Ley Olimpia’ se hicieron reformas en materia de violencia digital –la cual contempla la manipulación de imágenes como una forma de violencia– y se tipificó el delito contra la intimidación sexual en los códigos penales hasta con seis años de prisión.

Sin embargo, existe una falta de capacidad para atender estos casos, se carecen de unidades especializadas, las autoridades no cuentan con las herramientas técnicas ni personal especializado para llevar a cabo estas investigaciones.

No esperemos a ser víctimas, hay que informarnos sobre cómo actuar ante una situación de esta magnitud.

Lo primero es juntar pruebas a través de capturas, grabaciones, links, mensajes de texto, correos y respaldar toda esta información. Ya que se ha recopilado la evidencia, reportemos el contenido en la plataforma donde se publicó, para después denunciar legalmente a través de un abogado o una abogada especializada.

Para todo este proceso, siempre será importante contar con una red de apoyo y buscar acompañamiento legal y psicológico, incluso hay diversas organizaciones que cuentan con recursos valiosos para darle seguimiento a los casos.