Crear contenido falso con IA podría llevarte a prisión en Panamá

Una voz que suena exactamente como la tuya. Una fotografía de algo que nunca ocurrió. Un video en el que aparentemente dices algo que jamás dijiste.

La inteligencia artificial ha hecho que crear este tipo de contenido sea cada vez más sencillo y realista. Y ahora Panamá busca establecer consecuencias cuando se utilice para perjudicar a otra persona.

La Comisión de Gobierno, Justicia y Asuntos Constitucionales de la Asamblea Nacional tiene en agenda discutir este miércoles 26 de agosto una propuesta que busca modificar el Código Penal para sancionar el uso malicioso de inteligencia artificial en la creación y difusión de contenido falso.

¿Qué quieren castigar?

El anteproyecto de ley 51, presentado por la diputada Dana Castañeda, propone incorporar el artículo 195-A al Código Penal.

La propuesta contempla sanciones de tres a seis años de prisión para quien utilice inteligencia artificial, clonación de voz, manipulación de imágenes u otras tecnologías similares para crear, alterar, publicar, difundir o comercializar contenido que reproduzca el rostro, voz o apariencia de una persona real sin su consentimiento, cuando pueda afectar su honra o dignidad.

Es decir, el foco no está simplemente en crear una imagen o video con IA, sino en utilizar estas herramientas de forma maliciosa para fabricar contenido falso que pueda perjudicar a una persona.

Compartirlo también podría tener consecuencias

Aquí viene uno de los puntos más importantes.

La propuesta no se limita únicamente a quien crea el contenido. También contempla su publicación y difusión.

Además, establece penas de cinco a siete años de prisión en situaciones agravadas, entre ellas cuando el material se difunda a través de redes sociales, plataformas digitales o sistemas de mensajería masiva.

También contempla agravantes cuando exista ánimo de lucro, represalia o coacción, o cuando la víctima sea menor de edad, adulto mayor, persona con discapacidad o se encuentre en condición de vulnerabilidad.

¿Esto ya es ley?

No. Y esta diferencia es importante.

Se trata de una propuesta legislativa que entra en discusión, por lo que todavía puede sufrir modificaciones durante el proceso antes de convertirse, eventualmente, en ley.

Panamá, además, ya viene moviéndose hacia una regulación más amplia de la inteligencia artificial. La Asamblea aprobó recientemente en tercer debate el proyecto de Ley 588 sobre gobernanza adaptativa de la IA, enfocado en establecer reglas para su uso responsable sin frenar la innovación tecnológica.

La discusión ahora pone sobre la mesa otro problema: qué ocurre cuando una tecnología capaz de imitar prácticamente a cualquier persona se utiliza deliberadamente para hacer daño.

Porque mientras los deepfakes se vuelven más convincentes, distinguir entre lo real y lo generado por una máquina también se está volviendo mucho más complicado.