El Ministerio Público Fiscal y el Gobierno de la Ciudad firmaron un acuerdo para regular y controlar la prestación del servicio de clonación de voz y de rostro con herramientas de Inteligencia Artificial (IA) que brindan plataformas de libre acceso en la web.
La medida busca proteger la intimidad y datos personales de los habitantes de la Ciudad, y prevenir que las herramientas de clonación de voz y rostro con IA sean usadas para cometer delitos como estafas, robos de identidad o producción de imágenes adulteradas.
La necesidad de promover mecanismos de control y regulación de los servicios de IA surgió a partir de un estudio realizado por el equipo de la Unidad Fiscal Especializada en Litigios Complejos, a cargo de Marcela Monti, que investigó sobre el funcionamiento de las páginas web que ofrecen servicios de clonación y observó que la mayoría tienen términos y condiciones vagos, que permiten el uso a menores de edad y que no adoptan las medidas de seguridad pertinentes para prevenir delitos como estafas o producción de imágenes alteradas sin consentimiento, entre otros.
Con este convenio, el MPF Ciudad logró que el GCBA realice acciones concretas de regulación y control para abordar esta problemática, que también afecta a menores de edad en muchas escuelas, por la producción y circulación entre los alumnos de fotos y videos con voces y rostros clonados.
Además, con la firma del convenio, la fiscal Monti logró el bloqueo de 11 páginas web que permitían usos irregulares. Por su parte, el GCBA se comprometió a establecer un canal de comunicación para que cualquier ciudadano pueda denunciar la existencia de estas plataformas sin regulaciones y a realizar campañas de concientización sobre los riesgos y consecuencias del uso de las aplicaciones de IA.