Nuevo ‘fiscal’ de inteligencia artificial de China puede acusar a la gente de disidencia política

La mayor fiscalía de distrito de China, la Fiscalía Popular de Shanghai Pudong, ha desarrollado y desplegado una inteligencia artificial (IA) que puede presentar cargos contra sospechosos basándose únicamente en una descripción verbal, informó el South China Morning Post (SCMP). 

Según sus investigadores, el «fiscal» de la IA presume de una precisión del 97% a la hora de formular cargos, aunque puede cometer errores. Un fiscal de Guangzhou, en la provincia de Guangdong, expresó su preocupación ante el SCMP: «¿Quién asumirá la responsabilidad cuando esto ocurra? ¿El fiscal, la máquina o el diseñador del algoritmo?». 

La máquina fue entrenada con datos de más de 17.000 casos que tuvieron lugar entre 2015 y 2020. Actualmente puede acusar a las personas de ocho de los delitos más comunes en Shanghái, incluyendo, fraude, fraude con tarjeta de crédito, robo, conducción peligrosa, lesiones intencionales, obstrucción de los deberes oficiales, dirigir una operación de juego y «buscar peleas y provocar problemas.»

El director del proyecto, el profesor Shi Yong, director del laboratorio de big data y gestión del conocimiento de la Academia China de Ciencias, declaró a la SCMP que la IA se desarrolló e implantó en un intento de reducir la carga de trabajo diaria de los fiscales de los tribunales. 

«El sistema puede sustituir a los fiscales en el proceso de toma de decisiones hasta cierto punto», dijo Shi.

Shi dijo a SCMP que las herramientas de IA existentes tienen un papel limitado en el proceso y que «no participan en el proceso de toma de decisiones de presentar cargos y [sugerir] sentencias».

La IA trabaja en tándem con otra IA conocida como Sistema 206, que es una herramienta que, según los investigadores, puede evaluar «la solidez de las pruebas, las condiciones para una detención y el grado de peligrosidad de un sospechoso para el público», informó SCMP. 

El Sistema 206, una tecnología de asistencia de IA, se desplegó por primera vez en un juicio en enero de 2019. La tecnología se utilizó para ayudar en un caso de robo y asesinato y los partidarios de la tecnología dicen que la IA elimina los errores humanos. 

En ese momento, Wu Haiyin, jefe adjunto del departamento de información del Tribunal Popular Superior de Shanghái, dijo: «La transcripción y la presentación de pruebas avanzaron a medida que avanzaba el juicio. El sistema 206 realizó una asistencia de inteligencia completa y revisó las pruebas de forma exhaustiva, desempeñando un papel activo en el juicio imparcial», informó el medio de comunicación estatal China Daily.

LEE MÁS: La ONU y la comunidad internacional piden la liberación inmediata de la periodista china encarcelada Zhang Zha

“Buscar peleas»

Buscar peleas y provocar problemas es una acusación común que se impone principalmente a los disidentes del Estado. 

El vago cargo de «provocar peleas», según la ley china, implica a las personas que atacan voluntariamente a otra persona con malas circunstancias, persiguiendo, interceptando o maldiciendo a otra persona, llevándose por la fuerza, exigiendo, o dañando o apoderándose voluntariamente de la propiedad pública o privada o creando una perturbación en un lugar público causando un grave desorden.  

Según se informa, el fiscal de la IA tiene la capacidad de manejar cargos y circunstancias tan amplias analizando únicamente las señales verbales. 

Entre las personas notables acusadas de este delito se encuentran Yang Maodong, un abogado chino de derechos humanos que fue condenado a seis años de prisión en 2015, y Wang Jingyu, un adolescente que publicó en las redes sociales chinas contenidos que el Estado consideró cuestionables, relativos al enfrentamiento fronterizo entre India y China y a las manifestaciones prodemocráticas de Hong Kong.

Sun Dawu, antiguo multimillonario chino, fue condenado a dieciocho años de prisión en julio de 2021 en virtud de la ley. 

La periodista ciudadana Zhang Zhan, que informó sobre el primer brote del coronavirus en Wuhan, fue detenida en mayo de 2020 y condenada a cuatro años de prisión en diciembre de 2020 en virtud de la misma ley.

La nueva IA de la fiscalía está aún en sus inicios y no se ha implementado de forma generalizada. Sin embargo, tras el éxito del Sistema 206, los ciudadanos chinos que se encuentran a merced del sistema judicial chino podrían encontrarse también bajo la autoridad de una máquina.