OpenAI revela cómo grupos chinos utilizan ChatGPT con fines maliciosos
OpenAI está viendo un número cada vez mayor de grupos chinos que utilizan su tecnología de inteligencia artificial para operaciones encubiertas. El fabricante de ChatGPT describió estas actividades maliciosas en un informe publicado el jueves.
Si bien el alcance y las tácticas empleadas por estos grupos se han ampliado, las operaciones detectadas fueron generalmente de pequeña escala y estaban dirigidas a audiencias limitadas, afirmó la startup con sede en San Francisco.
Desde que ChatGPT apareció en escena a fines de 2022, ha habido preocupaciones sobre las posibles consecuencias de la tecnología de inteligencia artificial generativa, que puede producir texto, imágenes y audio con apariencia humana de manera rápida y sencilla.
OpenAI publica periódicamente informes sobre la actividad maliciosa que detecta en su plataforma, como la creación y depuración de malware o la generación de contenido falso para sitios web y plataformas de redes sociales.
En un ejemplo, OpenAI prohibió las cuentas de ChatGPT que generaban publicaciones en las redes sociales sobre temas políticos y geopolíticos relevantes para China, incluidas críticas a un videojuego centrado en Taiwán, acusaciones falsas contra un activista paquistaní y contenido relacionado con el cierre de USAID.
Algunos contenidos también criticaron los amplios aranceles del presidente estadounidense Donald Trump, lo que generó publicaciones como «Los aranceles hacen que los bienes importados sean escandalosamente caros, pero el gobierno derrocha ayuda exterior. ¿Quién se supone que debe seguir comiendo?».
En otro ejemplo, los actores de amenazas vinculados con China usaron IA para respaldar varias fases de sus operaciones cibernéticas, incluidas la investigación de código abierto, la modificación de scripts, la resolución de problemas de configuración del sistema y el desarrollo de herramientas para la fuerza bruta de contraseñas y la automatización de las redes sociales.
Un tercer ejemplo que encontró OpenAI fue una operación de influencia de origen chino que generó contenido polarizado en las redes sociales que apoyaba ambos lados de temas divisivos dentro del discurso político estadounidense, incluyendo texto e imágenes de perfil generadas por IA.
El Ministerio de Relaciones Exteriores de China afirmó que «no hay base» para las afirmaciones de OpenAI.
«China concede gran importancia a la gobernanza de la inteligencia artificial y se ha opuesto constantemente al mal uso y abuso de la tecnología de inteligencia artificial», dijo un portavoz del ministerio.
OpenAI ha consolidado su posición como una de las empresas privadas más valiosas del mundo tras anunciar una ronda de financiación de 40 mil millones de dólares que valora la empresa en 300 mil millones de dólares.
Reuters
