Geoffrey Miller: cómo las imágenes falsas de IA podrían avivar las tensiones en el Indo

Mire: El Partido Nacional admitió haber usado inteligencia artificial (IA) para crear fotos falsas para sus anuncios de ataques políticos. Créditos: Video - Newshub; Imagen - Imágenes Getty.

Por Geoffrey Miller del Proyecto Democracia

ANÁLISIS: Ver ya no es creer.

Imágenes sorprendentemente realistas, pero falsas, creadas por Inteligencia Artificial (IA) están aquí.

Hasta la fecha, la mayoría han parecido más curiosidades que auténticos intentos de engaño.

El mes pasado, se reveló que el Partido Nacional de Nueva Zelanda había utilizado la aplicación de generación de imágenes AI Midjourney para producir imágenes promocionales. Los resultados incluyeron trabajadores de la salud imaginarios y ciudadanos de aspecto temeroso preocupados por la delincuencia.

En este caso, el uso de la IA fue relativamente benigno: las creaciones de la IA reemplazaron efectivamente las fotos de archivo que se habrían usado en el pasado.

Hasta que un medio de comunicación levantó sospechas, pocas personas, si es que alguna, se habían dado cuenta de que las imágenes de aspecto realista eran en realidad falsas.

Si bien el ejemplo de Nueva Zelanda mostró cómo se pueden usar las imágenes de IA en las campañas electorales, también podemos esperar que tengan un impacto enorme en las relaciones internacionales.

En marzo, el fundador de Bellingcat, Eliot Higgins, tuiteó sorprendentes imágenes 'falsas' de Donald Trump siendo 'arrestado' por la policía de Nueva York.

Higgins, que también utilizó Midjourney, etiquetó claramente las imágenes como creaciones de IA.

Pero eso no impidió que las imágenes se viralizaran y sirvieran como escaparate de la sofisticación de la tecnología.

Higgins también tuiteó imágenes falsas generadas por IA de una 'cumbre de paz' ​​imaginaria entre Vladimir Putin y Joe Biden, negociada por el francés Emmanuel Macron.

Dado el estado actual de la guerra en Ucrania, es poco probable que esto engañe a nadie.

Sin embargo, los deepfakes de aspecto realista que Higgins creó de una explosión nuclear imaginaria en Ucrania mostraron el potencial que la IA podría tener en medio de la niebla de la guerra.

Justo después de que Rusia invadiera Ucrania el año pasado, piratas informáticos publicaron un video falso de Volodymyr Zelensky llamando a los ucranianos a deponer las armas en el sitio web de noticias Ucrania 24.

En el Indo-Pacífico, seguramente es solo cuestión de tiempo hasta que se utilicen imágenes generadas por IA de apariencia creíble para avivar aún más las tensiones geopolíticas en la región.

El primer ministro de Nueva Zelanda, Chris Hipkins, se ha hecho eco de su predecesora, Jacinda Ardern, al denunciar lo que él llama la "militarización del Pacífico".

Pero solo en la primera mitad de 2023, EE. UU. llegó a nuevos acuerdos de defensa con Filipinas y Papua Nueva Guinea, una respuesta a la firma de China de su propio pacto de seguridad con las Islas Salomón el año pasado.

Las tensiones están aumentando, y la IA podría llevarlas al siguiente nivel.

Podría decirse que la gran inmensidad del Pacífico crea algunas ventajas para los intentos de desinformación.

Las imágenes falsas de, por ejemplo, embarcaciones militares cerca de un atolón de una isla remota podrían ser difíciles de refutar de inmediato.

La mala infraestructura de comunicaciones en los rincones más remotos del Pacífico tampoco ayudará.

Además, el auge del contenido creado por IA puede significar que el público se pregunte qué creer.

Un informe de la Institución Brookings publicado en enero identificó 'sembrar confusión' como un objetivo principal de quienes están detrás de las operaciones de desinformación.

El informe da un ejemplo de un discurso presidencial similar a un robot del presidente de Gabón: mientras que algunos creían que era evidencia de un deepfake, otros pensaban que el presidente simplemente estaba enfermo. Independientemente de la verdad real, se produjo el caos y un intento de golpe militar.

AI tiene el poder de crear un salón de espejos, donde incluso el contenido genuino se ve con escepticismo y desconfianza.

Un ejemplo de la vida real del potencial de la IA para causar estragos se produjo el mes pasado, cuando una imagen falsa de una explosión en el Pentágono en Washington circuló en Twitter y provocó que los mercados financieros se desplomaran brevemente.

Hay muchas posibles respuestas al nuevo desafío de la IA para las relaciones internacionales.

Una opción es regular.

China prohibió recientemente las imágenes falsas profundas de personas reales a menos que se haya dado su consentimiento, y el regulador del país ahora requiere que el contenido 'sintético' generado por IA esté claramente etiquetado como tal.

En Nueva Zelanda, el Departamento de Asuntos Internos propuso la semana pasada nuevas y estrictas regulaciones de medios que también cubrirían el contenido de las redes sociales. Las sugerencias incluyen 'etiquetas de advertencia y avisos de contenido', y multas por incumplimiento.

La desventaja de la regulación es el potencial de extralimitación.

Los términos 'desinformación' y 'desinformación' ahora se utilizan con frecuencia como armas y se usan simplemente para denigrar los argumentos de los opositores políticos.

Más optimistamente, el público es menos ingenuo de lo que a menudo se le atribuye.

Después de todo, la mayoría de las personas ya están bien acostumbradas a la idea de que las fotos se pueden modificar digitalmente. La primera versión de lo que ahora es Adobe Photoshop se lanzó en 1987.

Aún así, la necesidad de impulsar la alfabetización mediática se destacó como un tema en las discusiones sobre la lucha contra la desinformación en el Congreso Global de Medios inaugural que se llevó a cabo en Abu Dhabi el año pasado, un tema que probablemente también se presente en la edición 2023 del evento. celebrada este noviembre.

Un nuevo 'libro blanco' del primer Congreso, al que el autor asistió como invitado de los organizadores, resumió la opinión de que no había soluciones fáciles y rápidas.

Más bien, todos, desde los gobiernos hasta las plataformas de redes sociales, los medios de comunicación, las instituciones educativas y los propios consumidores, tenían un papel que desempeñar.

Sin duda, parte de la solución es aumentar la conciencia sobre el potencial de la IA para desinformar.

No tendremos elección.

Escribiendo en el libro blanco del Congreso de Medios Globales, la futurista Sofie Hvitved, con sede en Copenhague, estima que hasta el 99 por ciento del contenido que consumimos en el futuro podría ser creado por IA.

Más allá de esto, probablemente debamos abordar las causas fundamentales.

En las relaciones internacionales, la desescalada de los conflictos y las tensiones dificultaría mucho más la desinformación.

No es casualidad que las líneas de frente actuales de deepfake estén en los campos de batalla de Ucrania.

En tiempos de guerra, las reglas de tiempos de paz se tiran por la ventana, haciendo que casi todo parezca posible, o al menos potencialmente plausible.

La bomba nuclear ficticia creada por Eliot Higgins de Bellingcat es un excelente ejemplo.

En el Indo-Pacífico, las temperaturas geopolíticas en constante aumento constituyen el caldo de cultivo ideal para futuros esfuerzos de desinformación y propaganda generados por IA.

En última instancia, la mejor receta para mitigar el impacto de las falsificaciones de IA en las relaciones internacionales es tan simple como difícil.

Necesitamos más diplomacia, compromiso y compromiso entre estados que no están de acuerdo.

Solo al reducir la competencia y el conflicto, las aterradoras creaciones de la IA parecerán más ficción que realidad.

Por supuesto, esto es más fácil decirlo que hacerlo.

Se necesitará la intervención humana para resolver los problemas humanos.

La IA no puede hacerlo por nosotros.

Proyecto Democracia

Geoffrey Miller es el analista geopolítico de Democracy Project y escribe sobre la política exterior actual de Nueva Zelanda y temas geopolíticos relacionados. Ha vivido en Alemania y Oriente Medio y aprende árabe y ruso. Divulgación: Geoffrey asistió al Congreso Global de Medios en 2022 como invitado de los organizadores, la Agencia de Noticias de los Emiratos.