IA: Google prohíbe a Gemini abordar las elecciones 2024

En un raro momento de sentido común, Google ha decidido que su herramienta de inteligencia artificial (IA) Gemini (anteriormente Bard) ya no hablará de elecciones. La decisión afecta a todas las elecciones previstas para 2024.

Hay muchas razones que el gigante de las búsquedas podría afirmar que lo inspiraron a tomar esta decisión. Sin embargo, el 12 de marzo optó por la opción más sensata y dijo que quería “evitar errores en el uso de la tecnología”, según Reuters.

No mezcles la IA con la política, según Google

La decisión de Google afecta a las elecciones en países como India, Sudáfrica y, por supuesto, Estados Unidos. El creciente desarrollo de la tecnología, que se ha acelerado en los últimos años, tendrá un papel fundamental que desempeñar en las elecciones de 2024.

Estas elecciones serán las primeras en las que la IA, por ejemplo, ya esté lo suficientemente extendida como para llegar al gran público. El abogado Guilherme Guidi, explicó:

“La IA ciertamente ofrece nuevas posibilidades para crear contenido en diferentes campos. Pero, lamentablemente, también aumenta los riesgos de producir contenidos falsos. Y cuando nos enfrentamos a contenidos falsos en un proceso tan relevante como las elecciones, es natural que haya que tener mayor cuidado para evitar que se contaminen.”

Leer más: Conoce los mejores prompts para invertir, trabajar y aprender con ChatGPT (2023)

Una de las capacidades de la IA que más preocupa a los políticos es su capacidad para crear contenido falso, especialmente en forma de deepfakes. Son vídeos que utilizan la imagen y la voz de una persona y las modifican para hacerle hacer o decir cosas que nunca antes habían sucedido.

Crear este tipo de contenido no es nuevo, pero se ha vuelto más fácil y accesible con la IA. Un ejemplo es lo ocurrido en Twitter (X), a finales de enero de 2024, cuando usuarios publicaron deepfakes porno de la cantante Taylor Swift.

El equipo de la red social tardó 12 horas en empezar a gestionar el incidente. Esto fue suficiente para demostrar que las empresas de Internet aún no están preparadas para lidiar con contenidos falsos.

Otro ejemplo similar ocurrió cuando Meta concluyó que un video falso del presidente estadounidense Joe Biden no violaba la política de contenidos de Facebook. Esto no ocurrió porque el video no estuviera editado, sino porque las reglas de la plataforma eran insuficientes para la situación.

Estos ejemplos demuestran por qué tanto Twitter (X) como Meta se unieron a otras empresas, como Google, Microsoft y OpenAI, para crear un protocolo común para casos de desinformación generada por IA.

IA: Decisión afecta elecciones en Brasil

La decisión de Google está en línea con actitudes similares de empresas como la propia OpenAI, que prohibió el uso de sus herramientas de inteligencia artificial en campañas políticas.

En Brasil, el Tribunal Superior Electoral (TSE) consideró mejor limitar el uso de inteligencia artificial en las elecciones municipales de 2024. En una decisión del 28 de febrero, el tribunal obligó a las campañas a identificar contenidos creados por IA, además de prohibir los deepfakes.

Leer más: Bard: Una guía sobre el chatbot inteligente de Google

Por supuesto, estas medidas no son suficientes para impedir la creación de contenidos prohibidos, pero pueden ayudar a reducir la difusión de información errónea en el proceso electoral. Guidi añadió:

“El proceso de lucha contra los deepfakes no es nuevo y es necesario prohibir su uso. Pero como hay pocos resultados y poca eficacia en la lucha contra la desinformación, combatir el uso de la IA también enfrentará dificultades.”

¿Tiene algo que decir sobre Gemini, IA o otro tema? Escríbanos o únase a la discusión en nuestro canal de Telegram. También puede encontrarnos en Facebook o X (Twitter).