En la actualidad, la confianza cívica enfrenta importantes desafíos debido a la inteligencia artificial (IA). La publicación de Global Voices en Español analiza cómo la IA afecta a nuestras comunidades y a la forma en que interactuamos con la información. Desde Hong Kong, un lugar donde vivo y trabajo, escuchamos advertencias sobre estafas digitales. Estas advertencias aparecen en carteles, correos electrónicos y medios de comunicación. Se nos aconseja tener cuidado con enlaces sospechosos y llamadas fraudulentas que pueden engañarnos.
Por ejemplo, hubo un caso en el que un trabajador fue estafado mediante una videollamada con una persona que usaba un "deepfake". Se hacía pasar por el director financiero de la empresa y solicitaba una gran suma de dinero. Este incidente resalta que la tecnología ha avanzado tanto que está afectando nuestra capacidad de confiar en lo que vemos.
Los jóvenes estudiantes, quienes generalmente son considerados nativos digitales, son particularmente vulnerables a estas estafas. Esto resulta irónico, ya que ellos deberían estar más acostumbrados a la tecnología. Sin embargo, el lenguaje que utilizamos para describir la IA y su impacto en nuestras vidas está cambiando, y necesitamos adaptarlo. La confianza no solo depende de lo que vemos, sino también de nuestra capacidad para juzgar la información.
Antes, hablábamos de desinformación como rumores o imágenes manipuladas que se difundían rápidamente. Ahora, con la IA generativa, nos enfrentamos a un nuevo tipo de problema: la dificultad para distinguir entre lo verdadero y lo falso. Muchos contenidos parecen creíbles, pero no siempre son fiables, lo que nos lleva a sentir fatiga y desconfianza.
Ante esta situación, Hong Kong ha implementado medidas para combatir el fraude digital. La IA se utiliza para detectar y prevenir estafas. Sin embargo, esto plantea una paradoja: ¿realmente estamos recuperando la confianza si dependemos más de sistemas automáticos que de nuestras propias decisiones? Las instituciones que alguna vez consideramos confiables ahora son reemplazadas por algoritmos y sistemas tecnológicos.
No podemos resolver estos problemas solo con mejores herramientas de detección. La confianza cívica no se construye únicamente en la eficiencia o la tecnología. Debemos reflexionar sobre cómo la IA se integra en nuestra vida diaria y qué relaciones cívicas queremos fomentar. Por ejemplo, al servirnos de la tecnología para facilitar la toma de decisiones y no solo automatizar procesos, podemos construir conexiones más profundas y significativas.
En nuestro trabajo, promovemos el diálogo entre personas sobre su experiencia con la IA y sus interacciones diarias. Creamos espacios donde pueden compartir cómo estos sistemas afectan sus vidas y formar un vocabulario común que refleje sus experiencias. La confianza cívica requiere no solo soluciones técnicas, sino también un entendimiento compartido de cómo interactuamos con la IA.
Al final del día, debemos asumir que la IA aún está en desarrollo. No debemos aceptar pasivamente lo que nos proponen, sino cuestionar y formar parte activa de su evolución. Al hacerlo, podemos crear espacios de significado conjunto en nuestra vida cívica.
Discussion questions
- ¿Cómo crees que la inteligencia artificial puede influir en nuestra percepción de la confianza cívica en el futuro?
- ¿Qué estrategias podemos implementar para educar a los jóvenes sobre los riesgos de las estafas digitales y la desinformación generada por la IA?
- ¿De qué manera la dependencia de sistemas automáticos para la detección de fraudes podría afectar nuestra capacidad de juicio y confianza en la información?
- ¿Cómo podemos fomentar un diálogo efectivo entre las personas sobre sus experiencias con la IA para mejorar la confianza cívica en nuestras comunidades?
- ¿Qué papel crees que deben jugar las instituciones en la construcción de confianza, a pesar del creciente uso de algoritmos y tecnología en la toma de decisiones?
