Paulina Ibarra comparte su opinión sobre la Gobernanza Digital

Por Paulina Ibarra A., directora ejecutiva Fundación Multitudes

 

Hace pocos días, UNESCO convocó a medio centenar de centros de estudios y expertos en plataformas digitales de los cinco continentes para lanzar la Red Global de Conocimiento Internet for Trust (I4T), con el fin de avanzar hacia una gobernanza en materias de generación de contenidos, con especial énfasis en la desinformación y el discurso de odio online.

 

Tal como señala una nota de prensa difundida por el organismo internacional, este encuentro se da a un año de la cita en que se lanzó oficialmente el I4T y que dio paso para que, durante 2023, se presentara el documento “Directrices para la gobernanza de las plataformas digitales». Ambos eventos tuvieron como objetivo avanzar en la discusión para regular de mejor forma las plataformas digitales, proteger la libertad de expresión y salvaguardar otros derechos humanos.

 

No obstante, mi humilde impresión es que estos denodados esfuerzos llegan tarde y seguirán llegando tarde mientras no exista un compromiso real de los gobiernos y la clase política a nivel global. Los mandatarios de las grandes potencias hoy están más preocupados de la economía global y los conflictos armados, mientras en América Latina las democracias siguen en fragilidad permanente ante el avance de los populismos, por lo que los intereses están lejos del mundo virtual.

 

De hecho, en Chile se creó una comisión contra la desinformación que me tocó integrar, pero el debate político -incluyendo el de algunos medios de comunicación- no fue sobre el fondo del asunto, sino que acerca de una supuesta agenda del Gobierno para controlar a la prensa y aplicar censura a sus detractores. De sus resultados, aparte de quienes fuimos parte de esa instancia, poco o nada se difundió. Menos todavía dejar planteada la idea de una gobernanza digital.

 

Y mientras el debate mundial, regional y local está en otro lado, la inteligencia artificial (IA) ya es capaz de reproducir casi con exactitud voces e imágenes de líderes políticos, con llamados y arengas contrarias a sus habituales discursos, generando confusión entre quienes consumen estos contenidos, viralizados en su mayoría por redes sociales, sin contrapesos ni aclaraciones oportunas.

 

Además, la violencia digital contra las mujeres sigue in crescendo. Tal vez la más conocida es la de la famosa artista Taylor Swift, cuya imagen fue distorsionada para propagar contenido de índole sexual, obligando a redes como X (Twitter) a suspender en su motor de búsqueda todas las solicitudes relacionadas con la cantante, a fin de evitar -de alguna forma- que se siguieran propagando dichas fotografías adulteradas criminalmente.

 

Pero no nos engañemos. No es que la IA actúa en forma autónoma (por lo menos queremos creerlo así), sino que hay personas, sujetos con intereses ideológicos o económicos determinados, que digitan y ordenan crear estos mensajes de odio y fake news, con propósitos no siempre claros, pero cuyo objetivo siempre es el mismo: desinformar, tergiversar, engañar, dañar.

 

Si hacemos un parangón con otra causa de alcance global, podemos mencionar la preservación del medioambiente y el ecosistema, que lleva décadas de discusión y de foros como este que convocó UNESCO, pero que recién en la última década se están tomando algunas acciones de preservación, en gran medida a la luz de las consecuencias que tiene en el clima mundial la inacción de los gobiernos. El daño en muchos casos es irreparable por la lentitud de los Estados en la toma de decisiones.

 

En el caso de la IA, todo es mucho más vertiginoso y las consecuencias de malas decisiones pueden ser demoledoras para los regímenes democráticos sino se actúa pronto. Ya lo hemos dicho en otras oportunidades, nadie busca aplicar censura sobre los contenidos que circulan por Internet, pero no es un misterio que es una amenaza cada vez más latente y peligrosa para los consumidores de este material sin regulación o una mínima gobernanza para una sana convivencia.

 

Ideal sería no llegar tarde de nuevo, pero hoy ni siquiera sabemos si vamos a poder llegar.

Opinión: «Fake news: ¿según quién?»

Por Paulina Ibarra Araya, directora ejecutiva Fundación Multitudes

Señor Director,

En la creación de la Comisión contra la Desinformación es relevante destacar que primó un criterio técnico por sobre uno político.

Los nueve miembros somos profesionales con reconocido prestigio laboral y académico que no vienen a definir una verdad oficial, sino que a recomendar, en base a experiencia internacional, cuál es el impacto que tiene la desinformación en nuestra sociedad y qué medidas podemos tomar como país para proteger nuestra democracia frente a este flagelo.

Esta comisión en la cual participo no pretende regular el trabajo de los medios. El compromiso con la libertad de prensa no está en duda. Por lo mismo, es necesario hacer algunas aclaraciones respecto de la columna publicada ayer en estas páginas.

La desinformación produce confusión decisiones erradas y desconfianza. En este sentido, nunca es transmitida de buena fe. El derecho a la información se sostiene de la veracidad de los datos y eso es una preocupación internacional. En este sentido, poner atajo a las fake news es algo que nos debe convocar a todos: así lo denotan, por ejemplo, las conversaciones sobre este tema en Estados Unidos y la Unión Europea con empresas como Google, o el trabajo diligente de múltiples gobiernos en el Digital Services Act y el Digital Market Act con la intención de proteger los derechos fundamentales y nivelar la cancha de juego cuando se trata de la industria de las plataformas de redes sociales.

En este camino, los medios de comunicación no son enemigos, sino aliados. La democracia se sustenta, entre otros elementos, en el vigor de una prensa libre. Esperamos que nuestro trabajo ayude justamente a fortalecer esta mirada y principio ante las nuevas amenazas generadas por la desinformación.

Columna publicada en El Mercurio.

OPINIÓN: COMISIÓN CONTRA LA DESINFORMACIÓN

Por Paulina Ibarra Araya, directora ejecutiva Fundación Multitudes

Señor Director,

Esta semana comenzamos a sesionar en la Comisión contra la Desinformación. Una instancia convocada por el Estado pero que nace 100% de la sociedad civil porque al seleccionarnos, primó un criterio técnico por sobre uno político. Los nueve miembros somos profesionales con reconocida trayectoria laboral, académica y también humana.

Es un error asociar este debate a la libertad de prensa; no buscamos generar una verdad oficial sobre un debate en particular, ni tampoco consideramos elaborar recomendaciones respecto a los medios de comunicación. Por lo mismo, es hora de avanzar en la discusión hacia nuestra institucionalidad. El impacto de las nuevas tecnologías de la información y el uso de la inteligencia artificial es profundo y recién comienza.

En este sentido, es clave abordarlo desde un punto de vista histórico, sociológico, comunicacional y cultural; y también desde un aspecto técnico. Esta comisión es una oportunidad para que la sociedad civil pueda analizar y recomendar a quienes toman decisiones sobre el futuro, porque la protección de nuestra ciudadanía y democracia es algo que nos tiene que convocar a todos.

Columna publicada en La Segunda, Crónica Chillán, Diario de Atacama, El Sur de Concepción, El Llanquihue y El Austral de La Araucanía.

Opinión: Desinformación: Bienvenida la discusión

Por Paulina Ibarra Araya, directora ejecutiva Fundación Multitudes

En medio de las lluvias intensas que afectan a parte importante del país, y las cuitas políticas que se ventilan por la prensa, la agenda pública se ha centrado de igual modo en estos días por la noticia de la creación de la Comisión Asesora para la Desinformación. Los más inquietos han sido ciertos medios de comunicación y algunos analistas, no exclusivamente de sectores más conservadores, quienes ven en esto una suerte de censura o control de los medios de comunicación.

No creo conveniente tener que hacer un juicio de la instancia, cuando ésta aún no se conforma y no fija los criterios para su funcionamiento, sino que quiero utilizar este espacio para algo más profundo y que es el leit motiv que tuvo el Gobierno para crear esta comisión, bajo el alero del Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. Me refiero a la desinformación.

La desinformación existe, es un hecho que afecta a la gran mayoría -sino a la totalidad- de los regímenes democráticos y no democráticos; en los primeros, muchas veces para atacar al gobierno de turno, y en los segundos, para imponer verdades oficiales que buscan ocultar la realidad. No es un fenómeno nuevo, y debe ser uno de los males que vino aparejado con la modernidad y sobre todo con la industrialización y los avances tecnológicos.

Un primer caso famoso puede ser cuando el cineasta, y en ese entonces hombre de radio, Orson Wells, teatralizó “La Guerra de los Mundos” a través de una emisora norteamericana, generando -involuntariamente, o quizá no tanto- el pánico de miles de personas, quienes realmente creyeron que se venía una invasión extraterrestre. Que otros hayan creído que era un hecho verdadero generó una suerte de reacción en cadena de fake news que causaron estragos en varias ciudades de Estados Unidos, y donde se plegaron autoridades y la misma prensa.

Pero esto que pudo ser fruto de una mera casualidad, o de cierta intencionalidad de su autor quizá con qué propósitos, hoy existe como una herramienta elaborada y como estrategia política, y creo que en eso no hay duda razonable. Podemos convenir que puede existir misinformación, que es cuando, a partir de un hecho falso, se difunde como algo cierto sin la intención de desinformar, y eso ocurre recurrentemente cuando los medios de comunicación no hacen un adecuado fact checking de sus fuentes.

Un caso reciente de esto último, y del cual lo comenté también en una columna, fue la imagen del Papa con un outfit a la moda, muy difundida y comentada por reputados medios y periodistas, que luego se descubrió era una foto manipulada. Podríamos hasta de tildar de inocente este caso, ya que, más allá de causar incredulidad y sorpresa, no generó un daño ni tampoco melló la ya alicaída imagen de la Iglesia. Sin embargo, existen otras estrategias que buscan, mediante la desinformación, generar daño deliberadamente, y esto no es un patrimonio de un sector político en particular, sino que trasciende a todos los colores e ideologías.

Este es un tema que se ha discutido ampliamente en Europa -con comisión especial incluida- y Estados Unidos, y donde hay diversos estudios e informes respecto de lo peligrosa que es la desinformación, y los daños que puede provocar a las democracias, sobre todo en aquellas en que las instituciones son débiles y la posibilidad de filtro de la audiencia está debilitado. Además, tiene un componente de género no menor, porque también se ha constatado que las mujeres en cargos de poder son más proclives a ser víctimas de fake news -de hecho, los partidos políticos finlandeses y noruegos sacaron un paper que apunta a eso-, hecho que también comprobamos en Fundación Multitudes a través de dos estudios que hicimos con parlamentarias y mujeres convencionales.

Entonces, no tapemos el sol con un dedo, esta es una realidad de la que podemos ser víctimas todos los días, que se debe discutir y debatir sus efectos. Una democracia madura como la nuestra no debería evadir ningún debate, harto nos ha costado avanzar en ciertas materias referente a igualdad e inclusividad. Así que bienvenida la discusión… y en especial a evitar la desinformación a partir de ella.

Columna publicada el 27 de junio de 2023 en Cooperativa.cl

Opinión: Cabeza de avestruz

Señor director:

Este fin de semana largo fue prodigioso en fake news en redes sociales, a propósito de los temporales y los líos de la agenda política. Dieron material de sobra para justificar la creación de una comisión asesora contra la desinformación, la cual quiero celebrar porque se hace necesario un debate serio y responsable sobre cómo enfrentar un tema que preocupa a muchas democracias en el mundo.

Paradójicamente, desde que se supo de su creación, lo que más ha abundado es justamente desinformación en torno al supuesto rol censurador y controlador de medios que tendrá la comisión asesora. Parece que algunos prefieren esconder la cabeza en la tierra como el avestruz, en vez de enfrentar una discusión urgente y necesaria.

Paulina Ibarra Araya
Directora Ejecutiva
Fundación Multitudes

Carta publicada el 27 de junio de 2023 en el Diario La Segunda 

Opinión: ¿Celibato? No, criterio

Señor director:

Soy contraria a que se cuestione el trabajo de parientes en el Estado, siempre y cuando existan mecanismos de probidad, transparencia y sobre todo justicia y equidad de esas contrataciones. Todos tenemos derecho al trabajo.

Por lo mismo, cuando se está en la función pública, el argumento para contrarrestar el ataque político es haciendo mejor las cosas, más allá incluso de lo que exige la ley, para así evitar lo que estamos viendo en esta nueva crisis política y comunicacional del Gobierno por el caso Antofagasta.

¿Se necesitan nuevas normas para evitar estos conflictos de interés? No, ni tampoco autoridades políticas célibes, sin pareja e hijos, sino criteriosas para advertir que se puede estar frente a una tormenta cuando los asuntos personales se mezclan con el actuar público.

Paulina Ibarra Araya
Directora Ejecutiva
Fundación Multitudes

Carta publicada el 22 de junio de 2023 en el Diario El Mercurio 

Opinión: Transparencia sin trampa

Señor director:

Conocida la filtración de un audio del Presidente Gabriel Boric con parlamentarios de la Región de la Araucanía, hubo una condena prácticamente transversal del hecho, siendo una de ellas la del diputado Miguel Mellado, quien aseguró que “se quebraban las confianzas”.

A la postre, imagino presionado por su círculo o tal vez solo por su consciencia, decide reconocer ser el autor de esa grabación subrepticia y posterior filtración a la prensa, argumentando desconocer la privacidad del encuentro.

Sólo decirle al parlamentario que mayor transparencia, por la cual abogamos durante años muchas organizaciones de la sociedad civil, no implica hacer trampa. Si quería contar su versión de la reunión, está en su derecho, pero de ahí a registrar conversaciones sin el consentimiento de las partes, arguyendo buena fe, es un boicot a las confianzas que justamente él dice quebradas.

El daño, uno más a nuestro frágil sistema político, ya está hecho.

Paulina Ibarra Araya
Directora Ejecutiva
Fundación Multitudes

Carta publicada el 17 de junio de 2023 en Diario La Tercera

Opinión: Monos en la red

Señor director:

Vengo llegando de la capital de Suecia donde se realizó el martes y miércoles el Stockholm Internet Forum 2023, instancia que promueve el debate sobre internet y su regulación desde una perspectiva de derechos humanos. La temática fue el papel de las redes y la tecnología frente a escenarios de crisis y catástrofes, pero fue imposible, en las diversas mesas de trabajo, no hablar de los discursos de odio.

De hecho, me tocó moderar una mesa que efectivamente expusimos la experiencia chilena, donde las redes sociales se han convertido en espacios de mucha violencia, donde insultar y denostar sale gratis, y las fake news campean impunemente. El último episodio fue la desafortunada declaración de un consejero constitucional sobre la figura de Pinochet, que tuvo un correlato en la zona virtual que fue brutal en descalificaciones.

Este fue un anticipo de lo que se viene a partir del 07 de junio, cuando se dé inicio a la nueva convención, y lo que sin duda va a ocurrir cuando se acerque la fecha de conmemoración de los 50 años del Golpe. Los verdaderos monos peludos están en la red y nadie quiere, tal vez a propia conveniencia, ponerlos en una jaula.

Paulina Ibarra Araya
Directora Ejecutiva
Fundación Multitudes

Carta publicada en el Diario La Segunda el 02 de junio de 2023

Opinión: (Des) inteligencia artificial

Señor director:

En Bélgica, un hombre se suicida al enterarse que estuvo semanas chateando con un bot controlado por Inteligencia Artificial (IA). En Italia, los católicos conservadores desataron su ira por una foto trucada del Papa Francisco vistiendo una chaqueta chic, que hizo caer a varios en todo el mundo por su realismo. En Japón, una autoridad tuvo que contestar a una pregunta formulada en el Parlamento a través de ChatGPT.

Todos estos hechos recientes nos vuelven a poner en la disyuntiva ética respecto de la importancia de poner regulaciones a los avances tecnológicos. Si un magnate inescrupuloso y egocéntrico como Elon Musk está asustado, y junto a otros expertos e inversionistas pide poner pausa al desarrollo de IA, es porque efectivamente esto se está escapando de las manos.

La inteligencia artificial ya no tiene nada de inteligente si dejamos que su avance continúe desreguladamente. A este paso, no solo las cartas al director serán redactadas por IA (cosa que ya debe ocurrir), sino que sus lectores también serán entes inanimados que interpretarán en bits, para quizás qué objetivos.

Paulina Ibarra Araya
Directora Ejecutiva
Fundación Multitudes

Carta publicada en La Segunda

Puedes descargar AQUÍ

Opinión: El Papa fake y la violencia digital

Por Paulina Ibarra Araya, directora ejecutiva de Fundación Multitudes

Reacciones dispares causó una imagen que circuló durante el pasado fin de semana que mostraban al Papa Francisco utilizando un muy chic atuendo invernal, consistente en una parka blanca. Mientras algunos felicitaron al sumo pontífice por estar a la altura de las nuevas tendencias de la moda, otros no dudaron en criticar la vestimenta, que consideraron rebajaba la dignidad del cargo. Pero toda esa discusión era estéril. Era un deepfake, una imagen hábilmente manipulada por inteligencia artificial (AI en sus siglas en inglés).

Este ejemplo es sólo un botón de muestra de lo feble que son los controles y regulaciones en las redes sociales y sobre todo en el uso de las tecnologías de avanzada. Lo de la autoridad eclesiástica puede ser tomada como una humorada, pero las posibilidades que esta práctica sea algo común, y que genere un daño irreparable a figuras públicas, es proporcionalmente alta en la medida que la tecnología siga avanzando (y eso ocurre todos los días, minuto a minuto). La violencia digital es un hecho y nadie se está haciendo cargo.

De hecho, el controvertido magnate Elon Musk, y un grupo importante de expertos, empresarios y líderes de opinión, está pidiendo ponerle pausa al desarrollo de AI, por lo menos por un tiempo, de manera tal de que se puedan generar los marcos legales y tecnológicos necesarios para evitar que esto se convierta en una ola incontrolable. Chat GTP, creada hace 4 meses, ya está generando estragos y temores de varios tipos, debido a la amenaza que significa no poder distinguir claramente qué es generado por la mente humana y qué es lo creado por una máquina.

Pero el fenómeno no es nuevo. El deepfake, que es como se le denomina a las manipulaciones con AI para crear imágenes, audio y video con la intención de engañar, como ocurrió con el Papa, fue acuñado por un usuario de Reddit de 2017, que subió pornografía de celebridades femeninas populares con intercambio de rostros artificialmente. O sea, hace por lo menos 6 años que se está dando cuenta de ese fenómeno y recién hoy se siente real la posibilidad de un perjuicio irremontable.

En el caso de la arena política, los deepfakes dirigidos a dirigentes y discursos representan menos del 5% de los que circulan en línea, pero la profundidad del daño puede ser mayor si se considera como verdades estas noticias falsas. Como ya lo hemos venido advirtiendo desde hace tiempo en Fundación Multitudes, el daño a las democracias es latente y es necesario ponerle atajo a la desinformación. En efecto, salvo excepciones, las redes sociales y el acceso a AI es prácticamente masivo y sin costo, por lo que su penetración a distintas capas sociales, que no sepan cotejar una información, se vuelve pernicioso para la reputación de autoridades e instituciones.

Por lo tanto, la pregunta que uno se hace -a la luz de todos estos antecedentes- es si ya hemos regulado tantas fuentes productivas, servicios y rubros, ¿por qué nos cuesta tanto regular la industria de las redes sociales, y ahora de inteligencia artificial, que está demostrando ser tan nociva y que profita en base a nuestros intereses, ánimo y percepción propia y de otros? Regular no significa sancionar.

Que a la máxima autoridad de la Iglesia le pongan una chaqueta puede ofender a los creyentes y ser motivo de burla para los no creyentes, pero inventar imágenes que afecten la dignidad de personas, en especial si son figuras públicas, es un atentado a la sociedad en su conjunto y una amenaza para la democracia. Es momento de avanzar con paso firme hacia estrategias holísticas de prevención de la violencia digital política, incluida la desinformación, donde las redes sociales tengan responsabilidades claras de transparencia y rendición de cuentas. Solo así podremos evitar nuevos Papa fake.

Columna publicada en Cooperativa.cl