La Asociación para el Progreso de las Comunicaciones (APC), una organización en red cuya membresía diversa procede del Sur Global, ha tenido un papel importante y constante en la publicación de contenidos que amplifican la voz y las perspectivas de las comunidades marginadas en el contexto de la inclusión digital, y los espacios y procesos de los derechos digitales y de internet.
Como red feminista y de derechos humanos que se dedica a defender la justicia social, de género y ambiental para todas las personas y los pueblos, APC une fuerzas con otras organizaciones para defender un enfoque de la inteligencia artificial (IA) basado en la justicia climática y los derechos humanos. Consideramos que el avance de estas tecnologías genera muchos riesgos e impactos negativos – desde su calamitoso impacto ambiental, hasta su uso para la vigilancia y la violación de derechos humanos.
Consideramos que el contenido creado por personas – que refleja la diversidad de sus experiencias, posicionalidades y voces – debe ser el núcleo de nuestro enfoque sobre la producción de contenidos y de nuestras políticas editoriales. Como parte de este trayecto y teniendo en cuenta lo que está sucediendo, APC declara que desaconseja el uso de modelos extensos de lenguaje (LLM, por su sigla en inglés) u otras herramientas de inteligencia artificial generativa en el desarrollo de contenidos para sus plataformas y canales. En esta política presentamos las razones que sustentan tal decisión, reconociendo la importancia de encontrar un equilibrio en esta cuestión y fomentando una cultura de diálogo abierto. Creemos que los diferentes usos de la IA y lo que los motiva se pueden hacer visibles para nuestro público y debatir dentro de nuestra comunidad para poder aprovechar el conocimiento colectivo y mantener actualizado nuestro enfoque sobre el asunto.
Priorizar la creación de las personas
Hemos constatado un incremento significativo del uso de herramientas de IA generativa para elaborar y revisar contenidos tales como investigaciones, artículos, resúmenes, presentaciones, traducciones, imágenes o ilustraciones, y otras cosas. Consideramos que dicho uso va en detrimento del desarrollo de las capacidades y el pensamiento creativo de las personas, impide la amplificación de voces diversas procedentes de las comunidades de base ya que homogeiniza enfoques, narrativas y estilos, y además se alimenta de años de valioso trabajo de investigadores/as, escritores/as, activistas y artistas sin otorgar la compensación financiera o el reconocimiento de fuentes y autoría que corresponde.
Esto se suma al impacto negativo que tiene en la remuneración de las personas que se dedican a la creación de contenidos profesionalmente, que ya suelen ser mal remunerados/as, como los y las artistas, escritores/as y quienes hacen edición, corrección de texto y estilo, traducción, etc. También es importante destacar que no confiamos en los procedimientos de consulta y acreditación de fuentes, así como en los procesos de verificación de hechos y datos que forman parte de estas herramientas. En este sentido, también tenemos conciencia de que el uso de estas herramientas a veces lleva a recurrir a fuentes de información para escribir que no son creíbles o fiables, y esa integridad de la información es la que se espera de autores y autoras de contenidos para la plataforma de APC.
Las plataformas de IA generativa no sólo pueden hacer que se perpetúen los prejuicios sociales, sobre todo los de género y los raciales, sino que también los amplifican a través de las interacciones entre usuarios y usuarias, profundizando la discriminación. Estas herramientas se desarrollan en contextos culturales y demográficos específicos, lo que refleja su manera de operar – ya que su forma de “razonamiento” dista mucho de reflejar la diversidad de nuestras comunidades y del mundo.
Esta situación se exacerba con el comportamiento de las personas usuarias que explotan las capacidades de la IA para generar contenidos problemáticos. Por ejemplo, la IA tiene tendencia a favorecer a determinados grupos demográficos, sobre todo de características caucásicas, durante el proceso de mejora de calidad de imágenes. Este fenómeno, conocido como colorismo, junto con el edadismo (discriminación por motivos de edad), subraya la inquietante tendencia de los algoritmos de la IA de reforzar estereotipos perjudiciales.
Para mantener la fidelidad a la visión, la misión, los valores y la política editorial de APC, teniendo en cuenta también que la justicia ambiental es uno de los pilares de nuestro plan estratégico actual, desaconsejamos enfáticamente el uso de modelos extensos de lenguaje (LLM) u otras herramientas de IA generativa para producir contenidos como artículos, entradas de blog, traducciones, videos, podcasts e ilustraciones que se publiquen en los canales de nuestra organización. Esto se aplica tanto a los y las integrantes del equipo de APC, como a sus contratistas y colaboradores/as.
APC es una comunidad diversa y bien establecida que valora el contenido generado a raíz de un proceso de creación humana que se nutre de las experiencias vividas, las interacciones humanas, la pericia y la diversidad de las personas y organizaciones que componen la red, y que contribuye a fortalecer nuestra inteligencia colectiva.
Además, como el grupo de innovación y práctica tecnológica que somos, creemos que internet es un recurso público y asumimos el compromiso de promover la infraestructura alternativa y modelos económicos que contribuyan al bien público común. APC valora la iniciativa y la propiedad locales, los contenidos abiertos, el software libre y de fuente abierta (FLOSS) y las soluciones tecnológicas adecuadas y asequibles, que por ahora no son características de las herramientas de la IA.
Reconocer las contradicciones e incentivar una cultura de transparencia
Así como reconocemos todos los problemas que plantean estas herramientas, también aceptamos que se pueden utilizar herramientas de IA para producir contenidos de diversas maneras, en escalas diferentes y por diversos motivos. Al igual que con otras herramientas, su uso puede tener repercusiones positivas y negativas al mismo tiempo y las motivaciones pueden variar enormemente. Sabemos que este tipo de herramientas puede constituir una alternativa concreta y accesible, por ejemplo, para autores y autoras del Sur Global que realizan el generoso esfuerzo de escribir en lenguas no nativas para los canales de APC, como es el caso del inglés y el español. También somos conscientes de que personas con capacidades diferentes utilizan la IA como herramienta de apoyo para su trabajo.
APC no exigirá que sus colaboradores/as eviten el uso de herramientas de IA pero, como creemos que la transparencia es fundamental, esperamos que se nos informe el alcance de dicho uso. En esos casos, APC priorizará la transparencia ante su público, presentando un descargo público de responsabilidad al explicitar la intervención de herramientas de IA en la creación de dicho contenido y especificando, en la medida de lo posible, la naturaleza y el nivel de utilización de ese tipo de herramientas.
Creemos que mantener el diálogo abierto e informar a nuestro público sobre cómo y cuándo se utilizan herramientas de IA es la mejor manera de establecer algún equilibrio entre nuestra posición frente a este asunto y la autonomía de nuestras comunidades para posicionarse de otra manera. Al mismo tiempo, una cultura de transparencia puede ayudarnos a desarrollar esta política en base a un diálogo abierto, además de ayudarnos a identificar las brechas que pueden llevar al uso de IA y a pensar alternativas para resolver la situación.
Esta política en la práctica
APC aprecia los esfuerzos de sus autores/as a la hora de crear relatos sobre los diferentes matices de la realidad de las comunidades con las que trabajan, y se compromete a:
Trabajar junto con los/as autores/as para amplificar las voces y experiencias de las comunidades destacadas en sus relatos, garantizando también que los artículos publicados cumplen con las normas de APC a través de todo el proceso de edición.
Ofrecer corrección de texto, que siempre se realizará teniendo en cuenta que muchas personas pueden estar escribiendo en una lengua que no es materna para ellas dado que el sitio web de APC está disponible en inglés, español y francés.
APC se reserva el derecho de evaluar cada publicación y de decidir a discreción no publicar contenido que se haya producido en su totalidad o en su mayor parte utilizando herramientas de IA.
Teniendo en cuenta el conocimiento colectivo para navegar nuevos desafíos en relación a las tecnologías emergentes, sabemos que esta política también tendrá que ir cambiando, de modo que la actualizaremos siempre que sea necesario.
APC comprende que las tecnologías de IA generativas han llegado para quedarse y que serán un componente más de la mayoría de los avances tecnológicos. Creemos que el trabajo en colaboración es el mejor camino para desarrollar estrategias de mitigación y aprovechar el potencial de la IA con el fin de promover la justicia y la inclusión.
Al mismo tiempo, seguiremos amplificando el debate sobre las consecuencias del uso de la IA y defendiendo un enfoque ético y basado en los derechos humanos y la justicia climática, utilizando comunicaciones estratégicas para apoyar nuestros esfuerzos de activismo comunitario.
Esta política se basa en numerosas fuentes que incluyen la visión, misión, los valores y la política editorial y de software libre de APC, así como la política de Global Voices sobre la IA y los lineamientos de GenderIT.org sobre el uso de la IA para las propuestas de contenido.