Por Catalina Frigerio y Patricia Díaz Rubio
El 23 y 24 de octubre próximo, Chile será anfitrión del Foro sobre la ética de la inteligencia artificial en América Latina y el Caribe (ALC), evento impulsado por UNESCO, el Banco de Desarrollo de América Latina (CAF) y el Ministerio de Ciencia, Tecnología, Conocimiento e Innovación. El encuentro tiene como objetivo establecer un consejo regional encargado de implementar la Recomendación de Ética de la IA de UNESCO adoptada por sus 193 Estados miembros en noviembre de 2021. El foro se erige como un espacio político y técnico que busca abordar la inteligencia artificial (IA) con un enfoque ético, integrador y protector de derechos, considerando las prioridades específicas de la región ALC.
Chile no sólo será sede del encuentro sino que se consagrará como el primer país latinoamericano en evaluar su estado actual respecto del uso de IA, usando la Metodología de Evaluación de Preparación (RAM, por sus siglas en inglés) y que es una herramienta de diagnóstico diseñada por UNESCO para ayudar a los gobiernos en el despliegue de la IA. De manera paralela y como parte del proceso, se han desarrollado en nuestro país una serie de talleres participativos para el sector público y privado, la academia y sociedad civil y cuyos resultados serán presentados en el foro de octubre con el objetivo de actualizar la Política Nacional de Inteligencia Artificial de 2021.
De manera similar a lo que está sucediendo en otras partes del mundo, este encuentro busca entregar lineamientos sobre cómo lidiar con la IA y las aplicaciones de IA generativa, teniendo en cuenta tanto los riesgos como las oportunidades que implica su rápido avance. Si bien hay numerosos ámbitos en los que la IA crea mejoras y eficiencias, su uso plantea nuevos desafíos legales y regulatorios, incluyendo aspectos como la determinación de la titularidad de los derechos de autor sobre el contenido creado, la responsabilidad sobre los potenciales daños que ésta pueda acarrear, la incertidumbre respecto a la protección de los datos personales utilizados y tratados, la existencia de sesgos y discriminación en los algoritmos que generan este contenido, y los problemas de seguridad que suponen los usos malintencionados de esta tecnología.
La regulación de la IA es un tema crucial para el movimiento Wikimedia. Al igual que los humanos, la IA construye su conocimiento en bloques, es decir, utiliza conjuntos de datos a partir de los cuales infiere patrones y deduce características que la lleva a “aprender” y generar nueva información. Para que ese proceso se efectúe de manera virtuosa, es crucial contar con información robusta y de calidad. Es aquí donde los proyectos Wikimedia (como Wikipedia), que promueven el conocimiento libre, colaborativo y revisado colectivamente, juegan un papel fundamental en el desarrollo y avance de la IA. Al dar acceso abierto a conocimiento que busca ser fiable, las plataformas Wikimedia proporcionan la materia prima necesaria para entrenar y mejorar los sistemas de IA.
En efecto, la IA necesita enormes conjuntos de datos para aprender y adquirir conocimiento, y los proyectos Wikimedia brindan una vasta cantidad de información verificada y diversa, lo que resulta esencial para el entrenamiento de sus algoritmos. A la fecha, todos los modelos de lenguaje de gran tamaño están entrenados en el contenido de Wikipedia y casi siempre es la mayor fuente de datos de capacitación en sus conjuntos de datos.
Es esta diversidad de contenido la que permite que los modelos de IA se nutran de información precisa y confiable, conduciendo a un mejor rendimiento y una toma de decisiones más precisa. Por el contrario, y sabiendo que la IA “aprende” tanto del contenido con el que se entrena como del que va generando, el enfrentarse a fuentes dudosas, erróneas o con poca verificación resulta dañino y guarda un potencial impacto expansivo, particularmente en una sociedad cada vez más mediática y cruzada por la desinformación.
A diferencia de las predicciones que atisban un mundo cada vez más automatizado, creemos que tanto para la sustentabilidad de la IA generativa como la de las plataformas Wikimedia, el componente humano es fundamental. Por una parte, la intervención humana es esencial para garantizar que dichos sistemas se utilicen de manera ética y responsable, evitando daños y garantizando el bienestar de la sociedad. Por otra parte, el funcionamiento de plataformas como Wikimedia está basado sobre la edición colaborativa y la supervisión de una comunidad activa de voluntarios cuya participación es clave para mantener la neutralidad y calidad de los contenidos. Por ende, contar con una ciudadanía proactiva y comprometida, con pensamiento crítico y formación en educación digital, es la mejor manera de proteger tanto el ecosistema de generación de conocimiento, como el acceso a la información, la democracia y la protección de los derechos humanos en general.
Mediante la implementación de la RAM y la actualización de su Política, Chile tendrá la oportunidad de discutir, en el momento justo, las formas en que funciona e impacta la IA. Como integrantes de Wikimedia Chile, esperamos que la perspectiva humana pueda estar en el centro de esta conversación, considerando siempre una tecnología que esté al servicio de las personas y que participe virtuosamente de la creación de un conocimiento más justo, inclusivo y participativo.
Autoras:
Catalina Frigerio. Asesora de políticas públicas en Wikimedia Chile. Abogada (Universidad de Chile) especializada en tecnología, privacidad y propiedad intelectual. Magíster en Análisis Económico del Derecho como parte del programa Erasmus Mundus Programme de la Unión Europea y MPA en Tecnología Digital y Política de la University College de Londres.
Patricia Díaz Rubio. Directora ejecutiva de Wikimedia Chile. Comunicadora social y periodista (Universidad de Chile), especializada en patrimonio cultural, gestión y difusión de proyectos de acceso y cultura abierta. Magíster en Comunicación Política Local de la Universidad de Orléans y Magíster en Sociología del Desarrollo de la Universidad Panteón Sorbona de París.