Como regular la IA en el ámbito educativo
Paso 1: Adscribirse a regulaciones generales de protección de datos internacionales o regionales, o desarrollar normativas nacionales
El entrenamiento de los modelos de IA ha implicado la recolección y el tratamiento de datos en línea de ciudadanos de muchos países. El uso de datos y contenidos sin consentimiento por parte de los modelos de IA está poniendo aún más en peligro la cuestión de la protección de datos. La normativa general de protección de datos, de la cual el GDPR de la UE promulgado en 2018 es uno de los ejemplos precursores, aporta el marco legal necesario para regular la recolección y el tratamiento de datos personales por parte de los desarrolladores de IA. Según el portal Data Protection and Privacy Legislation Worldwide de la Conferencia de las Naciones Unidas sobre Comercio y Desarrollo (UNCTAD), 137 de 194 países han establecido una legislación para salvaguardar la protección de datos y la privacidad.
Paso 2: Adoptar/revisar y financiar estrategias sobre IA para todo el sector gubernamental
La regulación de la IA generativa debe formar parte de estrategias nacionales de IA más amplias que aseguren un uso seguro y equitativo de la IA en todos los sectores del desarrollo, incluida la educación. La formulación, adhesión, financiación y aplicación de las estrategias nacionales de IA requieren un enfoque que involucre a todo el gobierno. Solo un planteamiento de estas características puede garantizar la coordinación de acciones intersectoriales necesaria para responder de forma integrada a los nuevos desafíos.
Paso 3: Consolidar e implementar normativas específicas sobre la ética de la IA
Para abordar las dimensiones éticas que plantea el uso de la IA, se requiere una normativa específica. La revisión de estrategias nacionales de IA realizada por la UNESCO en 2023 indica que la identificación de estas cuestiones éticas y la formulación de principios orientadores solo es común a unas 40 estrategias nacionales de IA.50 E, incluso en estos casos, los principios éticos deberán traducirse en leyes o reglamentos de cumplimiento obligatorio. Rara vez ocurre algo así. De hecho, solo unos 20 países han definido normativas claras sobre la ética de la IA, incluyendo su relación con la educación, sea como parte de las estrategias nacionales de IA o de otro modo. Resulta interesante que, aunque la educación se destaca como un dominio político en unas 45 estrategias nacionales de IA,51 las referencias a la educación se articulan más en términos de habilidades de IA y el desarrollo de talentos necesarios para respaldar la competitividad nacional, y menos en términos de cuestiones éticas.
Paso 4: Adaptar o hacer cumplir las leyes de derechos de autor existentes para regular los contenidos generados por IA
El uso cada vez más generalizado de la IA ha presentado nuevos desafíos para los derechos de autor, tanto en lo referente a los contenidos protegidos por éstos o al trabajo sobre el que se entrenan los modelos, como al estatus de los resultados de conocimiento “no humano” que producen. En la actualidad, solo China, los países de la UE y Estados Unidos han adaptado la legislación sobre derechos de autor para que contemple las implicancias de la IA generativa. La Oficina del Derecho de Autor de EEUU, por ejemplo, dictaminó que los resultados de los sistemas de IA, como ChatGPT, no están protegidos por la ley de derechos de autor estadounidense, argumentando que “los derechos de autor solo pueden proteger material que sea producto de la creatividad humana” (Oficina del Derecho de Autor de EEUU, 2023).
Paso 5: Elaborar marcos regulatorios sobre la IA generativa
El rápido ritmo de desarrollo de las tecnologías de IA está forzando a los organismos de gobernanza nacionales/locales a acelerar la actualización de sus legislaciones. Hasta julio de 2023, solo un país, China, había promulgado regulaciones oficiales específicas sobre IAGen. El Reglamento Provisional sobre Regulación del Servicio de IA Generativa publicado el 13 de julio de 2023 (Administración del Ciberespacio de China, 2023a) exige a los proveedores de sistemas de IAGen que etiqueten los contenidos, imágenes y vídeos generados por IA de forma adecuada y legal, de conformidad con su actual Reglamento sobre Síntesis Profunda en el Marco de los Servicios de Información en Línea. Es preciso desarrollar más marcos nacionales específicos de la IAGen basados en una evaluación de las brechas existentes en las regulaciones y leyes locales.
Paso 6: Construir capacidades para el uso adecuado de la IA en educación e investigación
Las escuelas y demás instituciones educativas necesitan desarrollar capacidades para entender los beneficios y riesgos potenciales de la IA, incluyendo la IAGen, para la educación. Solo sobre esta base podrán validar la adopción de herramientas de IA. Asimismo, es necesario apoyar a los docentes e investigadores en el fortalecimiento de sus capacidades para el uso adecuado de la IAGen, incluyendo su formación y el entrenamiento continuo. Varios países han puesto en marcha este tipo de programas de desarrollo de capacidades, entre ellos Singapur, que ofrece una plataforma específica para el desarrollo de capacidades.
Paso 7: Reflexionar sobre las implicancias a largo plazo de la IA para la educación y la investigación
El impacto de las actuales versiones de IAG en apenas comienza a manifestarse, y sus efectos en la educación aún no se han explorado ni comprendido plenamente. Entretanto, continúan desarrollándose e implementándose versiones cada más potentes de IAGen y otras clases de IA. Sin embargo, siguen planteándose cuestiones cruciales sobre las implicancias de la IAGen para la creación, transmisión y validación del conocimiento, para la enseñanza y el aprendizaje, para el diseño y la evaluación curricular y para la investigación y los derechos de autor. La mayoría de los países se encuentran en la fase inicial de adopción de la IAGen en la educación, aunque aún se desconocen sus repercusiones a largo plazo.
Elaborado por: Marianelly Osorio
Comentarios
Publicar un comentario