Mesa 1: Políticas Públicas y Derechos Humanos
Derechos y libertades:
Falta de una política pública clara sobre IA en México.
Existe un marco incompatible en México para incorporar tecnologías de IA, y la información sobre su uso se mantiene en la opacidad.
Impacto en los "neuro derechos", como la libertad cognitiva y el derecho a pensar, y los sesgos culturales.
Necesidad de definir públicos objetivos para que el marco de regulación sea más compatible con la realidad.
La sostenibilidad energética de la IA y su impacto en la investigación.
Privacidad y la variación en el contexto de diferentes países.
Transparencia y responsabilidad:
Estandarización para facilitar el intercambio de datos.
Actualizar la plataforma de datos abiertos del gobierno.
Auditoría algorítmica como medio para garantizar la protección de datos personales.
Crear un ente regulador que establezca estándares de calidad para la IA.
Legislación y consentimiento:
Falta de cumplimiento de las obligaciones legales en cuanto al manejo de datos personales.
Necesidad de reforzar y actualizar el marco normativo en cuanto a la protección de datos personales.
Se cuestionó si la ley de protección de datos permite a los usuarios controlar sus datos y eliminarlos.
Política pública y cooperación internacional:
Necesidad de contar con expertos técnicos y presupuesto para la regulación efectiva de la IA.
Diálogo internacional en la regulación de la IA y la importancia de que las regulaciones sean efectivas.
Otros puntos:
Evitar la sobrerregulación y abogar por una regulación basada en el riesgo.
Claridad conceptual y la necesidad de definir y distinguir los términos relacionados con la IA.
Minimización de datos y la necesidad de una evaluación del impacto de privacidad o protección de datos.
Se mencionaron dos visiones en el entorno digital: la IA como un catalizador importante y la relevancia de los datos personales y derechos digitales en políticas públicas.
Mesa 2: Educación y Mercados Laborales
Educación y Mercados Laborales:
Necesidad de alfabetización digital y pensamiento crítico.
Crear leyes para educar sobre IA y la necesidad de enfoque en trabajadores y sindicatos.
Falta de coordinación entre los niveles de educación básica, media y superior.
Que la IA se utilice para preservar las lenguas y culturas indígenas.
Incorporar la ética en la educación sobre IA.
Desarrollo de la IA en México:
Destacar el papel de la sociedad civil y la academia en la promoción de la IA en México.
Cambiar las dinámicas laborales y de valor con la IA.
La ausencia de respuestas sobre estrategias o programas gubernamentales para mejorar las habilidades digitales en el sector público y la capacitación obligatoria en habilidades digitales para los empleados públicos.
Importancia de que la legislación resultante sea vinculante y con seguimiento.
Política Educativa y Brechas Digitales:
Garantizar el acceso inclusivo a la tecnología.
La capacitación de los profesores en asuntos digitales se consideró crucial.
La política educativa debe garantizar equidad y acceso a toda la población.
Enfoque en Necesidades Específicas:
Desarrollar capacidades y adaptar el modelo educativo a las necesidades específicas de diferentes regiones de México.
Responsabilidad Compartida entre Actores:
Colaboración entre la academia, la industria y el gobierno en el desarrollo de estrategias educativas.
Mesa 3: Ciberseguridad y Gestión de Riesgos
Gestión de riesgos en general:
Se enfatizó la necesidad de comprender la IA y sus riesgos, promover la transparencia algorítmica y corresponsabilizar a todos los actores en la cadena devalor de la IA.
Usos de IA inaceptables:
Se discutió la importancia de centrar la tecnología en las personas y respetar los derechos humanos.
Se mencionó la discriminación y el perfilamiento automatizado como riesgos significativos.
Categorías de riesgos en el uso de la IA:
Se exploraron distintas categorías de riesgos, incluyendo la vigilancia masiva, campañas de desprestigio, discurso de odio, discriminación y la posibilidad de crear armas autónomas.
Responsabilidad y regulación:
La cuestión de la responsabilidad y la regulación de la IA se consideró un desafío importante debido a la complejidad técnica y la naturaleza de "caja negra" de algunos modelos de IA.
Se destacó la importancia de no sobrerregular y de establecer regulaciones adecuadas que eviten prohibir la creatividad.
Contar con un marco regulatorio que proteja los derechos humanos y la privacidad en el contexto de la IA.
Cómo diseñar una IA que garantice la privacidad
Visión prospectiva y acción proactiva:
Se hizo hincapié en la importancia de adoptar una visión prospectiva en la regulación de la IA en lugar de una perspectiva reactiva.
Terminología común:
Es esencial establecer un lenguaje común y términos definidos al discutir la IA y laciberseguridad.
Ciberseguridad:
Importancia de la ciberseguridad, la prevención del acceso no autorizado a datos,y la revisión de la configuración de seguridad en operaciones, software y hardware.
Urge un programa nacional de ciberseguridad.
Se discuten medidas preventivas, correctivas y transparencia en relación con los ciberataques.
Protección de Datos
Se menciona la importancia de la legitimación para obtener información y se destaca el consentimiento como vía de legitimación.
Aplicación de estándares de protección de datos en relación con la inteligencia artificial.
Otros
Se aboga por la inclusión de las universidades en la regulación de la IA y la ciberseguridad.
Se destaca la necesidad de transparencia en los sistemas de proveedores del gobierno.
Mesa 4: Género, Inclusión Y Responsabilidad Social
Perspectiva de Género:
Necesidad de una base más amplia y diversa de programadores para evitar sesgos en algoritmos y bases de datos.
Importancia de cerrar la brecha de género en carreras STEM.
Reconocimiento de la hipersexualización y la violencia digital hacia las mujeres.
La vigilancia estatal masiva tiene un impacto en los derechos de las mujeres.
Inclusión y Diversidad:
Falta de políticas y estrategias nacionales para reducir la brecha digital socioeconómica y rural/urbana.
Discusión sobre la diversidad en la fuerza laboral de la IA y la necesidad de políticas y estadísticas de diversidad.
Programas de divulgación para mejorar la diversidad en STEM.
Grupos Vulnerables:
La falta de un marco de "notice and take down" para contenido con discurso de odio y trato discriminador.
Necesidad de definir la responsabilidad de los intermediarios en línea.
Necesidad de considerar las implicaciones de las tecnologías en los Derechos Humanos.
Crítica al enfoque tecnocentrista, abogando por centrar la atención en los grupos sociales.
Obligaciones legales y políticas para reducir la brecha digital.
Ausencia de normas o políticas para mejorar la diversidad en la fuerza laboral de IA.
Necesidad de reportes y transparencia en empresas para cerrar brechas.
Falta de políticas específicas para la preservación de lenguas indígenas mediante IA.
Iniciativas independientes sin respaldo gubernamental claro.
Brecha de participación de mujeres en IA, tanto en educación como en el mercado laboral.
Necesidad de abordar el impacto ambiental de la IA, especialmente en consumo energético.
Falta de políticas específicas y llamado a evaluar impacto ambiental y social.
Urgencia de regular la transparencia en desarrollo, funcionamiento y uso de IA.
Temas a considerar:
Falta de normas para mejorar la diversidad en la fuerza laboral de IA.
Importancia de reportes y transparencia en empresas para fomentar la diversidad.
Uso de IA en la preservación de lenguas indígenas y falta de respaldo gubernamental.
Desafíos de liderazgo y participación de mujeres en el campo de la IA.
Necesidad de registros nacionales para comprender la participación laboral de mujeres en la IA.
Consideración de políticas para abordar el impacto ambiental de la IA.
Evaluación de la eficacia de las políticas y su relación con objetivos de desarrollo sostenible.
Urgencia de regulaciones que aborden la transparencia en el desarrollo y uso de IA.
Mesa 5: Infraestructura y Datos
Digitalización del Estado Mexicano
Nivel medio de confianza en servicios digitales gubernamentales.
La dinámica del gobierno abierto desde el CIDE y la UDG sugiere falta de confianza debido a la variabilidad en el rendimiento de los servicios digitales.
Confianza y Legislación en IA
Falta de una estrategia clara de IA en México.
Legislación existente en casos específicos como "deep fakes".
Propuestas para actualizar la legislación vigente en lugar de crear nuevas leyes específicas para la IA.
Deterioro en la confianza en sitios web gubernamentales.
Desafíos Éticos y de Conocimiento en IA
Falta de investigación y desarrollo de tecnologías emergentes en México.
Necesidad de comprender los conceptos de IA antes de considerar la regulación.
Enfatiza la importancia de introducir la ética en el desarrollo de la IA.
Desarrollo y Regulación de IA
Debate sobre regulación centrado en la IA generativa.
Dificultad para evaluar algoritmos de gran escala antes de la implementación.
Necesidad de monitorear procesos y entender el impacto de la IA en la sociedad.
Aunque existen esfuerzos aislados, no hay una estrategia nacional integral para el desarrollo y aplicación de la Inteligencia Artificial en México.
Aunque hay regulaciones, se destaca la importancia de contar con un marco regulatorio integral que abarque aspectos como el impacto ambiental del desarrollo digital.
Involucramiento en Estándares Internacionales
Falta de participación activa en estándares técnicos y éticos de IA.
Advierte sobre la precaución al adoptar estándares internacionales para no limitar el desarrollo nacional.
Acceso a la Información:
Se observa una disminución en la accesibilidad y facilidad de uso de las páginas web del gobierno, lo cual puede impactar negativamente en el acceso a la información.
Políticas y Proyectos de IA
Falta de una estrategia nacional clara para el desarrollo de IA.
Consideraciones sobre la legislación y su impacto en el desarrollo tecnológico.
Salud Digital y Datos Abiertos
Falta de una política clara de salud digital, tanto en aspectos físicos como mentales.
Desafíos en la implementación de políticas de datos abiertos.
Ausencia de datos abiertos y su impacto en el desarrollo de IA.
Mecanismos internacionales para el intercambio de datos transfronterizos, pero se destaca la importancia de salvaguardas para proteger la privacidad y la seguridad nacional.
Colaboración Público, Privada y Social
Importancia de la colaboración entre sectores para compartir datos.
Participación de México en acuerdos internacionales sobre datos transfronterizos.
Se subraya la importancia de fomentar la colaboración entre el sector público y privado, reconociendo la necesidad de compartir datos de manera responsable y segura.
Brechas en el ámbito digital
Se reconoce la existencia de una brecha en habilidades digitales que puede limitar el aprovechamiento de servicios digitales y datos.
Aunque ha habido un aumento en la presencia de mujeres en el ámbito tecnológico, persiste una desigualdad de género en estas áreas.
Otros
Se señala el incremento en el consumo de energía, especialmente en data centers, como un aspecto a considerar en el desarrollo tecnológico.
Esfuerzos aislados en conectividad, legislación y políticas de IA.
Mesa 6: Innovación e Industria
Se debe detonar la cultura de innovación y nuevos emprendimientos basados en IA, así como, la digitalización y capacidades de nuestras PYMES que son la base dela economía:
Necesidad de cumplir con los derechos fundamentales (libertad de expresión y protección de datos).
Respeto al derecho de competencia.
Respetar los derechos de autor y contribuir al desarrollo
Responsabilidad enfocada en la transparencia.
Obligación de la Industria de informar a los usuarios cuando se está usando IA ensus procesos.
Denunciar usos inadecuados violatorios a los derechos humanos.
Informar a los usuarios sobre el uso de sus datos.
Fomento de la educación STEM, innovación, colaboración y becas desde la educación básica: Impulsar programas educativos que promuevan las disciplinas STEM y que integren tecnologías como IA en los programas de estudio desde los primeros niveles de educación para cultivar una cultura de conocimiento en la sociedad, a través de programas de colaboración entre la industria, académicos y estudiantes, respaldados por becas para fomentar la participación y el trabajo conjunto.
Inversión en investigación y desarrollo (de capital público y privado): Crear incubadoras especializadas en inteligencia artificial como entornos multidisciplinarios para el desarrollo de proyectos innovadores y garantizar la existencia de un capital tanto gubernamental como de iniciativa privada para respaldar proyectos de investigación y desarrollo en el campo de la IA.
Regulación adecuada: Establecer regulaciones que guíen el desarrollo ético y responsable de la IA, abordando cuestiones como la transparencia, la explicabilidad y la responsabilidad en el uso de datos.
Desarrollo de estándares éticos y regulatorios: Adoptar estándares éticos y regulatorios internacionales para guiar el desarrollo y la implementación de soluciones de IA, evitando la creación de regulaciones innecesarias.
Incentivos fiscales y apoyo a startups: Proporcionar incentivos fiscales y apoyo financiero a startups que se centren en la innovación en IA, fomentando así la participación del sector privado en el desarrollo tecnológico.
Transparencia en la autorregulación:Promover la autorregulación en la industria de la IA, asegurando que los códigos de conducta sean transparentes y beneficiena la sociedad, al tiempo que se consideran los derechos individuales.
Colaboración entre sectores: Fortalecer la colaboración entre el sector público, privado y académico a través de eventos, foros de colaboración, intercambio entre universidades y empresas, y programas conjuntos para impulsar la investigación y el desarrollo en inteligencia artificial.
Comments