Este es un resumen de la investigación del Centro de Estudios Internacionales Gilberto Bosques del 28 de septiembre de 2023 “Tendencias hacia la regulación de la Inteligencia Artificial”
La inteligencia artificial (IA) ha estado en desarrollo durante años, y recientemente, los avances en IA generativa han generado un debate internacional sobre la necesidad de regulación. Expertos, como Ian Bremmer y Mustafa Suleyman, destacan los riesgos asociados, incluida la desinformación y el sesgo algorítmico.
Diferentes paradigmas regulatorios están surgiendo en Estados Unidos, China y Europa, con enfoques arraigados en valores e incentivos distintos. La Unión Europea lidera la regulación, con una ley que busca garantizar sistemas de IA seguros, transparentes y no discriminatorios.
Otros países, como Estados Unidos, favorecen la innovación sobre la regulación, mientras que China busca un equilibrio entre innovación y control. En Australia, el gobierno consulta sobre regulaciones, el Reino Unido planifica la regulación, Israel trabaja en normas, y Japón espera introducir regulaciones cercanas al enfoque estadounidense.
Empresas como Google y Microsoft han publicado sus propias recomendaciones para regular la IA. A nivel multilateral, la ONU ha debatido sobre la IA, reconociendo la necesidad de gobernanza.
China, Estados Unidos y la Unión Europea son los actores más avanzados en regulación de IA. La UE busca un marco que asegure la seguridad y transparencia de los sistemas de IA, clasificándolos por riesgo y aplicando regulaciones según niveles.
Las diferencias en enfoques de regulación podrían llevar a la fragmentación y regionalización en la tecnología. A nivel internacional, el G7 reconoce la necesidad de avanzar en la gobernanza de la IA.
Nivel Descripción
Riesgo inaceptable | Incluyen:Los sistemas cognitivos que manipulan el comportamiento de personas o grupos vulnerables específicos, por ejemplo, juguetes activados por voz que fomentan comportamientos peligrosos en los niños;Los sistemas de puntuación social que se utilizan para clasificar a la población en función de su comportamiento, estatus socioeconómico o características personales; Los sistemas de identificación biométrica en tiempo real y a distancia, como el reconocimiento facial, aunque contempla ciertas excepciones para este caso. |
Alto riesgo | Incluye dos categorías: Los sistemas de IA que se utilicen en productos sujetos a la legislación europea tales como juguetes, aviación, automóviles, dispositivos médicos y ascensores.Los sistemas de IA pertenecientes a ocho ámbitos específicos y que podrán funcionar previo registro ante la UE: identificación biométrica y categorización de personas físicas; gestión y explotación de infraestructuras críticas; educación y formación profesional; empleo, gestión de trabajadores y acceso al autoempleo; acceso y disfrute de servicios privados esenciales y servicios y prestaciones públicas; aplicación de la ley; gestión de la migración, el asilo y el control de fronteras; asistencia en la interpretación jurídica y aplicación de la ley. Prevé que todos los sistemas de IA de alto riesgo deberán ser evaluados antes de su comercialización y a lo largo de su ciclo de vida. |
Riesgo limitado | Incluye los sistemas de IA que generan o manipulan contenidos de imagen, audio o vídeo, por ejemplo, las deepfakes (edición de videos con imágenes falsas de personas). |
En el ámbito de la inteligencia artificial generativa, sistemas como ChatGPT deben cumplir con requisitos de transparencia, como especificar que el contenido ha sido generado por IA y evitar la creación de contenidos ilegales. Estos sistemas se consideran de riesgo limitado.
En la Unión Europea (UE), se están desarrollando marcos regulatorios específicos para la IA. La Ley de IA busca garantizar la seguridad, transparencia y no discriminación en los sistemas de IA, clasificándolos por niveles de riesgo. Además, la Directiva sobre responsabilidad civil en IA y otras leyes complementarias están en discusión para abordar aspectos éticos y de responsabilidad.
En Estados Unidos, hay enfoques mixtos. El Senado ha propuesto iniciativas como el marco SAFE, destacando la importancia de la seguridad nacional, la lucha contra la desinformación y la protección de la propiedad intelectual. La Casa Blanca ha presentado un Plan para una Declaración de Derechos de la IA, estableciendo principios para el diseño y uso ético de sistemas de IA.
China busca liderar la IA, implementando reglas éticas y de control. Regulaciones recientes se centran en el uso de algoritmos de recomendación y la revisión ética de actividades científicas y tecnológicas. Se espera la presentación de una Ley de IA que equilibre innovación y control.
En México, aún no existe una legislación específica para la IA. Se han presentado iniciativas y propuestas para regular el desarrollo y uso ético de la IA. La creación de la Alianza Nacional de Inteligencia Artificial y la colaboración con la UNESCO demuestran el interés del país en adoptar enfoques éticos y responsables en el desarrollo de la IA.
REFERENCIAS
1 Centro de Estudios Internacionales Gilberto Bosques, Contexto Internacional, “Perspectiva internacional sobre los nuevos desarrollos en IA y sus implicaciones”, Senado de la República, México, 12 de abril de 2023. Consultado el 26 de septiembre de 2023 en: https://centrogilbertobosques.senado.gob.mx/analisisinvestigacion/contexto/perspectiva-internacional-sobre-los-nuevos-desarrollos-en-ia-y-sus- implicaciones/viewdocument
2 Ian Bremmer y Mustafa Suleyman, “The AI Power Paradox”, Foreign Affairs, 16 de agosto de 2023. Consultado el 26 de septiembre de 2023 en: https://www.foreignaffairs.com/world/artificial-intelligence-power-paradox3 Yuval Noah Harari, “Yuval Noah Harari argues that AI has hacked the operating system of human civilisation”, The Economist, 28 de abril de 2023. Consultado el 26 de septiembre de 2023 en: https://www.economist.com/by-invitation/2023/04/28/yuval-noah-harari-argues-that-ai-has-hacked- the-operating-system-of-human-civilisation
4 Ernesto Fernández Polcuch, “Hacia una inteligencia artificial desde un enfoque de Derechos Humanos: artículo de opinión”, UNESCO, 18 de mayo de 2023. Consultado el 27 de septiembre de 2023 en: https://www.unesco.org/es/articles/hacia-una-inteligencia-artificial-desde-un-enfoque-de- derechos-humanos-articulo-de-opinion?hub=326185 Alec Tyson y Emma Kikuchi, “Growing public concern about the role of artificial intelligence in daily life”, Pew Research Center, 28 de agosto de 2023. Consultado el 27 de septiembre de 2023 en: https://www.pewresearch.org/short-reads/2023/08/28/growing-public-concern-about-the-role-of- artificial-intelligence-in-daily-life/
6 Philippe Lorenz, et. al., “Initial policy considerations for generative artificial intelligence”, OCDE, 18 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://www.oecd-ilibrary.org/docserver/fae2d1e6- en.pdf?expires=1695919233&id=id&accname=guest&checksum=9C77C83F25C9B7B366DC64DB98B94A327 Mikhail Klimentov, “From China to Brazil, here’s how AI is regulated around the world”, The Washington Post, 3 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://www.washingtonpost.com/world/2023/09/03/ai-regulation-law-china-israel-eu/
8 Anu Bradford, “The Race to Regulate Artificial Intelligence”, Foreign Affairs, 27 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.foreignaffairs.com/united-states/race-regulate-artificial-intelligence9 Economist Intelligence Unit, “How governments are looking to regulate AI”, The Economist, 21 de julio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.eiu.com/n/how-governments-are-looking-to-regulate-ai/
10 Comisión Europea, “La protección de datos en la UE”, Protección de datos, s.f. Consultado el 26 de septiembre de 2023 en:
11 Economist Intelligence Unit, op. cit.12 Alessandro Parodi y Amir Orusov in Gdansk, “Governments race to regulate AI tools”, Reuters, 31 de agosto de 2023. Consultado el 26 de septiembre de 2023 en: https://www.reuters.com/technology/governments-race-regulate-ai-tools-2023-08-31/13 Ídem.14 Hiroki Habuka, “The Path to Trustworthy AI: G7 Outcomes and Implications for Global AI Governance”, Center for Strategic & International Studies, 6 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.csis.org/analysis/path-trustworthy-ai-g7-outcomes-and-implications- global-ai-governance15https://ai.google/static/documents/recommendations-for-regulating-ai.pdf16 Microsoft, “Governing AI: A Blueprint for the Future”, 25 de mayo de 2023. Consultado el 26 de septiembre de 2023 en: https://query.prod.cms.rt.microsoft.com/cms/api/am/binary/RW14Gtw17 Microsoft, “Governing AI:A Blueprint for India”, Agosto de 2023. Consultado el 26 de septiembre de 2023 en: https://blogs.microsoft.com/wp- content/uploads/prod/sites/5/2023/08/MSFT_Governing_AI_BlueprintFuture_India_web-2.pdf18 Michelle Nichols, “UN Security Council meets for first time on AI risks”, Reuters, 18 de julio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.reuters.com/technology/un-security-council-meets-first-time-ai-risks-2023-07-18/19 Michelle Nichols, “UN chief backs idea of global AI watchdog like nuclear agency”, Reuters, 12 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.reuters.com/technology/un-chief-backs-idea-global-ai-watchdog-like-nuclear-agency-2023-06-12/20 Office of the Secretary-General's Envoy on Technology, “High-Level Advisory Body on Artificial Intelligence”, Naciones Unidas, 2023. Consultado el 26 de septiembre de 2023 en: https://www.un.org/techenvoy/ai-advisory-body21 Matt Sheehan, “China’s AI Regulations and How They Get Made”, Carnegie Endowment for International Peace, 10 de julio de 2023. Consultado el 26 de septiembre de 2023 en: https://carnegieendowment.org/2023/07/10/china-s-ai-regulations-and-how-they-get-made-pub-9011722 Parlamento Europeo, “EU AI Act: first regulation on artificial intelligence”, Headlines, 16 de julio de 2023. Consultado el 6 de septiembre de 2023 en: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence23 Ídem.24 Ídem.25 Ídem.26 Economist Intelligence Unit, op. cit.27 Centro de Documentación Europea, “Nuevas normas de responsabilidad aplicables a los productos y a la IA para proteger a los consumidores”, Universidad de Granada, 3 de octubre. Consultado el 26 de septiembre de 2023 en: https://cde.ugr.es/index.php/union-europea/noticias-ue/1453- nuevas-normas-de-responsabilidad-aplicables-a-los-productos-y-a-la-ia-para-proteger-a-los- consumidores#:~:text=El%20objetivo%20de%20la%20Directiva,v%C3%ADctimas%20(ya%20sean%20particulares%20o28 Comisión Europea, “Ley de datos”, Políticas, s.f. Consultado el 26 de septiembre de 2023 en: https://digital-strategy.ec.europa.eu/es/policies/data- act#:~:text=La%20Ley%20de%20Datos%20es,y%20valores%20de%20la%20UE.&text=La%20Comisión%20adoptó%20el%2023,como%20la%20Ley %20de%20Datos.29 Comisión Europea, “Ley Europea de Gobernanza de Datos”, Políticas, s.f. Consultado el 26 de septiembre de 2023 en: https://digital- strategy.ec.europa.eu/es/policies/data-governance-act
Google, “Recommendations for Regulating AI”, s.f. Consultado el 26 de septiembre de 2023 en:
30 Economist Intelligence Unit, “How governments are looking to regulate AI”, op. cit.31 Diane Bartz, “US lawmaker urges labelling, restrictions on AI content”, Reuters, 29 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.reuters.com/technology/us-lawmaker-urges-labelling-restrictions-ai-content-2023-06-29/32 Diane Bartz, “U.S. senator introduces bill targeting AI's shortfalls”, Reuters, 28 de abril de 2023. Consultado el 26 de septiembre de 2023 en: https://www.reuters.com/technology/us-senator-introduces-bill-targeting-ais-shortfalls-2023-04-28/33 Senate Democrats, “Majority Leader Schumer Delivers Remarks To Launch SAFE Innovation Framework For Artificial Intelligence At CSIS”, News Room, 21 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.democrats.senate.gov/news/press-releases/majority-leader- schumer-delivers-remarks-to-launch-safe-innovation-framework-for-artificial-intelligence-at-csis34 Senate Democrats, “Majority Leader Schumer Floor Remarks On The Success Of The Inaugural AI Insight Forum”, News Room, 14 de septiembre de 2023. Consultado e l26 de septiembre de 2023 en: https://www.democrats.senate.gov/news/press-releases/majority-leader-schumer-floor-remarks- on-the-success-of-the-inaugural-ai-insight-forum35 Crowell, “SAFE Innovation in the Age of Artificial Intelligence”, Insights, 23 de junio de 2023. Consultado el 26 de septiembre de 2023 en: https://www.crowell.com/en/insights/client-alerts/safe-innovation-in-the-age-of-artificial-intelligence36 Ron Wyden, “Wyden, Booker and Clarke Introduce Bill to Regulate Use of Artificial Intelligence to Make Critical Decisions like Housing, Employment and Education”, News, 21 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://www.wyden.senate.gov/news/press- releases/wyden-booker-and-clarke-introduce-bill-to-regulate-use-of-artificial-intelligence-to-make-critical-decisions-like-housing-employment-and- education#:~:text=Algorithmic%20Accountability%20Act%20Requires%20Assessment,For%20Future%20Oversight%20and%20Legislation37 Economist Intelligence Unit, “How governments are looking to regulate AI”, op. cit.38 Casa Blanca, “Blueprint for an AI Bill of Rights”, s.f. Consultado el 26 de septiembre de 2023 en: https://www.whitehouse.gov/ostp/ai-bill-of-rights/ 39 Casa Blanca, “FACT SHEET: Biden-Harris Administration Secures Voluntary Commitments from Eight Additional Artificial Intelligence Companies to Manage the Risks Posed by AI”, Comunicado de Prensa, 12 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://www.whitehouse.gov/briefing-room/statements-releases/2023/09/12/fact-sheet-biden-harris-administration-secures-voluntary- commitments-from-eight-additional-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/40 FTC, “Joint Statement on Enforcement Efforts Against Discrimination and Bias in Automated Systems”, Public Statements, 25 de abril de 2023. Consultado el 26 de septiembre de 2023 en: https://www.ftc.gov/system/files/ftc_gov/pdf/EEOC-CRT-FTC-CFPB-AI-Joint-Statement%28final%29.pdf 41 Economist Intelligence Unit, “How governments are looking to regulate AI”, op. cit.42 Office of Governor Gavin Newsom, “Governor Newsom Signs Executive Order to Prepare California for the Progress of Artificial Intelligence”, News, 6 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://www.gov.ca.gov/2023/09/06/governor-newsom-signs-executive-order- to-prepare-california-for-the-progress-of-artificial-intelligence/#:~:text=SACRAMENTO%20– %20With%20GenAI%27s%20wide%2Dranging,responsible%20process%20for%20evaluation%20and43 Stratfor, “U.S.: California Governor Signs Executive Order Covering AI Usage and Risks”, Situation Report,7 de septiembre de 2023. Consultado el 26 de septiembre de 2023 en: https://worldview.stratfor.com/situation-report/us-california-governor-signs-executive-order-covering-ai-usage-and-risks44 Matt Sheehan, op. cit.45 Giulia Interesse, “Ethical Review of Science and Technology in China: Draft Trial Measures”, China Briefing, 11 de mayo de 2023. Consultado el 26 de septiembre de 2023 en: https://www.china-briefing.com/news/china-ethical-review-of-science-and-technology-draft-trial-measures/46 Matt Sheehan, op. cit.47 Huw Roberts y Emmie Hine, “The future of AI policy in China”, East Asia Forum, 27 de septiembre de 2023. Consultado el 27 de septiembre de 2023 en: https://www.eastasiaforum.org/2023/09/27/the-future-of-ai-policy-in- china/#:~:text=On%2015%20August%202023%2C%20a,that%20specifically%20targets%20generative%20AI.48 Economist Intelligence Unit, “How governments are looking to regulate AI”, op. cit.49 Matt Sheehan, op. cit.50 Instituto Belisario Dominguez, Nota Estratégica, “El uso de la Inteligencia Artificial (IA) en el Poder Legislativo”, Senado de la República, México, abril de 2023. Consultado el 27 de septiembre de 2023 en: http://bibliodigitalibd.senado.gob.mx/bitstream/handle/123456789/5955/185_IA_PoderLegislativo.pdf?sequence=1&isAllowed=y51 Índice Latinoamericano de Inteligencia Artificial, “México”, Centro Nacional de IA de Chile, agosto de 2023. Consultado el 27 de septiembre de 2023 en: https://indicelatam.cl/wp-content/uploads/2023/08/CAP-G-MEXICO.pdf52 Senado de la República, “Iniciativas”, Gaceta del Senado, 26 de septiembre de 2023. Consultado el 27 de septiembre de 2023 en: https://www.senado.gob.mx/65/gaceta_del_senado/documento/13799953 Cámara de Diputados, “Impulsan iniciativa para expedir la Ley de Regulación Ética de la Inteligencia Artificial y la Robótica”, Boletines, 27 de mayo de 2023. Consultado el 27 de septiembre de 2023 en: https://comunicacionsocial.diputados.gob.mx/index.php/boletines/impulsan-iniciativa-para- expedir-la-ley-de-regulacion-tica-de-la-inteligencia-artificial-y-la-robotica54 Senado de la República, “Analizan en el Senado modelo para regular Inteligencia Artificial”, Comunicación Social, 2 de agosto de 2023. Consultado el 27 de septiembre de 2023 en: https://comunicacionsocial.senado.gob.mx/informacion/comunicados/6418-analizan-en-el-senado-modelo-para- regular-inteligencia-artificial55 Alianza Nacional de Inteligencia Artificial, “¿Qué es la ANIA?”, Sobre ANIA, 2023. Consultado el 27 de septiembre de 2023 en: https://www.ania.org.mx/sobre-ania56 Alejandra Lagunes, “Hacia un diagnóstico de la Inteligencia Artificial en México: Implementación Ética y Responsable”, El Heraldo, 9 de agosto de 2023. Consultado el 27 de septiembre de 2023 en: https://heraldodemexico.com.mx/opinion/2023/8/9/hacia-un-diagnostico-de-la-inteligencia- artificial-en-mexico-implementacion-etica-responsable-528813.html57 UNESCO, “Inteligencia Artificial: La UNESCO pide a los gobiernos que apliquen sin demora el Marco Ético Mundial”, 30 de marzo de 2023. Consultado el 27 de septiembre de 2023 en: https://mexico.un.org/es/225718-inteligencia-artificial-la-unesco-pide-los-gobiernos-que-apliquen-sin-demora-el- marco-ético58 UNESCO, “La UNESCO ayudará a más de 50 países a elaborar una política ética en materia de IA este año”, Comunicado de Prensa, 17 de julio de 2023. Consultado el 27 de septiembre de 2023 en: https://www.unesco.org/es/articles/la-unesco-ayudara-mas-de-50-paises-elaborar-una-politica- etica-en-materia-de-ia-este-ano?hub=32618
Comments