Por Teresa Verthein, X: @teresa_verthein, LinkedIn
Las tecnología emergentes están siempre a la vuelta de la esquina, pero una en específico ha captado la atención del mundo: la inteligencia artificial generativa (IA). En algunos esta tecnología provoca escepticismo pero otros la ven con mayor entusiasmo.
Un estudio reciente del Harvard Business Review identificó una brecha de confianza en la IA: El 57% de las personas no confían en ella. Asimismo, una investigación hecha por Salesforce indica que el 68% de los clientes reportan que los avances en IA aumentan la necesidad de generar confianza por parte de las empresas. Salesforce ha investigado la confianza y el uso ético de la IA desde 2015, con el establecimiento de nuestro Laboratorio de Investigación de IA. En 2018 creamos nuestra Oficina de Uso Ético y Humano para guiar el desarrollo de nuestros productos. Así exploramos las implicaciones éticas del desarrollo y despliegue de modelos, y aseguramos la adherencia a nuestros principios durante el desarrollo de herramientas de IA.
Como cualquier tecnología nueva, la revolución de la IA depende de la generación de confianza y seguridad, empezando por protecciones robustas de privacidad y el empoderamiento de usuarios informados. El contexto en el cual la tecnología se usa también es importante. Algunas industrias, como las de la salud o de servicios financieros, pueden presentar mayores riesgos a sus usuarios y a la sociedad que otras. Salesforce respalda la regulación de la IA adecuada a los casos de uso y basada en riesgo que diferencía contextos y usos de la tecnología, protege a los individuos, fomenta confianza e impulsa la innovación.
La regulación de la IA basada en riesgo se enfoca sobre todo en las aplicaciones de alto riesgo que pueden dañar significativamente o impactar los derechos y libertades de las personas. Los ejercicios de evaluación de impacto de la IA pueden usarse para evaluar el riesgo de los sistemas. Promueven la rendición de cuentas y la confianza en sistemas de alto riesgo. Los permisos, notificaciones o verificaciones también pueden desempeñar un papel útil en la rendición de cuentas y el cumplimiento. Sin embargo, éstas deben ser balanceadas para continuar promoviendo la competencia en el mercado y motivar a las empresas a seguir innovando.
La IA generativa tiene un poder transformador para las empresas cuando está encausada por el diseño y uso ético. Aumenta la eficiencia, mejora la personalización de los clientes y fomenta la innovación. Las empresas que hagan realidad el potencial de la IA generativa de manera segura y responsable, renovarán sus industrias, afianzarán clientes y se consolidarán como líderes de mercado. En Salesforce, usamos la IA regularmente. La IA es ya una parte integral de nuestra plataforma Customer 360, y nuestras tecnologías de IA Einstein entregan aproximadamente 200 mil millones de predicciones al día a través de las aplicaciones empresariales de Salesforce.
Nuestro nuevo Einstein 1 Studio tiene herramientas de baja programación que democratizan el desarrollo de aplicaciones de IA, detonando oportunidades para que los usuarios de cualquier nivel aprovechen la innovación en sus flujos de trabajo, equipos y funciones diarias. Por ejemplo, hemos visto que las empresas adoptan Einstein AIrápidamente para hacer más eficiente el servicio al cliente, liberando a los agentes de atender preguntas sencillas para que gestionen casos más complejos mientras sin sacrificar la experiencia del cliente. Muchos comercios han usado la IA para potenciar experiencias de compra altamente personalizadas y un comercio electrónico más inteligente, usando descripciones de producto generadas por IA con optimización en los motores de búsqueda para ayudar a sus clientes a encontrar lo que necesitan más rápidamente.
Pero lo que es más interesante de la revolución de la IA es justo eso, que es una revolución. Es nueva y está en constante evolución. Así es también la investigación requerida para entender y navegar esta nueva era. Para alcanzar un progreso tecnológico ético hace falta un esfuerzo consciente y colaboración entre organizaciones, industrias y gobierno. Nos enorgullece ser aliados de gobiernos, sociedad civil y líderes de industria para ayudar a crear marcos regulatorios que protejan a los ciudadanos, promuevan el uso ético de la IA y fomenten la innovación y el crecimiento económico.
Commentaires