China publica nueva directriz sobre ética de IA: revisará algoritmos, sesgos y datos
China dio un nuevo paso en la regulación de la inteligencia artificial al emitir una directriz de prueba para reforzar la revisión ética de esta tecnología, desde los datos de entrenamiento hasta el diseño de algoritmos y sistemas, con la mira puesta en prevenir sesgos, discriminación y riesgos asociados a su rápida expansión.
China publica directriz sobre gobernanza ética de IA
El Ministerio de Industria y Tecnología Informática informó que China ha emitido una directriz de prueba para la revisión ética y la prestación de servicios de inteligencia artificial (IA).
La directriz, emitida el viernes conjuntamente por 10 departamentos gubernamentales, incluido el ministerio, hace un llamado a realizar esfuerzos para apoyar la innovación tecnológica en la revisión ética de la IA y fortalecer el uso de medidas técnicas para prevenir riesgos éticos relacionados con esta tecnología.
La directriz especifica que la revisión debe centrarse en el bienestar humano, la equidad y la justicia, así como en la controlabilidad y la confiabilidad.
Sesgos, discriminación y datos de entrenamiento estarán bajo revisión
También detalla los problemas que deben abordarse en la revisión, como los criterios de selección para los datos de entrenamiento, la racionalidad del algoritmo, el diseño del modelo y del sistema, y las medidas para prevenir sesgos, discriminación y la manipulación mediante algoritmos.
La directriz también aboga por promover la apertura ordenada de conjuntos de datos de alta calidad para la revisión ética de la IA, fortalecer el desarrollo de herramientas generales de gestión de riesgos, evaluación y auditoría, y explorar la evaluación de riesgos basada en escenarios de aplicación.
Asimismo, fomenta la promoción de productos y servicios de IA que cumplan con la ética científica y tecnológica, y la protección de los derechos de propiedad intelectual en las tecnologías de revisión ética de la IA.
Te recomendamos:
