China emite nueva directriz para revisión ética de inteligencia artificial
_ China ha dado un paso significativo en la regulación de la inteligencia artificial con la publicación de una directriz de prueba que busca reforzar la revisión ética de esta tecnología. La normativa, emitida por diez departamentos gubernamentales encabezados por el Ministerio de Industria y Tecnología Informática, establece un marco para evaluar desde los datos de entrenamiento hasta el diseño de algoritmos y sistemas.
El objetivo principal es prevenir sesgos, discriminación y otros riesgos asociados al rápido desarrollo e implementación de la IA. La directriz hace un llamado explícito a apoyar la innovación tecnológica dentro del proceso de revisión ética y a fortalecer el uso de medidas técnicas para mitigar posibles amenazas.
Los principios rectores que especifica el documento son el bienestar humano, la equidad y la justicia, así como la controlabilidad y confiabilidad de los sistemas. La revisión se centrará en aspectos críticos como los criterios para seleccionar datos de entrenamiento, la racionalidad del algoritmo, el diseño del modelo y las medidas concretas para evitar sesgos o manipulación mediante algoritmos.
Además, la directriz promueve varias acciones complementarias. Entre ellas figura fomentar la apertura ordenada de conjuntos de datos de alta calidad para facilitar estas revisiones, fortalecer el desarrollo de herramientas generales para la gestión de riesgos, evaluación y auditoría, y explorar métodos de evaluación basados en escenarios específicos de aplicación.
Finalmente, el documento también aboga por impulsar productos y servicios de IA que cumplan con estándares éticos científicos y tecnológicos, al tiempo que insta a proteger los derechos de propiedad intelectual relacionados con las propias tecnologías utilizadas en esta revisión ética.
El objetivo principal es prevenir sesgos, discriminación y otros riesgos asociados al rápido desarrollo e implementación de la IA. La directriz hace un llamado explícito a apoyar la innovación tecnológica dentro del proceso de revisión ética y a fortalecer el uso de medidas técnicas para mitigar posibles amenazas.
Los principios rectores que especifica el documento son el bienestar humano, la equidad y la justicia, así como la controlabilidad y confiabilidad de los sistemas. La revisión se centrará en aspectos críticos como los criterios para seleccionar datos de entrenamiento, la racionalidad del algoritmo, el diseño del modelo y las medidas concretas para evitar sesgos o manipulación mediante algoritmos.
Además, la directriz promueve varias acciones complementarias. Entre ellas figura fomentar la apertura ordenada de conjuntos de datos de alta calidad para facilitar estas revisiones, fortalecer el desarrollo de herramientas generales para la gestión de riesgos, evaluación y auditoría, y explorar métodos de evaluación basados en escenarios específicos de aplicación.
Finalmente, el documento también aboga por impulsar productos y servicios de IA que cumplan con estándares éticos científicos y tecnológicos, al tiempo que insta a proteger los derechos de propiedad intelectual relacionados con las propias tecnologías utilizadas en esta revisión ética.
