La OCDE revisa sus reglas para la inteligencia artificial ante el riesgo de la generativa
La OCDE actualizó este viernes sus Principios sobre la inteligencia artificial (IA) para tener en cuenta las evoluciones tecnológicas, en particular la irrupción de la generativa y sobre todo sus riesgos en términos de seguridad y de desinformación con su producción masiva.
Los nuevos Principios, aprobados formalmente en la última jornada de la reunión ministerial anual de la Organización para la Cooperación y el Desarrollo Económico (OCDE) celebrada en su sede de París, fueron adoptados no solo por sus 38 países miembros, sino por 46, así como por la Unión Europea.
Suponen una revisión de los que se habían suscrito en 2019, que fueron pioneros pero que se han quedado obsoletos o incompletos en diferentes aspectos por el empuje de la IA generativa, que está creciendo muy rápido y que ya en 2023 representó un 18 % del total de las inversiones en esta tecnología.
Las inversiones en empresas emergentes de IA generativa se han multiplicado por nueve desde 2019 y la demanda de competencias en IA ha progresado un 130 %, destaca la OCDE en un comunicado.
Entre las principales modificaciones en los nuevos estándares, cuyo objetivo es servir de referencia para la elaboración de marcos de acción a nivel nacional o internacional, está la mención de "la importancia creciente de luchar contra la desinformación y de preservar la integridad de la información" ante la IA generativa (que elabora los conocidos como ultrafalsos -'deepfakes'-).
Más allá de esa declaración de principios, no se ofrece una solución única para conseguirlo, sino más bien la necesidad de concienciarse de que con la IA generativa la producción de contenidos falsos y muy difícilmente detectables pasa a otra dimensión muy superior con consecuencias directas sobre los fenómenos y las campañas de desinformación.
Por eso una de las prioridades pasa a ser la búsqueda de métodos para generar confianza.
Otro de los cambios con respecto a las reglas de hace cinco años es que la OCDE incide ahora en tratar los problemas de seguridad con la puesta en marcha de "mecanismos y de garantías sólidas".
Se trata de que en caso de que los sistemas de IA puedan causar perjuicios injustificados o presenten un comportamiento indeseable puedan ser neutralizados, reparados y puestos fuera de servicio.
Igualmente se pone el acento en el comportamiento "responsable" de las empresas del sector "todo a lo largo del ciclo de vida de los sistemas de IA", en particular con la cooperación con los proveedores de conocimientos y de recursos, así como con los usuarios.
Otra de las reglas estrella de esta edición revisada es la transparencia, que imponga la transmisión de informaciones sobre los sistemas de IA que garantice una "divulgación responsable".
La OCDE subraya la necesidad de que los países trabajen de concierto para promover la creación de "marcos de gobernanza y de acción interoperables".
Su secretario general, Mathias Cormann, hizo hincapié en que estos nuevos Principios "constituyen una referencia mundial para la elaboración de políticas en este campo; favorecen que los marcos de acción sean interoperativos a escala mundial y alientan la innovación centrada en las personas".
