O desenvolvimento ético e responsável da Inteligência Artificial (IA) tem permeado as mentes inquietantes dos doutrinadores e pesquisadores sobre a temática, especialmente pela ausência efetiva de regulamentação e práticas para ajudar as organizações a desenvolver e utilizar os sistemas computacionais de IA de forma sustentável.
Em tempos de espectativas e inúmeras especulações sobre os desafios colocados pela IA, como políticas, transparências, explicabilidade , ética ,educação, desenvolvimento e uso da “tecnologia”, a Organização Internacional de Normatização (ISO) e a Comissão Eletrotécnica Internacional (IEC) aprovaram a inédita norma internacional ISO/IEC 42001.
A ISO/IEC 42001 publicada em dezembro de 2023, ainda sem versão em português a ser publicada pela Associação Brasileira de Normas Técnicas (ABNT), tem como objetivo disponibilizar diretrizes e orientações para estabelecer, implementar, manter e melhorar um Sistema de Gestão de Inteligência Artificial (SGIA) em organizações públicas e privadas que sejam desenvolvedoras ou usuárias de produtos ou serviços baseados em IA , de maneira a assegurar o desenvolvimento e utilização responsável de sistemas de Inteligência Artifical. A espectativa é de que a norma tenha uma aplicabilidade nas mais diversas áreas da IA, com o objetivo de mensurar e mitigar os riscos e oportunidades na adoção dos sistemas computacionais de Inteligência Artificial.
O descritivo da norma pretende fornecer subsídios e requisitos para uma governança abrangente diante dos desafios ainda em discussão sobre IA, como considerações éticas, transparência, explicabilidade,direitos fundamentais, além de possibilitar o desenvolvimento de modelos equilibrados que paralelamente estejam comprometidos com inovação e com governança .
A relevância da nova e inédita ISO, acompanha da necessidade de requisitos com padrões internacionais, que auxiliem estabelecer, desenvolver e implementar continuamente um SGIA nas organizações públicas e privadas, assegurando o uso responsável da IA, rastreabilidade, acurácia, transparência, confiabilidade e gerenciamento responsável entre as ameaças e vantagens da inovação que a Inteligência Artificial representa para a sociedade.
Os anexos normativos e informativos da ISO/IEC 42001, também abordam os seguintes aspectos: Objetivos referenciais de controle, diretrizes de implementação para controles de IA, pontenciais objetivos e fontes de riscos organizacionais relacionados a Inteligência Artificial e o uso de SGIA em áreas ou determinados setores.
A ISO já publicou outras normas relacionadas que podem contribuir com a gestão de IA, como a ISO/IEC 22989:2022, que estabelece a terminologia para a IA e descreve conceitos no campo da IA, a ISO/IEC 23053:2022, que estabelece uma estrutura de IA e aprendizado de máquina (Machine Learning – ML) para descrever um sistema genérico de IA usando tecnologia de ML, e a ISO/IEC 23894:2023, que fornece orientação sobre gestão de riscos relacionados à IA para organizações .
A norma custa 187 francos suíços, e algumas BigTechs como a Amazon Web Services( AWS), já sinaliza a adoção do novo padrão ISO/IEC 42001 consolidando a tendência de governança em IA e SGIA, transcrito em apontamentos do vice-presidente de dados e aprendizado de máquinas da AWS, Swami Sivasubramanian: “As normas internacionais são uma ferramenta importante para ajudar as organizações a traduzir os requisitos regulamentares nacionais em mecanismos de conformidade, incluindo práticas de engenharia, que são amplamente interoperáveis a nível global. Normas eficazes ajudam a reduzir a confusão sobre o que é a IA e o que a IA responsável implica, e ajudam a concentrar a indústria na redução de potenciais danos. A AWS está trabalhando em uma comunidade de diversas partes interessadas internacionais para melhorar os padrões emergentes de IA em diversos tópicos, incluindo gerenciamento de riscos, qualidade de dados, parcialidade e transparência.”
Ademais a adoção de SGIA dentro de uma organização, contempla políticas e práticas procedimentais integradas a projetos de Inteligência Artificial. Esses mecanismos são imprescindíveis para uma gestão confiável, que suporte padrões de governança, e incentive de maneira responsável e estruturada a inovação, aduzindo que a implementação da ISO/IEC 42001 nas organizações contribui com a Agenda 2030 da ONU adotada em 2015 por 193 países membros. Diante dos 17 ODS ( Objetivos de Desenvolvimento Sustentável ) que permeiam submetas em diferentes temas, desde aspectos ambientais e sociais, pode-se observar a contribuição e alinhamento da nova ISO, direta ou indiretamente com vários dos Objetivos de Desenvolvimento Sustentável, mas cumpre ressaltar o ODS 9 – Indústria, inovação e infraestrutura resiliente , promover a industrialização inclusiva e sustentável, e fomentar a inovação.
Em suma, aguardemos a aderência à norma no cenários internacional e nacional, em vista que o documento da ISO/IEC 42001 objetiva harmonizar e alinhar alguns temas desafiadores da inovação e implementação de IA nas organizações com qualidade, segurança, privacidade e sustentabilidade.