E-book Grátis: "Entendendo a NBR ISO/IEC 42001:2024 - Gestão de Riscos em Sistemas de IA

A norma técnica ABNT NBR ISO/IEC 42001:2024 sobre Inteligência Artificial – Sistema de Gestão foi publicada recentemente, em 18 de abril deste ano. Sua relevância é inegável para a sociedade, dado o crescente impacto da inteligência artificial (IA) em todos os setores que utilizam tecnologia da informação. Prevê-se que a IA se torne um dos principais motores da economia global, impulsionando a inovação e a eficiência em diversos campos. No entanto, essa tendência também suscita preocupações sobre seus possíveis efeitos sociais e éticos, exigindo uma abordagem cuidadosa e responsável no desenvolvimento e na implementação dessas tecnologias.

Este documento pretende principal auxiliar as organizações a desempenhar seus papéis de forma responsável no contexto dos sistemas de IA. Seja na utilização, desenvolvimento, monitoramento ou fornecimento de produtos e serviços que envolvam essa tecnologia, é fundamental considerar os impactos e implicações éticas associados ao seu uso. A IA apresenta desafios específicos, como:

O uso de IA para tomada de decisão automática, muitas vezes opaca e difícil de ser explicada, pode exigir estratégias de gestão especializadas, além dos sistemas tradicionais de gerenciamento de TI.

A aplicação de técnicas de análise de dados, percepções e aprendizado de máquina abre novas oportunidades para a IA, mas também modifica significativamente como esses sistemas são projetados, implementados e avaliados. Sistemas de IA que aprendem de forma contínua podem alterar seu comportamento ao longo do tempo, requerendo medidas adicionais para garantir sua responsabilidade e segurança.