Dando continuidade à nossa série de publicações sobre inteligência artificial generativa, vamos falar sobre “IA Responsável”. Para conferir o que já publicamos, basta acessar o nosso IA Hub. Também fique de olho em nossas redes sociais e aproveite para assinar nossa newsletter especializada em IA!
A ampliação do uso de modelos de inteligência artificial generativa (IA) nas empresas tem apresentado tanto benefícios quanto desafios. Desenvolver esses sistemas sem compreender seus impactos éticos e sociais pode resultar em obstáculos jurídicos e até mesmo riscos reputacionais. Nesse contexto, é fundamental desenvolver e implementar a IA Responsável. Mas, afinal, o que isso significa?
/ O que é uma “IA Responsável”?
Na prática, IA Responsável nada mais é do que o desenvolvimento e uso de IA conforme princípios e atribuição de responsabilidades. Assim, pode ser entendida como uma ferramenta que visa ajudar a garantir que a IA seja desenvolvida, implementada e usada na empresa considerando valores éticos e sociais, direitos humanos e as normas jurídicas, além das políticas e valores próprios da empresa. Ao aplicar princípios de IA responsável, as empresas se comprometem a atribuir e garantir a responsabilidade organizacional, direitos de decisão, riscos, políticas e decisões de investimento para adoção de IA.
/ Por que adotar uma IA Responsável?
(i) ética e reputação: a adoção de práticas de IA Responsável contribui para a construção de uma reputação ética e socialmente responsável da empresa, o que pode aumentar a confiança de clientes, parceiros e reguladores na qualidade e segurança dos produtos e serviços baseados em IA.
(ii) mitigação de riscos: considerando que a adoção de IA Responsável inclui a observação de normas já existentes, sua implementação corrobora para que a empresa opere com maior segurança jurídica.
(iii) prevenção de vieses e de discriminação: incorporar práticas de IA Responsável ajuda a garantir sistemas que não operem de acordo com vieses e discriminações.
(iv) acesso a mercados e parcerias: demonstrar um compromisso claro com a IA Responsável pode representar uma vantagem competitiva ao buscar novos mercados e estabelecer parcerias estratégicas.
/ Quais são os princípios de uma “IA Responsável”?
Cada empresa possui valores de acordo com os quais opera, e é essencial que a IA Responsável seja implementada em consonância com tais valores e estruturas de compliance já existentes. Dessa forma, espera-se que a ferramenta apresente maior adesão à cultura e práticas da empresa. Sobre isso, o Berkman Klein Center divulgou recentemente um levantamento dos princípios que são mais comumente adotados pelas empresas quando vão iniciar a implementação de uma IA Responsável. Abaixo, alguns desses valores. Importante que cada empresa adote aqueles que de fato ressoem com a cultura operante em seu cenário:
(i) justiça, equidade e não discriminação: garantir que os sistemas de IA não perpetuem ou amplifiquem preconceitos, discriminações, ou desigualdades entre os usuários por um viés na sua base de dados, nos algoritmos utilizados ou nos resultados gerados a partir deles.
(ii) confiabilidade e segurança: garantir o desenvolvimento de uma IA robusta, confiável e segura para evitar potenciais riscos, como erros, falhas e danos aos usuários, à sociedade como um todo e ao meio ambiente.
(iii) privacidade e proteção de dados: garantir a privacidade dos usuários, adotando medidas de segurança da informação e melhores práticas de mercado como forma de se precaver de possíveis violações de dados pessoais.
(iv) transparência e ‘explicabilidade’: permitir, no que for tecnicamente possível, que as decisões e os resultados de uma IA sejam compreendidos pelos usuários e possíveis interessados, havendo transparência, acessibilidade e explicabilidade, evitando o fenômeno de ‘black box’.
(v) sustentabilidade: favorecer implementações de soluções que não impactem ou que diminuam o impacto prejudicial ao meio ambiente.
A aplicação desses princípios na prática requer uma abordagem multidisciplinar e participativa, que pode envolver diversos times dentro da empresa. Nos próximos textos dessa série vamos explicar um pouco melhor como colocar a IA responsável em prática, por meio de programas de governança. Fique de olho!
