O que você precisa saber:
Na edição mais recente do Fórum Econômico Mundial, em Davos, Singapura anunciou, por meio da ministra de Digital Development and Information, o seu novo Model AI Governance Framework for Agentic AI, voltado à governança de agentes de IA, também chamados de agentes autônomos. O Modelo de Framework de Governança para agentes autônomos de IA, apresenta uma visão dos riscos de utilização deste tipo de agente e quais são as melhores práticas que devem ser adotadas para lidar com esses riscos.
Singapura lançou oficialmente o seu Modelo de Framework para Governança de Agentic AI no Fórum Econômico Mundial em Davos. É o primeiro framework divulgado mundialmente específico para Agentic AI, ou IA agêntica. Este tipo de agente diferencia-se dos modelos tradicionais devido à sua capacidade operacional avançada de agir automaticamente em completar tarefas com menor necessidade de comandos frequentes.
O documento fornece diretrizes para o gerenciamento de riscos durante a implementação e operação desses agentes. Dentre as diretrizes mencionadas, o framework estabelece boas práticas entre medidas técnicas e administrativas a serem adotadas pelas organizações considerando 4 dimensões principais (i) avaliar e delimitar antecipadamente os riscos, incluindo a autonomia dos agentes e seu acesso a ferramentas e dados; (ii) tornar humanos significativamente responsáveis, por meio de pontos estratégicos de aprovação e supervisão humana; (iii) implementar controles e processos técnicos ao longo de todo o ciclo de vida dos agentes, como testes de base e controle de acesso a serviços whitelisted; e (iv) promover a responsabilidade do usuário final por meio de transparência e educação/treinamento.
Saiba mais clicando aqui
