A utilização de agentes autônomos de inteligência artificial avança nas empresas brasileiras, mas a estrutura necessária para controlar essas ferramentas ainda representa um desafio. De acordo com um relatório da KnowBe4, 65% das organizações do país já utilizam agentes de IA em suas operações. Entretanto, 60% reconhecem que não possuem uma estrutura formal de governança para acompanhar a tecnologia.
A ausência de procedimentos definidos para monitorar os sistemas e estabelecer responsabilidades preocupa especialistas, principalmente quando os agentes passam a executar atividades que influenciam decisões e resultados financeiros. Nesse cenário, a adoção da inteligência artificial exige planejamento, acompanhamento contínuo e participação de diferentes áreas da organização.
Para Solange Carvalho, diretora comercial da Mirante Tecnologia, o avanço da implementação não tem sido acompanhado pelo desenvolvimento de mecanismos de gestão. “Muitas organizações estão avançando rapidamente na criação e experimentação de agentes, mas a governança da operação ainda não evoluiu na mesma velocidade”.
O futebol brasileiro atravessa um período decisivo de sua história. Diante de um histórico de alto endividamento, instabilidade na administração e recorrentes crises financeiras, os clubes agora encaram a necessidade premente de profissionalizar sua gestão. Essa transformação no cenário econômico do esporte nacional é impulsionada pela disseminação das Sociedades Anônimas do Futebol (SAFs), pela consolidação de boas práticas de governança corporativa e pelas discussões acerca da adoção do Fair Play Financeiro. Na visão de Marco Antonio da Rocha Tristão Jr., executivo com atuação em gestão, compliance, governança e finanças corporativas, além de sócio de uma academia de futebol, a expectativa é que o futebol no país passe a adotar, de forma consistente, padrões e rotinas consagrados no ambiente corporativo.
Monitoramento deve considerar quatro dimensões
A executiva ressalta que os agentes de inteligência artificial precisam ser acompanhados de maneira contínua, especialmente quando deixam a fase experimental e passam a integrar processos recorrentes. “Um agente de IA não é uma nova tecnologia qualquer”.
Segundo Solange, a avaliação dessas ferramentas deve considerar quatro aspectos principais: desempenho, qualidade das decisões, riscos envolvidos e geração de valor para o negócio.
Esses critérios ajudam a verificar se os sistemas continuam cumprindo os objetivos estabelecidos e se suas atividades permanecem alinhadas às necessidades da organização. O acompanhamento também permite identificar situações em que a atuação do agente precisa ser revista ou limitada.
A discussão ganha importância conforme a tecnologia assume tarefas com diferentes níveis de autonomia. Entre os exemplos estão a aprovação de crédito, a definição de preços e a negociação com fornecedores. Nessas situações, as decisões automatizadas podem afetar clientes, operações e resultados financeiros.
Para a especialista, o principal problema surge quando a autonomia tecnológica é confundida com a transferência de responsabilidade. “O principal risco é tratar autonomia como se fosse apenas automação”, afirma.
Mesmo quando um sistema executa uma atividade sem intervenção humana direta, a organização continua responsável pelos resultados de sua utilização. Por isso, a definição de limites e responsáveis precisa fazer parte do planejamento antes que a ferramenta receba atribuições mais amplas.
Governança exige participação de diferentes áreas
A estrutura de controle dos agentes de IA não deve ficar restrita ao departamento de Tecnologia. Na avaliação da diretora comercial da Mirante Tecnologia, a gestão precisa reunir profissionais de diferentes áreas para contemplar aspectos técnicos, operacionais, jurídicos e de conformidade.
Nesse modelo, Tecnologia responde pela arquitetura, pela segurança, pelos dados e pela operação dos sistemas. As áreas de Risco, Compliance e Jurídico, por sua vez, contribuem para estabelecer limites de atuação e mecanismos de controle.
A divisão de responsabilidades permite que as decisões sobre o uso da inteligência artificial considerem tanto as possibilidades técnicas quanto os impactos para o negócio.
Solange recomenda que as organizações esclareçam quais decisões podem ser delegadas aos agentes, quem será responsável por cada sistema e quais restrições deverão ser respeitadas. Também é necessário definir como os resultados serão avaliados e quais informações deverão ser encaminhadas à liderança e ao Conselho.
“Algumas perguntas precisam ser respondidas antes de ampliar a autonomia: quais decisões podem ser delegadas? Quem é o responsável pelo agente? Quais são seus limites de atuação? Como sua performance e suas decisões serão monitoradas? E quais informações precisam chegar à liderança e ao Conselho?”, questiona.
A executiva reforça que cabe à própria organização determinar o grau de independência concedido à tecnologia. “No fim, o negócio precisa responder pelo resultado e definir qual nível de autonomia é aceitável.”
Profissionais assumem a supervisão dos agentes
A expansão dos sistemas autônomos também deve modificar a atuação dos trabalhadores. Para Solange, parte dos profissionais passará a coordenar agentes de inteligência artificial, em vez de executar individualmente todas as atividades.
Essa mudança envolve estabelecer objetivos, definir limites operacionais, acompanhar o desempenho das ferramentas, interpretar os resultados e intervir quando necessário. O trabalho humano passa a incluir, portanto, a supervisão das tarefas realizadas pelos sistemas.
“Um dos desafios da economia agêntica será a mudança no papel das pessoas”, prevê a diretora comercial.
A expectativa apresentada pela executiva é que a tecnologia amplie a capacidade de execução das equipes. Um colaborador poderá coordenar diferentes agentes, enquanto os sistemas realizam atividades em escala e velocidade difíceis de alcançar exclusivamente com trabalho humano.
“O impacto mais interessante não está apenas em substituir tarefas, mas em ampliar a capacidade das equipes”, diz.
Apesar da autonomia operacional, a especialista destaca que os profissionais continuam responsáveis pela supervisão e pelas decisões dentro dos limites estabelecidos. “O agente executa dentro de um mandato, pelo qual o humano responde. Isso muda também o desenho das operações”, acredita.
A adaptação, segundo ela, exige revisar os processos para determinar quais atividades podem ser realizadas pela inteligência artificial, quais dependem da atuação humana e como deve ocorrer a transferência de responsabilidades entre ambos.
Com a ampliação do uso de agentes autônomos, a governança passa a integrar o planejamento operacional das empresas. A definição de controles, responsabilidades e indicadores é apontada como parte necessária da gestão dessa tecnologia, sobretudo quando sua atuação interfere em decisões relevantes para os negócios.
Fonte: Você RH
Foto: https://www.magnific.com/br/fotos-gratis/monitorizacao-do-desempenho-do-sistema-de-monitorizacao-do-pessoal-do-centro-de-dados-identificando-falhas_418374035.htm
