Início Negócios Empresas precisam estabelecer regras para uso de agentes de inteligência artificial

Empresas precisam estabelecer regras para uso de agentes de inteligência artificial

por Plataforma dos Municípios
Empresas precisam estabelecer regras para uso de agentes de inteligência artificial

A utilização de agentes autônomos de inteligência artificial avança nas empresas brasileiras, mas a estrutura necessária para controlar essas ferramentas ainda representa um desafio. De acordo com um relatório da KnowBe4, 65% das organizações do país já utilizam agentes de IA em suas operações. Entretanto, 60% reconhecem que não possuem uma estrutura formal de governança para acompanhar a tecnologia.

A ausência de procedimentos definidos para monitorar os sistemas e estabelecer responsabilidades preocupa especialistas, principalmente quando os agentes passam a executar atividades que influenciam decisões e resultados financeiros. Nesse cenário, a adoção da inteligência artificial exige planejamento, acompanhamento contínuo e participação de diferentes áreas da organização.

Para Solange Carvalho, diretora comercial da Mirante Tecnologia, o avanço da implementação não tem sido acompanhado pelo desenvolvimento de mecanismos de gestão. “Muitas organizações estão avançando rapidamente na criação e experimentação de agentes, mas a governança da operação ainda não evoluiu na mesma velocidade”.

O futebol brasileiro atravessa um período decisivo de sua história. Diante de um histórico de alto endividamento, instabilidade na administração e recorrentes crises financeiras, os clubes agora encaram a necessidade premente de profissionalizar sua gestão. Essa transformação no cenário econômico do esporte nacional é impulsionada pela disseminação das Sociedades Anônimas do Futebol (SAFs), pela consolidação de boas práticas de governança corporativa e pelas discussões acerca da adoção do Fair Play Financeiro. Na visão de Marco Antonio da Rocha Tristão Jr., executivo com atuação em gestão, compliance, governança e finanças corporativas, além de sócio de uma academia de futebol, a expectativa é que o futebol no país passe a adotar, de forma consistente, padrões e rotinas consagrados no ambiente corporativo.

Monitoramento deve considerar quatro dimensões

A executiva ressalta que os agentes de inteligência artificial precisam ser acompanhados de maneira contínua, especialmente quando deixam a fase experimental e passam a integrar processos recorrentes. “Um agente de IA não é uma nova tecnologia qualquer”.

Segundo Solange, a avaliação dessas ferramentas deve considerar quatro aspectos principais: desempenho, qualidade das decisões, riscos envolvidos e geração de valor para o negócio.

Esses critérios ajudam a verificar se os sistemas continuam cumprindo os objetivos estabelecidos e se suas atividades permanecem alinhadas às necessidades da organização. O acompanhamento também permite identificar situações em que a atuação do agente precisa ser revista ou limitada.

A discussão ganha importância conforme a tecnologia assume tarefas com diferentes níveis de autonomia. Entre os exemplos estão a aprovação de crédito, a definição de preços e a negociação com fornecedores. Nessas situações, as decisões automatizadas podem afetar clientes, operações e resultados financeiros.

Para a especialista, o principal problema surge quando a autonomia tecnológica é confundida com a transferência de responsabilidade. “O principal risco é tratar autonomia como se fosse apenas automação”, afirma.

Mesmo quando um sistema executa uma atividade sem intervenção humana direta, a organização continua responsável pelos resultados de sua utilização. Por isso, a definição de limites e responsáveis precisa fazer parte do planejamento antes que a ferramenta receba atribuições mais amplas.

Governança exige participação de diferentes áreas

A estrutura de controle dos agentes de IA não deve ficar restrita ao departamento de Tecnologia. Na avaliação da diretora comercial da Mirante Tecnologia, a gestão precisa reunir profissionais de diferentes áreas para contemplar aspectos técnicos, operacionais, jurídicos e de conformidade.

Nesse modelo, Tecnologia responde pela arquitetura, pela segurança, pelos dados e pela operação dos sistemas. As áreas de Risco, Compliance e Jurídico, por sua vez, contribuem para estabelecer limites de atuação e mecanismos de controle.

A divisão de responsabilidades permite que as decisões sobre o uso da inteligência artificial considerem tanto as possibilidades técnicas quanto os impactos para o negócio.

Solange recomenda que as organizações esclareçam quais decisões podem ser delegadas aos agentes, quem será responsável por cada sistema e quais restrições deverão ser respeitadas. Também é necessário definir como os resultados serão avaliados e quais informações deverão ser encaminhadas à liderança e ao Conselho.

“Algumas perguntas precisam ser respondidas antes de ampliar a autonomia: quais decisões podem ser delegadas? Quem é o responsável pelo agente? Quais são seus limites de atuação? Como sua performance e suas decisões serão monitoradas? E quais informações precisam chegar à liderança e ao Conselho?”, questiona.

A executiva reforça que cabe à própria organização determinar o grau de independência concedido à tecnologia. “No fim, o negócio precisa responder pelo resultado e definir qual nível de autonomia é aceitável.”

Profissionais assumem a supervisão dos agentes

A expansão dos sistemas autônomos também deve modificar a atuação dos trabalhadores. Para Solange, parte dos profissionais passará a coordenar agentes de inteligência artificial, em vez de executar individualmente todas as atividades.

Essa mudança envolve estabelecer objetivos, definir limites operacionais, acompanhar o desempenho das ferramentas, interpretar os resultados e intervir quando necessário. O trabalho humano passa a incluir, portanto, a supervisão das tarefas realizadas pelos sistemas.

“Um dos desafios da economia agêntica será a mudança no papel das pessoas”, prevê a diretora comercial.

A expectativa apresentada pela executiva é que a tecnologia amplie a capacidade de execução das equipes. Um colaborador poderá coordenar diferentes agentes, enquanto os sistemas realizam atividades em escala e velocidade difíceis de alcançar exclusivamente com trabalho humano.

“O impacto mais interessante não está apenas em substituir tarefas, mas em ampliar a capacidade das equipes”, diz.

Apesar da autonomia operacional, a especialista destaca que os profissionais continuam responsáveis pela supervisão e pelas decisões dentro dos limites estabelecidos. “O agente executa dentro de um mandato, pelo qual o humano responde. Isso muda também o desenho das operações”, acredita.

A adaptação, segundo ela, exige revisar os processos para determinar quais atividades podem ser realizadas pela inteligência artificial, quais dependem da atuação humana e como deve ocorrer a transferência de responsabilidades entre ambos.

Com a ampliação do uso de agentes autônomos, a governança passa a integrar o planejamento operacional das empresas. A definição de controles, responsabilidades e indicadores é apontada como parte necessária da gestão dessa tecnologia, sobretudo quando sua atuação interfere em decisões relevantes para os negócios.

Fonte: Você RH
Foto: https://www.magnific.com/br/fotos-gratis/monitorizacao-do-desempenho-do-sistema-de-monitorizacao-do-pessoal-do-centro-de-dados-identificando-falhas_418374035.htm

Postagens relacionadas