A inteligência artificial generativa emerge como uma fronteira revolucionária para as empresas, prometendo avanços significativos em inovação, crescimento e produtividade que você provavelmente já ouviu falar.
Capaz de gerar códigos, textos, discursos, imagens de alta fidelidade e vídeos interativos, ela também pode ser usada em outras áreas que não as criativas e analíticas para trazer avanços tecnológicos de diversos tipos.
Segundo estimativas da McKinsey, a IAG pode agregar até 4,4 trilhões de dólares à economia global. No entanto, enquanto muitos líderes empresariais estão determinados a capturar esse valor, eles também reconhecem que as oportunidades vêm acompanhadas de riscos significativos.
Uma pesquisa recente da McKinsey com mais de 100 grandes organizações revelou que 63% dos respondentes classificam a implementação de IAG como uma prioridade "alta" ou "muito alta". Contudo, 91% não se sentem "muito preparados" para fazê-lo de forma responsável.
Entendendo e Respondendo aos Riscos Inbound
Os riscos associados à IA generativa variam desde saídas imprecisas e vieses embutidos nos dados de treinamento até a possibilidade de desinformação em larga escala e influência na política e no bem-estar pessoal.
Debates mais amplos questionam o desejo do desenvolvimento da IA, dado que esses problemas podem influenciar e até minar a implementação da inteligência artificial, levando empresas a pausarem experimentos até que esses riscos sejam melhor compreendidos. Afinal, ainda estamos no processo de desmistificação da tecnologia, e a verdade é que ela ainda é muito nova e complexa frente às suas possibilidades.
O ponto é que, ao adaptar abordagens comprovadas de gestão de risco, é possível avançar de maneira responsável e rápida o suficiente para capturar o valor da tecnologia. Isso permitirá que as empresas operem de maneira eficaz enquanto o ambiente regulatório em torno da IA continua evoluindo.
A maioria das organizações provavelmente verá o aumento das ameaças com o uso da IA generativa, especialmente nos domínios de fraude e cibersegurança. A construção de uma gestão de riscos adequada ajudará a proteger contra essas ameaças.
Passos Práticos para Gerir Riscos de IA Generativa
Para enfrentar os riscos da IA generativa, sugerimos quatro passos:
Passo 1: Lançar um sprint para entender o risco de exposições relacionadas à IA generativa;
Passo 2: Desenvolver uma visão abrangente da materialidade dos riscos relacionados à IA generativa em diferentes domínios e casos de uso, construindo uma gama de opções para gerenciar esses riscos;
Passo 3: Estabelecer uma estrutura de governança que equilibre expertise e supervisão com a capacidade de apoiar a tomada rápida de decisões, adaptando estruturas existentes sempre que possível;
Passo 4: Incorporar a estrutura de governança em um modelo operacional que aproveite a expertise em toda a organização e inclua treinamento adequado para os usuários finais.
Gestão de Riscos em Diferentes Casos de Uso
Identificar os riscos associados a cada caso de uso de IAG é essencial para avaliar o potencial desses riscos. Por exemplo, chatbots de atendimento ao cliente habilitados por IA generativa podem levantar riscos como vieses e tratamento desigual entre grupos (por gênero e raça, por exemplo), preocupações com a privacidade de usuários que inserem informações sensíveis, e riscos de imprecisão devido a alucinações do modelo ou informações desatualizadas.
Mitigação e Governança dos Riscos
Uma vez mapeados os riscos relacionados à IA generativa, as organizações devem desenvolver estratégias para gerenciar essas exposições por meio de uma combinação de mitigação e governança robusta.
Muitas das estratégias de mitigação podem ser implementadas ao longo do ciclo de vida do processo, enquanto outras não são técnicas, e envolvem manter humanos no loop para garantir que a tecnologia não coloque saídas diretamente em produção ou interaja diretamente com clientes finais.
Governança e Estrutura Organizacional
Usar IAG exigirá que a maioria das organizações adapte suas estruturas de governança para responder às demandas de aprovações e supervisão. No entanto, a maioria das organizações deve ser capaz de adaptar o que já possuem hoje, limitando o potencial de interrupção. A IA generativa provavelmente exigirá mudanças em três elementos principais da governança:
Um grupo de direção de IA responsável, multifuncional, com uma cadência mensal;
Diretrizes e políticas de IA responsável;
Talento e cultura de IA responsável.
A IA generativa tem o potencial de redefinir como as pessoas trabalham e vivem. Líderes empresariais precisam revisar seus manuais de tecnologia e impulsionar a integração da gestão eficaz de riscos desde o início de seu engajamento com a IA generativa.
Isso permitirá a aplicação dessa tecnologia de maneira segura e responsável, ajudando empresas a gerenciar riscos conhecidos enquanto constroem as capacidades para se adaptar a riscos não antecipados.
Com um grande potencial de aumento de produtividade em jogo, trabalhar para escalar a IA generativa de forma sustentável e responsável é essencial para capturar seus benefícios completos.
Σχόλια