Brasil, novembro de 2023 - Treinados a partir de volumes gigantescos de dados e adaptados a diversas aplicações, os modelos de base de inteligência artificial generativa (IAGen) são hoje mais sofisticados, complexos e capazes do que as ferramentas de IA anteriores, especialmente no tratamento de dados não estruturados. Por outro lado, devido à facilidade de adoção e custos ao alcance de um número crescente de empresas, surgem preocupações com o uso indevido da tecnologia. Assim, os executivos precisam hoje equilibrar o potencial promissor da IAGen com questões relacionadas a privacidade de dados, direitos autorais e implicações éticas e sociais da tecnologia.

Há dois elementos que influenciam diretamente o volume de riscos a serem enfrentados pelas companhias: onde e como elas aplicam IAGen e a maturidade de sua governança de IA. No entanto, de forma geral, todas as empresas que usam essa tecnologia precisam identificar ameaças relevantes e emergentes; entender como sua utilização pode ser regulamentada; e aprimorar as funções internas, como engenharia de aprendizado de máquina, tecnologia e jurídico, antecipando ameaças.

Aplicações de serviços financeiros de IA generativa

Lidar com esse tipo de mudança é um terreno familiar para as instituições de serviços financeiros, que constantemente gerenciam e mitigam riscos que acompanham o avanço tecnológico. Consequentemente, essas organizações já estão explorando como aplicar a IAGen ao seu negócio. A IA tradicional é amplamente utilizada em serviços financeiros, normalmente para previsões e segmentações, mas os modelos de IAGen podem converter dados não estruturados em estruturados para fortalecer modelos de risco.

A complexidade de criação e gerenciamento de governança das aplicações da IA generativa inclui questões sociais e éticas. Existem riscos regulatórios, de conformidade e legais relacionados à propriedade de dados de treinamento dos modelos, regulamentações em desenvolvimento e privacidade. A exposição inadvertida de dados de clientes, os riscos de direitos autorais e a possível obsolescência do modelo de negócios também são pontos de atenção.

Entre os desafios operacionais é possível citar questões de segurança cibernética, gerenciamento de dados e resiliência tecnológica. A complexidade dos sistemas pode torná-los vulneráveis a ataques cibernéticos, e a facilidade de uso pode levar a problemas como phishing e deep fakes.

Riscos de modelo envolvem viés, precisão e explicabilidade. A IAGen intensifica o risco de viés nos dados e a dificuldade em avaliar a exatidão dos resultados. A tecnologia pode gerar resultados que não estavam presentes nos dados de treinamento, o que pode ser desejável, porém devem ser acompanhados para evitar as chamadas “alucinações”.

Para mitigar essas questões, a Bain propõe cinco princípios de design para a IA generativa responsável:

1- Foco nas pessoas

É necessário que a tecnologia seja centrada nas pessoas, garantindo a consciência e a tomada de decisões de um ser humano nos processos.

2- Consciência

Robustez na infraestrutura e privacidade dos dados são imprescindíveis, bem como avaliar a maturidade organizacional e os riscos das utilizações planejadas, ajustando a abordagem de acordo com a realidade da companhia.

3- Confiabilidade

Ganhe a confiança dos stakeholders e direcione a imagem da empresa por meio da capacitação das equipes e integração de responsabilidades em toda a organização.

4- Agilidade

Utilize uma abordagem flexível de testes e aprendizado para se adaptar rapidamente à evolução da tecnologia, regulamentação e percepção dos consumidores.

5- Intencionalidade

Reconheça que a IA está evoluindo e é complexa. Adote uma abordagem cautelosa e teste continuamente para evitar consequências não intencionais.

A IAGen não é algo futurista e sim uma realidade. Ela oferece ao setor de serviços financeiros oportunidades inigualáveis e novos negócios, mas inclui desafios. As empresas que adotarem essa tecnologia com responsabilidade, criando estruturas de governança robustas e capacitando colaboradores para se adaptarem ao ambiente de trabalho orientado por IA, vão conseguir aproveitar todo o seu potencial. 

Isso começa com uma decisão sobre priorizar práticas responsáveis, projetadas com seu impacto mais amplo e alinhadas com os valores centrais e objetivos estratégicos de longo prazo da organização. Ao ser pioneira em um modelo adequado de implementação de IAGen, as organizações de serviços financeiros têm a oportunidade não apenas de obter vantagem competitiva em um mundo cada vez mais digital, como também dar exemplo de responsabilidade e antecipação.