MKBR24: para implementar IA com segurança, empresas precisam fugir do "hype" em torno dessa tecnologia
Implicações éticas, gerenciamento de riscos e pertinência dos algoritmos para os negócios devem ser levados em conta, recomenda especialistaÉ inegável o avanço vertiginoso da inteligência artificial (IA) no cotidiano das pessoas, e isso não é diferente no mercado de capitais. Se por um lado a tecnologia facilita processos e agiliza operações, por outro pode criar implicações regulatórias, operacionais e de gerenciamento de riscos ainda inéditos.
“O momento atual é de grande empolgação com a inteligência artificial. Mas é importante que as empresas e players do mercado entendam o formato dessa tecnologia para seus negócios antes de adotá-la só porque é um grande hype”, afirmou Clara Durodié, especialista em tecnologia financeira e finanças, cofundadora e CEO do Cognitive Finance Group, em participação no MKBR24, evento realizado pela ANBIMA e pela B3.
“Existem expectativas exageradas, mas capacidades reais da inteligência artificial. E é importante que as empresas estejam atentas a essa dinâmica”, disse. Segundo ela, a IA já atingiu 90% de seu potencial para reconhecimento de imagens, 80% em processamento de linguagem e 20% em tomada autônoma de decisões. O percentual é bem mais baixo, por exemplo, para inteligência geral (5%).
Durodié destacou a grande diferença entre projeções para IA e o que realmente se concretizou nos últimos anos. “Em 2016, a previsão era de que até 2025 um percentual de 47% dos trabalhos estaria automatizado, o que não está acontecendo. Em 2020, pensava-se que a IA dominaria os diagnósticos médicos e isso está longe de ser realidade. Isso sem falar nos carros autônomos, que ainda estão em fase de testes enfrentando acidentes”, enumerou.
Implicações éticas
Em relação à questão ética no uso da IA, a especialista afirmou que ainda não há clareza, por exemplo, em relação aos dados pessoais, ponto de atenção dos reguladores. “Nesse aspecto, ainda falta muita transparência. Além disso, ainda não dá para saber se os mecanismos de controle da IA são suficientes para que os algoritmos tenham comportamentos não previsíveis e danosos”, ressaltou.
A adoção maciça da IA também cria uma questão em torno de custos, alertou. Isso porque fica muito mais caro para as empresas que usam essa tecnologia corrigir algoritmos equivocados depois que já estão rodando. A especialista lembrou que esse erro ocorreu com a internet: vícios criados no início da disseminação da rede não foram corrigidos a tempo, com repercussão (inclusive financeira) até hoje. “Somos a primeira geração a conviver com a inteligência artificial, e o que fizermos agora vai repercutir por muitas e muitas décadas”, advertiu.
Na avaliação de Gustavo Cunha, professor e fundador da Fintrender, o percentual de 20% da capacidade total da IA em tomada autônoma de decisões já é alto, exigindo atenção adequada para evitar problemas no futuro, especialmente nos mercados financeiro e de capitais. “Temos que lembrar que o sistema vai se retroalimentar continuamente, e isso pode significar um caminho ruim. Precisamos pensar em regulação para evitar um futuro assustador”, completou.
Durodié apresentou, durante o painel, uma lista de recomendações para as empresas implementarem IA em seus negócios, considerando o estágio atual dessa tecnologia. O processo, segundo ela, inclui aspectos como construção de confidencialidade dos dados usados no algoritmo de IA, controle sobre o caminho desses dados, seleção do que entra no algoritmo (lembrando que os inputs permanecem na memória da IA), estratégia de governança de dados, pertinência do uso da tecnologia ao negócio, visão geral do risco (não usar IA apenas porque está “na moda”) e letramento dos colaboradores nessa tecnologia.
O MKBR é um evento bienal sobre o mercado de capitais, realizado desde 2018, numa parceria entre a ANBIMA e a B3. Reúne grandes nomes do Brasil e do exterior para debater o cenário atual e as iniciativas que estimulem o crescimento sustentável do mercado de capitais brasileiro.