As empresas estão depositando suas maiores esperanças na inteligência artificial (IA) e no machine learning (ML). No entanto, essas tecnologias têm seus riscos e são capazes de tirar o sono dos profissionais de TI de uma empresa.
Segundo um artigo da MIT Technology Review, o fato de ninguém saber exatamente como os algoritmos tomam suas decisões pode ser um problema. Isso porque, apesar de normalmente fazerem o que esperamos deles, ainda há a possibilidade de se comportarem de forma imprevista.
Os modelos baseados em ML geralmente funcionam como “caixas pretas”, sendo complexos e misteriosos principalmente aqueles baseados em deep learning, com redes neurais. E esse cenário gera riscos que podem prejudicar todo o projeto.
Neste artigo, vamos falar sobre quais são os riscos da IA e as estratégias para minimizá-los.
Por que podemos considerar a inteligência artificial uma caixa preta?
O termo “caixa preta” se refere aos gravadores de dados dos aviões, que servem para guardar informações importantes em casos de acidentes. De certa forma, o conteúdo se mantém secreto até que sejam necessários. No caso da inteligência artificial, o caso é semelhante.
A caixa preta da IA é referente ao funcionamento da tecnologia. A partir dos dados, modelos e arquiteturas que utilizamos, os computadores passam a aprender e estender seus conhecimentos, gerando respostas às nossas perguntas. Porém, o grande mistério é como isso ocorre.
Essa tecnologia traz vários benefícios em áreas como a saúde, onde podem ajudar a identificar tumores cancerígenos, prever doenças cardíacas e muitas outras ações. E tudo isso sem uma transparência no processo. Por outro lado, essa não chega a ser uma questão nova, já que o próprio processo de aprendizado humano é tão complexo quanto.
Mesmo o diagnóstico feito por um médico pode ser uma incógnita. Ele pode até passar informações suficientes ao paciente de como chegar às suas conclusões, mas muitos dados específicos são complicados demais para explicar e, por vezes, confusos até para o médico. Assim, o processo humano também não é exatamente transparente e pior: chega a se basear muitas vezes em intuição.
Na área financeira, também encontramos diversos exemplos, principalmente em meio à ascensão das fintechs. São modelos que facilitam pagamentos e cadastros digitais ou até reforçam a segurança de dados, como senhas e acessos.
No caso da IA, os algoritmos coletam todas as informações disponíveis, inclusive aquelas que o próprio médico deixa de levar em consideração, para fazerem suas conclusões. Dessa forma, as decisões são feitas mais efetivamente com base em evidências concretas.
Porém, embora os algoritmos consigam usar argumentos, não podem apresentar todo o caminho subjacente percorrido para encontrar as respostas. Existem várias causas e eventos intrínsecos às decisões que têm impacto invisível no processo de raciocínio da máquina, da mesma forma que acontece com os seres humanos. E eis aqui a nossa caixa preta da inteligência artificial!
Deep learning: uma forma avançada de aprendizado de máquina
Além do ML tradicional, as máquinas também podem aprender pelo processo de deep learning. A principal diferença é que essa tecnologia consegue resolver problemas avançados e muito mais complexos do que os modelos de aprendizado de ML clássicos e outros métodos são menos ou nada eficazes.
Isso explica por que os algoritmos tradicionais são mais rápidos, enquanto o deep learning geralmente precisa de aceleradores de hardware para treinar as máquinas sem levar meses. Além disso, são mais complicados para serem interpretados, já que o aprendizado ocorre em uma camada oculta que utiliza, entre outros processos, redes neurais.
Para se ter uma noção sobre o modelo, ele foi utilizado para aprimorar o Google Tradutor em pares de idiomas como inglês/francês e inglês/chinês. O processo incluiu uma nova rede neural treinada com a incorporação de palavras da estrutura Tensor Flow a partir do processamento de linguagem neural (PLN).
Essa técnica é capaz também de realizar compreensão de idioma natural, resumos automáticos, análise de discurso, segmentação morfológica, reconhecimento de fala, entre outras atividades. O deep learning também é um modelo interessante para a classificação de imagens e vídeos, de formas tão complexas que justificam a noção da caixa preta.
Quais são os riscos da IA para as empresas?
Com tantas aplicações possíveis, os riscos da inteligência artificial podem ter impacto severo na saúde dos negócios. Algoritmos mal treinados são capazes de tomar decisões erradas e causar danos irrecuperáveis.
É preciso ficar atento às vulnerabilidades da tecnologia, sendo responsabilidade das auditorias e áreas de gestão de risco ter cuidado com os algoritmos. Um cenário possível é ver um desempenho aquém do esperado, podendo inclusive prejudicar a segurança dos consumidores.
Nos hospitais, por exemplo, podem falhar na detecção de doenças ou até indicar tratamentos inadequados aos pacientes. Em qualquer área de atuação, ter cuidado com as expectativas dos consumidores é fundamental, pois a falta de cumprimento delas pode resultar em banalização da ferramenta, causando uma reputação negativa de falhas.
Outra questão importante é em relação aos princípios humanos e legais. Seja pelo treinamento inadequado ou por outras razões, os algoritmos podem tomar decisões desalinhadas com fatores sociais étnicos, culturais e de compliance.
Isso inclusive pode ser causado por terceiros, que podem induzir a riscos extras ao terem visão limitada em relação à tecnologia.
E como reduzir os riscos da inteligência artificial?
A forma mais eficiente reduzir os riscos da IA para o seu negócio é garantir a existência de uma auditoria especializada com profissionais de TI especializados. Afinal, os aprendizados e treinamentos precisam ser analisados e atualizados com frequência para refinar os modelos.
É importante acompanhar os algoritmos e estabelecer formas de controle durante seu ciclo de vida, desde a coleta de dados até a aplicação. Para isso, a empresa também precisa ter processos de vigilância claros para monitorar os resultados e garantir, sempre que necessário, a validade e atualização dos dados de treinamento.
Outro processo importante para reduzir as possibilidades de impacto negativo da inteligência artificial é a comunicação interna. O setor deve estar preparado para informar aos gestores quando as decisões da tecnologia estiverem afetando a organização, a fim de conter qualquer indício de crise.
Por fim, envolver-se com pesquisadores, centros de inovação e especialistas é uma medida que mantém o núcleo de tecnologia da sua empresa próximo das novidades e informações do mercado. Isso ajuda na adoção de práticas e ferramentas de ponta específicas para controlar os riscos.
Com essas medidas, você consegue ter as suas estruturas e modelos baseados em inteligência artificial sob controle. Consequentemente, torna-se muito mais difícil que essa tecnologia traga problemas nos seus processos.
Para conhecer mais sobre o mercado de inteligência artificial, continue acompanhando o blog da Cedro Technologies.
