Por que devemos debater mais sobre a ética na IA

A adoção de chatbots está em expansão e um número expressivo de 80% das empresas deve sentir a necessidade de implementar a tecnologia até 2020, segundo apresentado em um relatório da Chatbots Magazine.

Esse dado é suficiente para levantar uma questão muito importante sobre o crescimento de ferramentas como essa: a preocupação com a ética na utilização de Inteligência Artificial (IA). Embora tenham surgido normas como o Regulamento Geral de Proteção de Dados (GPDR) na Europa e a Lei Geral de Proteção de Dados (LGPD) aqui no Brasil, é preciso mais.

Grandes empresas começaram a tomar medidas para incentivar o uso consciente da tecnologia, como o Google e a IBM. Além disso, há uma movimentação internacional em busca da definição de princípios. Nesse contexto, quais devem ser as questões que merecem atenção?

A importância da ética no desenvolvimento de chatbots

O uso de inteligência artificial para a comunicação, como é o caso dos chatbots, envolve uma série de responsabilidades sobre as informações coletadas. Se as empresas e desenvolvedores que disponibilizam as ferramentas se tornam responsáveis pelos dados, a sociedade por sua vez fica exposta a várias formas de impacto.

A ética sobre os dados precisa ser discutida para entender como essas tecnologias devem ser trabalhadas nas empresas de tecnologia. As discussões envolvem temas como a privacidade e propriedade dos dados, a transparência das empresas quanto ao uso e os limites das aplicações e quando eles são ultrapassados e geram abuso.

O uso de tecnologia pelas empresas financeiras, por exemplo, exige um cuidado especial na segurança dos dados. Os bancos trabalham com conteúdos de extrema sensibilidade que devem se manter sigilosas. Imagine se as suas informações bancárias vazam? A própria tendência do open banking traz expectativas quanto a isso, mas também enfrenta desafios no mercado.

A polêmica se estende também ao telemarketing, já que muitas empresas utilizam os telefones dos dados capturados para fazer esse tipo de estratégia que tanto incomoda os consumidores.

A LGPD deve resolver esse tipo de situação, já que promete dar mais autonomia ao indivíduo para autorizar quem e como os dados pessoais podem ser usados. Mesmo assim, as empresas ainda precisam se conscientizar quanto à criação de parâmetros de ética e bom senso na hora de construir os chatbots.

O desenvolvimento precisar trabalhar com a transparência e a segurança de como os dados coletados vão ser usados, permitir ao usuário escolher se os dados podem ser coletados e atender às expectativas na forma de interação da ferramenta .

Além disso, uma preocupação é como evitar que os bots reproduzam comportamentos discriminatórios e preconceituosos. Uma vez que a tecnologia assimila informações a partir de interação, deve-se criar gatilhos para que ela entenda o que é certo e o que é errado. Os serviços cognitivos precisam ser capazes de atuar de forma que atenda a todos os cidadãos de maneira igual, sem distinção.

Vale pontuar que uma empresa que trabalha a ética e a responsabilidade com os dados no desenvolvimento dos chatbots ganha pontos na vantagem competitiva, já que aumenta o potencial de fidelização dos clientes à marca e evolui os processos de comunicação de forma consciente.

A movimentação internacional para definir princípios de ética no uso de IA

Com a evolução da tecnologia em alta, muitas organizações em nível internacional começam a se movimentar para chegar a resultados satisfatórios em relação à ética na AI. É o caso da Organização para a Cooperação e Desenvolvimento Econômico (OCDE), da Unesco e da Comissão Europeia.

A OCDE, que engloba 34 países, reuniu especialistas em um grupo de trabalho multidisciplinar para chegar a um veredicto sobre os princípios éticos que devem ser aplicados aos seus membros.

O grupo percebe a aplicação de valores humanos nas soluções como um dos grandes desafios da IA atualmente, algo que precisa ganhar foco. A iniciativa visa debater os planos em importantes reuniões e contribuir no processo de definição global do tema.

A Comissão Europeia e a Unesco também criaram conselhos para debater a questão. A União Europeia enxerga na questão da ética um importante fator para ganhar vantagem competitiva no potencial de desenvolvimento de soluções digitais para o mercado global.

Por outro lado, há especialistas que acreditam na falta de evidências para a relevância da estratégia, avaliando que os consumidores não se importam muito com a questão. Uma pesquisa do Center for Data Innovation mostrou que apenas 19% dos americanos pagariam mais por um produto de design ético, enquanto  12% têm usado estratégias de segurança para os dados na internet.

Esses dados mostram que ainda há muito que se trabalhar para desenvolver quadros de conscientização. Enquanto os próprios usuários precisam se preocupar mais com o que acontece com os dados pessoais, as organizações, ao menos, mostram movimentação para evoluir a questão.

As grandes empresas e a criação de princípios éticos para IA

As principais empresas de tecnologia também mostram preocupação com a ética no desenvolvimento de soluções de inteligência artificial. Empresas como a IBM, o Google e a Sage têm os seus próprios guias de princípios, atuando no incentivo de boas práticas.

Confira os pontos trabalhados nesses três nomes fortes do mercado!

IBM

A IBM considera importantes vários detalhes no desenvolvimento das soluções de IA, atentando-se para eles em seu ecossistema. A empresa vê como alerta os seguintes pontos:

• Há uma falta de preocupação no mercado com as questões éticas;
• É importante distinguir ao usuário quando ele conversa com uma máquina ou com uma pessoa real;
• Deve-se priorizar a privacidade e a segurança dos dados do usuário no meio digital;
• O compartilhamento de informações com um bot se relaciona com questões de propriedade intelectual.

Google

Para  incentivar a IA para resolver problemas no dia a dia das pessoas, o Google enxerga a necessidade de que a tecnologia seja clara, responsável e atenda determinados princípios. Entre eles, uma solução de IA desenvolvida na empresa precisa seguir questões como:

• Trazer benefícios a partir do respeito a questões culturais, econômicas, sociais e legais;
• Evitar criar impactos negativos, com vieses culturais injustos e preconceituosos, levando em conta questões raciais, étnicas, de nacionalidades, de gênero e orientação sexual, crenças políticas e religiosas, entre outros;
• Levar segurança, a partir de desenvolvimentos com testes aprovados e adequados para implementação;
• Ter responsabilidade, adotando características humanas controladas e direcionadas;
• Incorporar questões de privacidade, dando a opção de consentimento no uso das informações
• Manter altos padrões de excelência em áreas científicas, fornecendo informações rigorosamente qualificadas e adotando abordagens multidisciplinares com materiais educacionais;
• Ser disponibilizada para usos que concordam com princípios de propósito, escalabilidade de impacto, singularidade e natureza do desenvolvimento.

Sage

A atuação da Sage se baseia em cinco princípios que norteiam o desenvolvimento das soluções e as ações no ecossistema da companhia. Eles estão reunidos no documento “A Ética do Código: 5 princípios éticos para desenvolver Inteligência Artificial para negócios”. Os tópicos são:

• A IA deve refletir a diversidade de seus usuários: a ideia é barrar atitudes preconceituosas pela IA, evitando a reprodução de estereótipos;
• A IA deve ser responsável, assim como seus usuários: a solução precisa ser responsável pelas próprias ações e comportamentos, contribuindo para a construção de um relacionamento confiável;
• Recompense a IA por “mostrar o seu funcionamento”: criar um mecanismo de recompensas pode ajudar a treinar a inteligência para filtrar as informações e evitar comportamentos inadequados;
• O jogo da IA deve ser igual para todos: a tecnologia precisa estar preparada para integrar usuários com necessidades especiais, como quem tem problemas de visão, dislexia e mobilidade reduzida;
• A IA substitui, mas também deve criar: as soluções precisam ser capazes de realizar ações, promovendo a substituição da força humana para tarefas repetitivas e promovendo a melhoria no trabalho.

Essas empresas são alguns nomes que mostram preocupação com o desenvolvimento de soluções de inteligência artificial. A força que elas imprimem no mercado pode ser um reforço para expandir a necessidade de aplicar a ética e o debate sobre o assunto no setor.

De qualquer forma, os avanços estão acontecendo e a sua empresa também precisa se inserir nesse contexto. O que a sua equipe faz para promover a ética no desenvolvimento dos chatbots?

Para mais insights sobre transformação digital e o cenário da tecnologia, explore o nosso blog e acompanhe os nossos conteúdos exclusivos!