Para além do compliance: o valor estratégico da responsabilidade na adoção de IA

Na corrida pela adoção de Inteligência Artificial, é comum enxergar a questão ética apenas como um conjunto de restrições ou barreiras de compliance. Aqui na Taqtile, temos uma visão diferente: acreditamos que a responsabilidade ética não é um freio, mas um diferencial competitivo capaz de proteger a reputação da marca e gerar novas oportunidades de valor.

Sabemos que o tema é complexo e, muitas vezes, difícil de tangibilizar no dia a dia dos projetos. No entanto, ignorar essa camada não é uma opção. O cuidado ético é, em última instância, um cuidado com a perenidade do negócio. Mesmo que a exigência regulatória e social ainda esteja amadurecendo, as marcas que se antecipam constroem bases muito mais sólidas para escalar suas inovações.

Neste artigo, o Nicolás de Arriba compartilha aprendizados práticos a partir de diálogos com a Tuanny Martins e o Danilo Toledo que lideram esses processos aqui na Taqtile. Abaixo, você encontra estratégias para tirar o tema do campo teórico e integrá-lo aos processos de inovação de forma incremental, encarando a ética como um aprendizado constante que evolui junto com a tecnologia.

Responsabilidade e Inteligência Artificial: como lidar com os desafios éticos na adoção da tecnologia

Por Nicolás de Arriba

Concept/Prompt: Nicolás de Arriba· Image: DALL-E 3

Uma tensão comum em projetos de inovação e Inteligência Artificial é que os desafios éticos, por serem vastos e complexos, correm o risco de se tornarem um "elefante branco". Sabe-se que ela está lá, ocupando espaço, mas a dificuldade de abordar todas as suas ramificações muitas vezes leva ao adiamento ou até ao esquecimento do problema.

E em parte faz sentido, porque todo e qualquer projeto de inovação tem muitas barreiras, e uma barreira desse tamanho pode ser determinante para a continuidade de um projeto. É disso que surge um dos principais aprendizados da Taqtile em relação ao desafio ético: a complexidade do tema não deve se sobrepor ao tamanho da iniciativa em discussão. Ele precisa crescer conforme o projeto avança.

Como será reproduzido a seguir a partir de conversas com a Tuanny Martins e o Danilo Toledo que lideram essas discussões na Taqtile, entre paralisar um projeto ou evitar o assunto, o caminho é trabalhar ele de forma incremental.

Por isso, o objetivo deste texto é compartilhar o que aprendemos na Taqtile sobre como evitar que o assunto seja colocado de lado. A chave não está em ter todas as respostas e compromissos no dia um, mas em transformar a ética em um processo gerenciável, que é endereçado e amadurece na mesma velocidade em que o projeto avança.

A importância de transformar em um assunto

Acompanhar o desenvolvimento desse tema me lembrou de quando conheci as pesquisas de Sheila Jasanoff, uma cientista social indo-americana que é referência no campo de estudos de Ciência, Tecnologia e Sociedade (CTS). Estudando o impacto de novas tecnologias na sociedade, a autora ficou conhecida por evidenciar que existe um gap na forma como se pensa a sociedade: desconsiderar o quanto as tecnologias afetam a produção de ordens sociais.

Em seus estudos, Jasanoff apresenta o conceito de imaginário sociotécnico, que se refere às visões coletivamente partilhadas e publicamente performadas de futuros desejáveis como algo que é alcançável através de avanços da ciência e da tecnologia. Nesse cenário, mostra a autora, tendemos a olhar para a inovação apenas pela ótica da solução, desconsiderando como ela afeta e produz novas ordens sociais.

Nesse sentido, a autora expõe que o maior risco surge não pela tecnologia em si, mas principalmente quando aspectos de responsabilidade e desafios éticos não fazem parte desses imaginários sociotécnicos da tecnologia.

Não por acaso, essa é uma das preocupações centrais na Taqtile: para além de buscar por noções de compliance, estudar o assunto visando torná-lo em algo gerenciável e possível de ser endereçado no ambiente corporativo. Para compartilhar o que já aprendemos, a partir de discussões internas, consolidamos três estratégias para trazer a discussão para o ambiente corporativo.

1. O tema deve acompanhar a evolução do projeto

Como, então, trazer o assunto para a prática sem travar a inovação? A primeira estratégia sugerida por Danilo é a abordagem incremental.

"Ética não pode ser um pensamento tardio, precisa estar presente no ponto de partida, e evoluir em complexidade com o projeto”. Por isso, o papel da consultoria é sensibilizar sobre os riscos amplos desde o início, mas endereçar as tensões de forma proporcional ao estágio do desenvolvimento. Isso evita que se transforme a ética em um bloco sensível e intransponível, permitindo que ela seja tratada etapa a etapa, acompanhando o aumento da complexidade e do impacto da solução.

2. Abordar pela noção de eficiência: o custo de não fazer

A Tuanny lembra que há também uma dimensão pragmática para se abordar. Tratar a ética desde o início é uma questão de eficiência.

Por exemplo, o custo de remediar um modelo de IA mal construído é exponencialmente maior do que o de desenvolvê-lo com critérios de responsabilidade. “Modelos de IA aprendem e amplificam padrões. Se o viés dos dados não for tratado na origem, ele se cristaliza na arquitetura do sistema. Corrigir isso depois pode exigir desde um retreinamento custoso até o descarte total do modelo. Além disso, aspectos técnicos como a explicabilidade — a capacidade do sistema detalhar como chegou a uma conclusão — muitas vezes não podem ser "encaixados" posteriormente.”

Não só isso, a longo prazo, pensar em compliance e responsabilidade desde o "dia zero" é sobre proteger o investimento, até porque esse é um mercado que deve ser cada vez mais regularizado. Abordar o aspecto ético da tecnologia ajuda a prever onde essa regulação deve acontecer antes, permitindo às empresas se anteciparem.

3. Ética também é sobre gerar valor

Algo que a Tuanny chama atenção, é que “é fundamental mudar a perspectiva: sair de uma postura defensiva ("bloquear a IA para evitar danos") para uma postura propositiva. A ética não serve apenas para mitigar riscos; ela gera oportunidades de valor.

Um exemplo prático trazido por ela, ilustra esse ponto: “ao desenvolver um protótipo interno, a gente percebeu que a IA utilizava linguagem e exemplos predominantemente masculinos, refletindo o viés de seus dados de treinamento. Identificando isso, foi possível ajustar o modelo para adotar uma linguagem neutra e inclusiva com uma precisão e escala que seriam difíceis de atingir manualmente. Aqui, o olhar ético não foi um freio, mas uma alavanca para entregar um produto tecnicamente superior e socialmente mais adequado”.

Por isso, olhar para o lado propositivo que Inteligência Artificial pode entregar não é sobre tratar de seus futuros desejáveis (e distantes), mas também entender como as capacidades e habilidades da tecnologia podem resolver problemas hoje.

Como a Taqtile está se aprofundando no desafio

Na Taqtile, assim como no mercado, a complexidade do tema ainda está sendo mapeada e elaborada. Construindo ferramentas próprias, o foco é não só sensibilizar sobre o tema, como trazer para a realidade prática das empresas e dos projetos.

Nesse sentido, na Taqtile um grupo de trabalho está finalizando um checklist de assessment em Responsible AI. Desenhado para avaliar vulnerabilidades específicas, a proposta é ser uma forma estruturada de avaliar e implementar práticas éticas em projetos de Inteligência Artificial. Além disso, na metodologia proprietária de aceleração da tecnologia, o AI Sprint, há etapas dedicadas para sensibilizar as empresas em relação ao tema e mapear os riscos no contexto do projeto.

Ainda assim, reconhecendo a distância entre a complexidade do tema e as iniciativas em curso, a Taqtile acompanha a reflexão: lidar com a complexidade de forma incremental e não evitar ou deixar de lado os desafios.

Onde começa e termina a responsabilidade?

Para concluir, queria retomar uma outra autora que estudei ao longo da minha formação. A antropóloga Dinah Rajak que em seu livro In Good Company (2011) faz uma anatomia da noção de Responsabilidade Social Corporativa (RSC). Estudando não só como um fenômeno moderno, ela mostra que a noção de responsabilidade faz parte da própria história da formação das corporações.

Como a autora escreve, apesar da ideia de Responsabilidade Social Corporativa ser “frequentemente apresentada como um fenômeno distintamente moderno, produto de preocupações milenares sobre sustentabilidade social e ecológica em uma era de globalização” (Rajak, 2011, p. 10, tradução minha), ela surge muito antes no curso da história das corporações empresariais.

Com isso, Rajak propõe que estabelecer de antemão como se definem as fronteiras entre o papel e a responsabilidade das empresas com aspectos sociais, principalmente como esse papel é ou deveria ser exercido, não cabe em uma perspectiva pragmática sobre o assunto. Além disso, é ignorar que a noção de responsabilidade pode ser observado desde industriais filantrópicos da Grã-Bretanha vitoriana no século XVIII, como Rowntree, Cadbury ou Lever e seu autoproclamado compromisso com a melhoria social (Sartre, 2005; Rajak, 2011).

Ou seja, mesmo que seja possível estabelecer limites claros de responsabilidade em relação à adoção da tecnologia e seus impactos, para a autora isso é algo que não só pode como deve ser sempre repensado. Portanto, para além de sensibilizar sobre possíveis impactos negativos em processos de adoção da tecnologia, é preciso encontrar formas de incluí-lo no próprio imaginário sociotécnico, e não como um assunto que pertence a outra esfera que não a das próprias empresas. Os riscos envolvendo a nova tecnologia, também é um assunto que pertence às empresas.

Enquanto as estratégias levantadas nessa discussão apresentaram resultados interessantes, reconhecemos que ainda há um caminho longo pela frente. Para conhecer mais sobre como a Taqtile está implementando a tecnologia em grandes empresas, siga a nossa página e acompanhe experiências, aprendizados e cases elaborados pelo próprio time da empresa.