La ética en proyectos de IA no necesita ser un bloque infranqueable: puede crecer con el proyecto, etapa por etapa, y convertirse en una ventaja competitiva.
En la carrera por la adopción de Inteligencia Artificial, es común ver la cuestión ética solo como un conjunto de restricciones o barreras de compliance. En Taqtile tenemos una visión diferente: creemos que la responsabilidad ética no es un freno, sino una ventaja competitiva capaz de proteger la reputación de la marca y generar nuevas oportunidades de valor.
Sabemos que el tema es complejo y, muchas veces, difícil de hacer tangible en el día a día de los proyectos. Sin embargo, ignorar esa capa no es una opción. El cuidado ético es, en última instancia, un cuidado de la perennidad del negocio. Aunque la exigencia regulatoria y social todavía esté madurando, las marcas que se anticipan construyen bases mucho más sólidas para escalar sus innovaciones.
Una tensión común en proyectos de innovación e Inteligencia Artificial es que los desafíos éticos, por ser vastos y complejos, corren el riesgo de convertirse en un "elefante en la sala". Se sabe que está ahí, ocupando espacio, pero la dificultad de abordar todas sus ramificaciones muchas veces lleva a postergar o incluso olvidar el problema.
Y en parte tiene sentido, porque todo proyecto de innovación tiene muchas barreras, y una barrera de ese tamaño puede ser determinante para la continuidad de un proyecto. De ahí surge uno de los principales aprendizajes de Taqtile en relación con el desafío ético: la complejidad del tema no debe sobreponerse al tamaño de la iniciativa en discusión. Necesita crecer a medida que el proyecto avanza.
Como se reproduce a continuación a partir de conversaciones con Tuanny Martins y Danilo Toledo, que lideran estas discusiones en Taqtile, entre paralizar un proyecto o evitar el asunto, el camino es trabajarlo de forma incremental.
Por eso, el objetivo de este texto es compartir lo que aprendimos en Taqtile sobre cómo evitar que el tema se deje de lado. La clave no está en tener todas las respuestas y compromisos el primer día, sino en transformar la ética en un proceso gestionable, que se aborda y madura a la misma velocidad a la que el proyecto avanza.
La importancia de convertirlo en un tema
Acompañar el desarrollo de este tema me recordó cuando conocí las investigaciones de Sheila Jasanoff, una científica social indoamericana que es referencia en el campo de estudios de Ciencia, Tecnología y Sociedad (CTS). Estudiando el impacto de las nuevas tecnologías en la sociedad, la autora se hizo conocida por evidenciar que existe una brecha en la forma en que se piensa la sociedad: desconsiderar cuánto las tecnologías afectan la producción de órdenes sociales.
En sus estudios, Jasanoff presenta el concepto de imaginario sociotécnico, que se refiere a las visiones colectivamente compartidas y públicamente performadas de futuros deseables como algo alcanzable a través de avances de la ciencia y la tecnología. En ese escenario, muestra la autora, tendemos a mirar la innovación solo desde la óptica de la solución, desconsiderando cómo afecta y produce nuevos órdenes sociales.
En ese sentido, la autora expone que el mayor riesgo surge no por la tecnología en sí, sino principalmente cuando los aspectos de responsabilidad y los desafíos éticos no forman parte de esos imaginarios sociotécnicos de la tecnología.
No por casualidad, esta es una de las preocupaciones centrales de Taqtile: más allá de buscar nociones de compliance, estudiar el tema para convertirlo en algo gestionable y posible de abordar en el ambiente corporativo. Para compartir lo que ya aprendimos, a partir de discusiones internas, consolidamos tres estrategias para llevar la discusión al ambiente corporativo.
1. El tema debe acompañar la evolución del proyecto
¿Cómo, entonces, llevar el tema a la práctica sin frenar la innovación? La primera estrategia sugerida por Danilo es el enfoque incremental.
"La ética no puede ser un pensamiento tardío; necesita estar presente en el punto de partida y evolucionar en complejidad con el proyecto". Por eso, el papel de la consultoría es sensibilizar sobre los riesgos amplios desde el inicio, pero abordar las tensiones de forma proporcional a la etapa del desarrollo. Eso evita que la ética se transforme en un bloque sensible e infranqueable, permitiendo que se trate etapa por etapa, acompañando el aumento de la complejidad y del impacto de la solución.
Es lo que hicimos en el agente de IA que conduce la venta de autos por suscripción: la autonomía del agente creció por etapas, a medida que demostraba que acertaba, y las decisiones sensibles, como el análisis de crédito, siguieron con una persona.
2. Abordar desde la noción de eficiencia: el costo de no hacerlo
Tuanny recuerda que también hay una dimensión pragmática que abordar. Tratar la ética desde el inicio es una cuestión de eficiencia.
Por ejemplo, el costo de remediar un modelo de IA mal construido es exponencialmente mayor que el de desarrollarlo con criterios de responsabilidad. "Los modelos de IA aprenden y amplifican patrones. Si el sesgo de los datos no se trata en el origen, se cristaliza en la arquitectura del sistema. Corregirlo después puede exigir desde un reentrenamiento costoso hasta el descarte total del modelo. Además, aspectos técnicos como la explicabilidad, la capacidad del sistema de detallar cómo llegó a una conclusión, muchas veces no pueden agregarse posteriormente."
No solo eso: a largo plazo, pensar en compliance y responsabilidad desde el "día cero" es proteger la inversión, sobre todo porque este es un mercado que debe estar cada vez más regulado. Abordar el aspecto ético de la tecnología ayuda a prever dónde ocurrirá antes esa regulación, permitiendo a las empresas anticiparse.
3. La ética también es generar valor
Algo sobre lo que Tuanny llama la atención es que "es fundamental cambiar la perspectiva: salir de una postura defensiva ('bloquear la IA para evitar daños') hacia una postura propositiva. La ética no sirve solo para mitigar riesgos; genera oportunidades de valor."
Un ejemplo práctico que ella trae ilustra ese punto: "al desarrollar un prototipo interno, notamos que la IA utilizaba lenguaje y ejemplos predominantemente masculinos, reflejando el sesgo de sus datos de entrenamiento. Al identificarlo, fue posible ajustar el modelo para adoptar un lenguaje neutro e inclusivo con una precisión y una escala que serían difíciles de alcanzar manualmente. Aquí, la mirada ética no fue un freno, sino una palanca para entregar un producto técnicamente superior y socialmente más adecuado".
Por eso, mirar el lado propositivo que la Inteligencia Artificial puede entregar no es solo tratar sus futuros deseables (y distantes), sino también entender cómo las capacidades y habilidades de la tecnología pueden resolver problemas hoy.
Cómo Taqtile está profundizando en el desafío
En Taqtile, como en el mercado, la complejidad del tema todavía se está mapeando y elaborando. Construyendo herramientas propias, el foco es no solo sensibilizar sobre el tema, sino llevarlo a la realidad práctica de las empresas y de los proyectos.
De ese frente nació Responsible AI, el assessment de responsabilidad en IA de Taqtile. Evalúa un proyecto o producto con IA, en producción o todavía en desarrollo, en 10 dimensiones: identificación, datos y privacidad, sesgos y equidad, transparencia, desplazamiento de trabajo, calidad, gobernanza, sostenibilidad, mantenimiento y seguridad.
Cada dimensión está cubierta por preguntas clasificadas por criticidad. Algunas son innegociables y, sin respuesta, limitan la nota del proyecto. Otras deben resolverse antes de escalar, y otras entran de forma progresiva. Es esa clasificación la que hace el tema gestionable. El resultado no es un aprobado o reprobado, sino un mapa de madurez por dimensión, la exposición regulatoria del proyecto y un roadmap de prácticas, en el orden en que vale la pena adoptarlas.
Si quiere entender cómo Responsible AI se aplica a su proyecto, escríbanos. Hacemos el diagnóstico junto con su equipo, en la etapa en que esté el proyecto.