La inteligencia artificial (IA) pasó de ser una apuesta de innovación a convertirse en una capacidad estratégica que está transformando la manera en que las organizaciones operan, toman decisiones y generan valor. Sin embargo, a medida que su incorporación se acelera, surge un nuevo desafío para las empresas: asegurar que su implementación sea ética, transparente y segura.
Según el estudio Work Reimagined Survey de EY, el 92 % de los trabajadores en Colombia ya emplea herramientas de IA en su trabajo diario, aunque solo el 28 % de las organizaciones ha logrado traducir ese avance en una transformación empresarial alineada con estándares de seguridad, sostenibilidad y confianza. En ese sentido, la gobernanza, la protección de datos y la transparencia se han convertido en factores determinantes para aprovechar el potencial de esta tecnología sin comprometer la confianza de usuarios, colaboradores y clientes.
De acuerdo con Christian Sierra, gerente de Seguridad de la Información de Compensar: “Esta herramienta interviene en procesos como la atención en salud, la educación, la gestión del talento y el acceso a servicios. Por eso, es importante comprender que, cuando una tecnología de este tipo empieza a influir en decisiones que impactan directamente la vida de las personas, el uso ético deja de ser una buena práctica para convertirse en una responsabilidad ineludible para cualquier organización”, aseguró.
Precisamente, para el especialista, el desarrollo y adopción de la IA deben estar acompañados de medidas que garanticen su aplicación ética y responsable. En ese sentido, la supervisión humana cobra especial relevancia en decisiones de alto impacto, donde la herramienta debe actuar como un apoyo y no como un sustituto del criterio profesional. Asimismo, incorporar principios de privacidad y seguridad desde el diseño, mediante la clasificación de la información, mecanismos de protección de datos y controles de acceso, permite establecer las bases para una implementación adecuada de esta tecnología.
De lo contrario, según Sierra, cuando las condiciones mencionadas no están presentes, comienzan a materializarse riesgos éticos como la fuga de información confidencial, al utilizar herramientas públicas de IA; la reproducción de sesgos en decisiones automatizadas, la creciente dependencia de proveedores tecnológicos y el fortalecimiento de amenazas como los deepfakes, el phishing personalizado y la ingeniería social.
¿Cómo integrar la IA de forma ética, segura y responsable en las empresas?
Comprender el verdadero valor de la inteligencia artificial implica gestionarla con criterio, controles adecuados y una visión centrada en las personas. Desde su experiencia en la adopción de esta tecnología, Compensar comparte algunas recomendaciones y buenas prácticas que pueden servir de referencia para las organizaciones que buscan aprovechar su potencial de forma confiable, ética y transparente:
- Crear un comité de gobierno multidisciplinario: la iniciativa no debe recaer únicamente en el área de tecnología. Se requiere un equipo que integre diversas disciplinas como seguridad, legal, recursos humanos, riesgos y protección de datos para aprobar y monitorear cada caso de uso.
- Implementar la IA de forma gradual: evaluar el impacto de cada solución y realizar pruebas piloto antes de ponerla en marcha permite medir riesgos, especialmente cuando se procesan datos sensibles. En ese proceso, Compensar analiza aspectos como la privacidad, la seguridad y la viabilidad de cada iniciativa, priorizando casos donde la inteligencia artificial genera valor para el usuario, como el agendamiento de citas y los asistentes virtuales.
- Promover la formación continua y el uso crítico de la IA: capacitar de manera permanente a los colaboradores sobre los alcances, riesgos y limitaciones de esta tecnología es clave para una adopción responsable. Asimismo, los resultados generados por IA deben ser revisados y validados por una persona antes de ser utilizados, especialmente cuando involucran información sensible o decisiones relevantes.
- Prevenir sesgos y garantizar un uso alineado con los derechos de las personas: las organizaciones deben promover un uso de la IA basado en principios de equidad, inclusión y respeto por los derechos de las personas. Esto implica evitar instrucciones que puedan derivar en contenidos discriminatorios o engañosos, revisar periódicamente los resultados generados por los modelos y establecer mecanismos que permitan identificar posibles sesgos antes de que impacten a usuarios, colaboradores o clientes.
- Mantener una revisión constante de riesgos y promover la transparencia: actualizar los controles, fortalecer la calidad de los datos y promover la autorregulación permite responder a la rápida evolución de esta tecnología. Además, es pertinente asegurarse de que los colaboradores y usuarios sepan cuándo están interactuando con IA y con qué propósito se utiliza.
“Uno de los principales aprendizajes de este proceso es que la velocidad con la que avanza la IA exige que las organizaciones actúen con responsabilidad desde ahora. Esperar a que la regulación marque el camino no es suficiente. Las empresas deben establecer principios para su adopción basados en la legalidad, la no discriminación y la trazabilidad. La incorporación responsable de esta tecnología no debe entenderse como un freno a la innovación, sino como una condición para impulsarla con mayor confianza”, concluyó Christian Sierra, gerente de Seguridad de la Información de Compensar.
