En el marco del Día Internacional del Internet Seguro, Microsoft presentó los resultados de su más reciente Encuesta Global sobre Seguridad en Línea, que reveló que los principales riesgos en la web para los colombianos son la desinformación (59%), la visualización de contenidos violentos (47%) y la exposición a discursos de odio (39%).Asimismo, se identificó un nuevo peligro: la creación de deepfakes pornográficos (20%), la segunda cifra más alta entre todos los países encuestados.
El estudio, realizado en 15 países con la participación de 15.000 personas, encuestó a adolescentes de 13 a 17 años y a adultos sobre sus experiencias en línea, los principales peligros en internet y las medidas de protección que implementan. Los resultados muestran una ligera mejora en el panorama de riesgos globales: el 66% de los encuestados indicó haber experimentado al menos un riesgo en línea, una disminución de un punto porcentual respecto al año anterior. Sin embargo, en Colombia, esta cifra asciende al 78%, reflejando una mayor exposición a amenazas digitales.
La investigación revela que los padres son conscientes de los riesgos que enfrentan los adolescentes en internet y mantienen una comprensión sólida sobre los desafíos digitales que afectan a sus hijos, en línea con años anteriores. El 78% de los padres en Colombia considera que su hijo adolescente está expuesto a algún riesgo en la web, una cifra superior al promedio global del 63%.
Frente a estos riesgos, el comportamiento de los adolescentes suele ser mayormente reactivo, optando por medidas como el bloqueo o silenciamiento de usuarios. Según la encuesta, el 84% de los jóvenes decide bloquear, eliminar contactos o cerrar sus cuentas cuando se enfrenta a situaciones peligrosas. Sin embargo, también buscan apoyo: el 66% prefiere hablar con alguien de confianza, mientras que un 34% opta por reportar el incidente a las autoridades correspondientes
Adopción y preocupaciones sobre la IA generativa
Los hallazgos revelan que, aunque el uso de la inteligencia artificial ha aumentado a nivel global, también han crecido las preocupaciones en torno a esta tecnología. En Colombia, el 32% de las personas ha utilizado IA en los últimos tres meses, un aumento del 9% respecto al año pasado. Los Millennials (25-44 años) son el grupo que más emplea esta herramienta, con un 55% de adopción.
Según la encuesta, las aplicaciones de la IA que generan más entusiasmo entre los colombianos incluyen las herramientas de traducción (51%), la capacidad de responder preguntas (47%), el aumento de la eficiencia en el trabajo (42%) y la asistencia a estudiantes con tareas escolares (34%). Sin embargo, el 82% de los colombianos expresa preocupación por el uso indebido de la IA generativa. Entre las principales inquietudes destacan el riesgo de estafas (69%), el abuso en línea y sexual (68%) y la proliferación de deepfakes (67%).
Estas preocupaciones se ven reflejadas en la dificultad que muchas personas tienen para identificar contenido creado con IA, lo que puede aumentar los riesgos asociados a la difusión de material abusivo. A través del cuestionario «Real or Not» de Microsoft, se evaluó la confianza de los encuestados en la detección de deepfakes antes y después de analizar una serie de imágenes. Los resultados mostraron que el 73% de los participantes considera difícil identificar imágenes generadas por IA, y solo el 38% logró clasificarlas correctamente.
Microsoft presenta nuevos recursos para potenciar el uso responsable de la IA
Microsoft trabaja para garantizar que la inteligencia artificial se utilice de manera ética y segura. Sus esfuerzos en IA responsable buscan asegurar que esta tecnología beneficie a la humanidad, mientras que sus iniciativas en confianza y seguridad están diseñadas para proteger a los usuarios. No obstante, la compañía reconoce que la IA también puede ser objeto de abuso, en particular en la creación de contenido dañino.
Por esta razón, ha adoptado un enfoque integral para abordar este desafío, el cual incluye la concienciación pública y la educación sobre el uso responsable de la IA. La investigación de este año subraya la necesidad de fortalecer la alfabetización mediática y proporcionar orientación sobre los riesgos asociados a la IA.
Como parte de estos esfuerzos, y en seguimiento al lanzamiento del Family Safety Toolkit el año pasado, Microsoft ha anunciado dos nuevos recursos:
- Asociación con Childnet: Microsoft ha establecido una alianza con Childnet, una organización del Reino Unido dedicada a hacer de Internet un entorno más seguro para los niños. En conjunto, ambas entidades desarrollarán materiales educativos para prevenir el uso indebido de la IA, como la creación de deepfakes. Estos recursos estarán disponibles para escuelas y familias, proporcionando información clave sobre cómo proteger a los niños de los riesgos en línea. Esta colaboración forma parte de un enfoque integral para abordar los riesgos asociados a las imágenes íntimas no consensuadas (NCII, por sus siglas en inglés), con especial énfasis en la educación para adolescentes.
- Minecraft «Dig Deeper»: Microsoft ha anunciado el lanzamiento de «CyberSafe AI: Dig Deeper«, un nuevo juego educativo disponible en Minecraft y Minecraft Education, diseñado para promover el uso responsable de la inteligencia artificial. Este recurso busca atraer a las mentes jóvenes y fomentar la curiosidad mientras enseña lecciones clave sobre la IA en un entorno de juego seguro y controlado. A través de emocionantes aventuras, los jugadores resolverán rompecabezas y desafíos que destacan las consideraciones éticas de la IA, preparándolos para enfrentar escenarios de seguridad digital tanto en el hogar como en la escuela. Aunque el juego no expone directamente a los jugadores a la tecnología de IA generativa, sí presenta situaciones que simulan su uso, permitiéndoles comprender cómo interactuar con esta tecnología de manera segura y responsable.
«Dig Deeper» es la cuarta entrega de la serie de mundos CyberSafe de Minecraft, desarrollada en colaboración con Xbox Family Safety. Hasta la fecha, estos mundos educativos han sido descargados más de 80 millones de veces en todo el mundo.
- Nueva Guía de IA para personas mayores: Microsoft ha establecido una alianza con Older Adults Technology Services (OATS) de AARP, una organización que, a través de sus programas y socios, brinda formación gratuita en tecnología e inteligencia artificial a más de 500.000 adultos mayores cada año. Como parte de esta colaboración, OATS ha publicado la Guía de Inteligencia Artificial para Personas Mayores, un recurso diseñado para ayudar a los mayores de 50 años a comprender tanto los beneficios como los riesgos de la IA, al tiempo que ofrece herramientas para fortalecer su seguridad digital.
El enfoque de Microsoft para promover la seguridad en línea ha estado históricamente basado en la privacidad y la libertad de expresión. La empresa aboga por la adopción de normas de seguridad proporcionadas y ajustadas a los diferentes niveles de riesgo, al tiempo que advierte sobre medidas excesivamente restrictivas que puedan afectar la privacidad o la libertad de expresión.
Microsoft continuará trabajando en estrecha colaboración con legisladores y reguladores a nivel global para abordar los principales riesgos, especialmente aquellos que afectan a los niños, impulsando la modernización de las leyes para garantizar una mayor protección frente a los contenidos abusivos generados por IA, en apoyo a un entorno digital más seguro para todos.
