Inteligencia artificial y deepfakes: nuevos riesgos para menores
Por Colombia Cibersegura. Actualizado el . 3 min de lectura.
La inteligencia artificial generativa crea textos, imágenes, voces y videos a partir de unas pocas instrucciones. Para niños, niñas y adolescentes trae riesgos nuevos: imágenes íntimas falsas, suplantación de voz, chatbots que dan malos consejos y exposición de datos personales.
¿Qué es un deepfake?
Un deepfake es una imagen, un audio o un video creado o alterado con inteligencia artificial para que una persona parezca decir o hacer algo que nunca dijo ni hizo. Basta una fotografía pública o unos segundos de voz para producir un resultado convincente.
¿Qué riesgos tiene la inteligencia artificial para niños y adolescentes?
Imágenes íntimas falsas
Existen aplicaciones que transforman una fotografía común en una imagen sexual falsa. Cuando la persona retratada es menor de edad, puede constituir violencia sexual digital, aunque la imagen sea inventada. Puede usarse para humillar, acosar o extorsionar, y su difusión produce el mismo daño que una imagen real.
Suplantación y estafas
Con fragmentos de voz o video, una persona puede hacerse pasar por un familiar, un amigo o un docente. Estas suplantaciones se usan para pedir dinero, obtener contraseñas o convencer a un menor de compartir información.
Chatbots y asistentes que no sustituyen a un adulto
Algunos adolescentes buscan en un chatbot consejos sobre temas personales, emocionales o de salud. Las respuestas pueden ser incorrectas, incompletas o inadecuadas para su edad. Un asistente de inteligencia artificial no reemplaza la orientación de la familia, el colegio o un profesional.
Privacidad y datos personales
Lo que se escribe o se sube a una herramienta de inteligencia artificial puede almacenarse y, en algunos casos, usarse para entrenar modelos. Subir fotografías de menores a estas aplicaciones los expone a usos que la familia no controla.
Información falsa y uso crítico
La inteligencia artificial puede presentar datos inventados con total seguridad. En las tareas escolares, el riesgo no es solo copiar: es aprender información errónea sin verificarla.
¿Cómo hablar del tema en casa y en el colegio?
- Explique qué es un deepfake con ejemplos y cómo reconocer señales de manipulación.
- Acuerde una palabra clave familiar para confirmar la identidad en llamadas o audios urgentes.
- Revise la edad mínima de cada herramienta y las opciones de privacidad.
- Evite subir fotografías de niños, niñas y adolescentes a aplicaciones de edición con inteligencia artificial.
- Enseñe a contrastar la información con fuentes confiables antes de usarla.
- Recuerde que crear o difundir imágenes falsas de otra persona sin su consentimiento causa daño real.
- Mantenga la confianza para que pidan ayuda si alguien usa su imagen.
¿Qué hacer si circula una imagen falsa de un menor?
La prioridad es proteger a la persona afectada y no culparla. No reenvíe ni descargue el contenido, ni siquiera para denunciarlo. Conserve datos no explícitos, como enlaces, nombres de usuario y fechas, use los mecanismos de reporte de la plataforma y acuda a las autoridades competentes. En Colombia, este tipo de contenido puede reportarse en Te Protejo y en el CAI Virtual de la Policía.
La inteligencia artificial también puede proteger
Usada con criterio, la inteligencia artificial ayuda a aprender, crear y resolver problemas. El objetivo no es prohibirla, sino formar a niños, niñas y adolescentes para que la usen de manera segura, crítica y responsable.
Artículos relacionados
Grooming y protección infantil
Grooming: cómo reconocer los riesgos y proteger a nuestros hijos en internet
Qué es el grooming, las señales de alerta en redes sociales y videojuegos, cómo prevenirlo en casa y en el colegio y qué hacer ante una situación sospechosa.
2 min de lectura
Seguridad infantil, videojuegos y redes sociales
Roblox, TikTok y videojuegos en línea: ¿cómo afectan a los niños y adolescentes?
Riesgos de Roblox, TikTok y los videojuegos en línea: contacto con desconocidos, estafas con Robux y retos virales. Señales de alerta y diez recomendaciones.
7 min de lectura
Privacidad y ciudadanía digital
Sexting y privacidad digital: educar sin juzgar
Qué es el sexting, por qué se pierde el control de una imagen, cómo hablar con adolescentes sin culpar y qué hacer si se difunde contenido íntimo.
2 min de lectura