Juan Domingo Palermo

Son cosas de la edad, pensó la profesora de secundaria cuando notó que su alumna, antes participativa y ahora se encerraba en sí misma. Cambios de humor, miradas perdidas, notas que caían en picada. Hasta que un día la vio susurrando a su celular como si conversara con alguien invisible. ¿Qué haces con ese amigo virtual?, le preguntó sin juzgar. La adolescente la miró fijo y al instante rompió en llanto. Lo que parecía “una fase” era en realidad un refugio peligroso: una relación de dependencia con un chatbot de Inteligencia Artificial (IA) que llenaba vacíos que nadie más veía. Este caso no es raro. Hoy, muchos niños y adolescentes cargan mochilas invisibles llenas de presiones digitales: acoso en línea, soledad camuflada entre memes, deudas de juego, ansiedad de vivir en un mundo donde los likes miden el valor personal, entre otras más. Los riesgos psicosociales en los menores no gritan; susurran. Y su impacto puede ser profundo ¿Cómo detectar si están en riesgos o solo aprendiendo o estudiando? Y ¿Cómo darse cuenta y prevenir? Este artículo explora los riesgos que enfrentan esos chicos al “autoexponerse” enentornos virtuales donde la IA juega un papel crucial… mientras van creando una huella digital[1].  Continuaremos en la próxima entrega, con de análisis de la prevención.

La tecnología es como un parque de diversiones: tiene juegos maravillosos, pero también rincones oscuros donde los menores pueden perderse. La inteligencia artificial, en particular, ha cambiado las reglas del juego. Ya no se trata solo de «no hablar con extraños», sino de entender que algunos «amigos» son algoritmos diseñados para enganchar y a veces patológicamente. En el laberinto digital ¿por qué aumenta la vulnerabilidad de los menores? Por:

• Acceso temprano, sin restricciones horarias y sin filtros adecuados.
• Desinformación sobre IA, dificultando una navegación segura.
• Presión del grupo o amigo virtual, difícil de manejar por un menor.

En el laberinto digital ¿Dónde están los peligros?

1. Erosión de la privacidad y vulnerabilidad. Según Healthy Children (Academia Americana de Pediatría, AAP), uno de los principales riesgos es la pérdida de privacidad. Las plataformas de IA recopilan enormes cantidades de datos sobre los usuarios, a menudo sin el conocimiento pleno de menores y adultos. Es difícil mantenerse al día con los informes sobre juegos y dispositivos que podrían violar la privacidad de la familia. Los estudios indican que los niños pequeños tienden a compartir información personal con asistentes virtuales, revelando detalles íntimos que podrían ser almacenados y potencialmente utilizados de manera inapropiada. Esta vulnerabilidad se agrava cuando los menores no comprenden completamente el alcance y permanencia de lo que comparten.

2. Distorsión de la identidad y el autoconcepto. La interacción constante con plataformas de IA puede afectar el desarrollo de la identidad de niños y adolescentes. Al personalizar contenidos según sus preferencias, la IA puede crear «burbujas informativas» que limitan la exposición a ideas diversas, cruciales para el desarrollo de un pensamiento crítico y una identidad equilibrada. En una encuesta realizada por UNICEF se advierte que …uno de cada 10 [menores] consultados afirma aceptar todas las solicitudes de amistad en línea y tres de cada 10 aceptó encontrarse con personas que conocieron en el ámbito digital. De ellos, un 3% se vio con una persona adulta. Los sistemas de IA pueden ofrecer recomendaciones sobre a quién seguir en las redes sociales o qué canciones escuchar. Sin embargo, estas predicciones pueden generar “filtros burbuja” que limitan la información que puedes encontrar.

3. Dependencia emocional hacia entidades virtuales. Un fenómeno preocupante es la creciente dependencia emocional que algunos menores desarrollan hacia asistentes virtuales y “amigos” de IA. Según La organización Common Sense son chatbots impulsados por inteligencia artificial generativa que simulan conversaciones humanas, presentando respuestas en tiempo real de manera muy realista en casos provocando alguna dependencia que aísla al menor de actividades habituales o interés por las interacciones con amigos, aunque sea en las redes, manifestando un apego emocional desmesurado hacia el “amigo virtual”. Esta dependencia puede obstaculizar el desarrollo de habilidades sociales fundamentales que solo se adquieren mediante la interacción humana directa.

4. Exposición a contenido inapropiado y manipulación. Los sistemas de IA no siempre discriminan adecuadamente el contenido que generan o recomiendan, lo que puede exponer a los menores a material inapropiado. Además, según  Fernández Montero de Wired  estudios de investigación dan cuenta de que las funciones avanzadas de IA podrían aumentar los casos adolescentes de depresión, ansiedad y otros problemas de salud mental. La manipulación de imágenes y videos mediante IA generativa representa otro riesgo significativo. La creación de deepfakes[2] y la manipulación de contenido pueden ser utilizadas para el acoso, la extorsión o el engaño, poniendo en peligro tanto la reputación como el bienestar emocional de los menores.

5. Confusión entre realidad y virtualidad. Los niños pequeños tienden a atribuir características humanas a entidades inanimadas entre ellas, las tecnológicas. Según  Healthy Children (AAP) algunos estudios demuestran que los niños de entre 3 y 6 años creían que los altavoces inteligentes tenían pensamientos, sentimientos y habilidades sociales. Esta confusión puede dificultar el desarrollo de una comprensión adecuada sobre las diferencias entre interacciones humanas genuinas y simulaciones tecnológicas.

6. Deterioro de habilidades cognitivas y sociales. La dependencia excesiva de asistentes virtuales para tareas cotidianas y académicas puede interferir con el desarrollo de habilidades cognitivas esenciales. Como señala un estudio de la Academia Nacional de Medicina de España cuando el menor abusa de la IA se pueden debilitar funciones ejecutivas como la planificación, la memoria de trabajo, el pensamiento crítico y la resolución de problemas. Temas que impactan en el equilibrio emocional. En el ámbito social, la sustitución de interacciones humanas por diálogos con IA puede limitar el aprendizaje de habilidades como la empatía, la negociación y la interpretación de señales no verbales, fundamentales para un desarrollo social saludable.

En conclusión, el objetivo no es satanizar la tecnología, sino aprender a surfear sus olas mediante una “autoexposición” consciente, limitada y observada por adultos para no ahogarse. En la próxima entrega, se estudiará: ¿cómo tejer escudos protectores? mediante la alfabetización digital, diálogos que no suenen a interrogatorio, y el arte de equilibrar lo virtual con lo real. Porque, parafraseando al poeta Khalil Gibran, Los hijos son flechas lanzadas al futuro, nuestro trabajo no es detenerlas, sino asegurarnos de que vuelen con brújulas bien calibradas.

[1] La huella digital se va marcando cada vez que se ingresan datos personales, imágenes y toda la actividad que se realiza en línea que queda disponibles. Aunque tiene beneficios como la creación de un perfil profesional a la hora de buscar trabajo, tanto como la participación en comunidades virtuales, pero sobre todo para los menores tiene grandes riesgos como la de ser manipulados por perfiles falsos creados con IA, el robo de identidad, entre otros.

[2] Deepfakes: traducido al español como “ultra falsos”, son imágenes o audios editados o generados utilizando herramientas de IA que pueden mostrar personas reales o inexistentes.

Autora:

Ana María Lamas. Dra. En Filosofía y Educación (Madrid)

Posdoctoral en Educación a Distancia (México).

Posgrado Especializado en Periodismo y Ciencias de la Información (Santander).

Lic. en Ciencias de la Educación (UBA).

Premio “Excelencia Educativa” por Cámara de Comercio Mercosur.

Actualmente es:

Directora del Diplomado en Inteligencia Artificial en SSyO en IAS Instituto Argentino de Seguridad

Evaluadora concursada del Programa de Internacionalización de la Educación Superior Y Cooperación Internacional

Conferencista Internacional

Publica  papers, libros, artículos en revistas académicas y de divulgación científica.

Directora de proyectos de investigación en organizaciones intermedias y alumnos de posgrado.  

Columnista en radios y en la newsletter OdT.

Cargos anteriores

Fue Directora de la Lic. en Periodismo de Universidad Maimónides, docente de UBA y otras universidades argentinas y extranjeras en grado y posgrado.

Contenidista en el Programa Erasmus Mundus de la Unión Europea para la educación a distancia.  

Fue fundadora y madrina de FM Peregrina. Subdirectora de Educación de la Municipalidad de General Villegas.

dra.alamas@gmail.com

LinkedIn: Ana Lamas