¿En tu entorno hay niños que usen IA?
En Ginebra, durante el primer Diálogo Global sobre Gobernanza de la Inteligencia Artificial de Naciones Unidas, António Guterres, secretario general de la ONU, lanzó una frase poderosa: si no dejamos que un medicamento llegue a un niño sin antes pasar por pruebas, y si revisamos un juguete antes de ponerlo en sus manos, ¿por qué aceptamos que la inteligencia artificial entre en su vida sin una evaluación equivalente?
La comparación parece simple. No lo es.
Un medicamento puede alterar el cuerpo. Un juguete puede asfixiar, intoxicar, cortar. Por eso exigimos pruebas, normas, advertencias, responsabilidad. No basta con poner una etiqueta: “Úsese bajo supervisión de los padres”.
Pero un chatbot ya entra en la habitación de un niño. En su tarea. En sus dudas. En su soledad. En las preguntas que no se atreve a hacerle a nadie. En sus miedos. En la imagen de sí mismo.
Y el chatbot entró a esa habitación antes de que la sociedad se preguntara con suficiente seriedad si era correcto que entrara.
Ese es el filo de la declaración de Guterres. No está diciendo que la IA deba prohibirse para los menores. La IA puede ayudar a aprender, crear, acompañar procesos educativos, asistir a niños con discapacidad, abrir acceso donde escasean los maestros y los materiales de aprendizaje.
Pero entre el potencial educativo y el deber de protección hay una zona incómoda: los incentivos de las empresas no siempre coinciden con los derechos de los niños.
Hasta ahora, buena parte de la economía digital ha funcionado lanzando primero, corrigiendo después; crecer primero, moderar después; captar usuarios primero, estudiar daños después; pedir disculpas cuando el escándalo ya ocurrió.
Con adultos, ese modelo ya es problemático. Pero con niños, es preocupante.
Porque la infancia no es solamente una categoría de mercado. Es una etapa de formación del juicio, la identidad, la autoestima, el deseo, la confianza y los límites. Un niño no usa un sistema conversacional como usa una calculadora y eso se debe a una razón simple, pero profunda: puede hablarle como se habla con alguien.
Ahí aparece el error de categoría.
Seguimos llamándola “herramienta” desde la perspectiva de la productividad adulta; pero para un menor, está más cerca de un tutor, amigo, espejo, confidente, autoridad y archivo íntimo. La máquina no entiende en sentido humano. Pero para un niño la diferencia entre comprensión real y simulación convincente puede no ser evidente.
De hecho, no importa si la máquina siente. Lo que importa es si el niño siente que la máquina lo entiende.
Una IA conversacional puede parecer paciente, comprensiva, personalizada. Puede recordar gustos, inseguridades, secretos. Puede decir las palabras exactas que producen apego.
Para un adulto eso ya puede ser persuasivo. Para un menor, que apenas está aprendiendo la diferencia entre un consejo y un intento de manipulación, el riesgo es mayor.
Por eso la discusión de la pertinencia de la IA en la infancia no puede quedarse en “contenido inapropiado”. Esa fue la lógica del primer internet: filtremos pornografía, violencia, insultos, estafas. Pero la IA generativa introduce algo que no habíamos considerado: relación.
No sólo muestra cosas: contesta. No sólo recomienda: se adapta. No sólo registra: aprende.
Y lo que puede aprender de un niño no es trivial. Un menor puede decirle a un chatbot dónde vive, qué le da miedo, si sufre bullying, si sus padres pelean, si odia su cuerpo, si se siente solo, si quiere desaparecer… si tiene un secreto.
Cuando la experiencia humana se convierte en materia prima, la intimidad infantil puede transformarse en dato.
La ONU intenta mover el estándar de las tecnológicas desde el “confía en nosotros” hacia “demuéstralo primero”. Guterres propuso un compromiso de seguridad infantil para sistemas de IA accesibles a menores: pruebas específicas antes del despliegue, supervisión independiente, tolerancia cero al abuso sexual infantil generado o facilitado por IA y conexión con apoyo humano cuando aparezcan señales de crisis.
La palabra importante es “antes”.
No después del suicidio.
No después del deepfake.
No después del chantaje.
No después de la dependencia emocional.
No después de que una empresa publique un comunicado diciendo que lamenta profundamente lo ocurrido.
Antes.
Esa es la palabra.
Con los niños, no debería probarse el daño después. Debería probarse la seguridad antes.
Pero conviene no engañarnos. “Probar que es seguro” no puede significar seguridad absoluta. Eso no existe. Una IA no se certifica como se certifica un juguete. No tiene una sola forma, un solo borde, una sola pieza desmontable. Cambia con el contexto, con el usuario, con la memoria, con el idioma, con la actualización, con el modelo, con el diseño de la conversación.
Entonces el estándar debe ser más exigente y más realista al mismo tiempo.
No se trata de prometer que nunca fallará. Se trata de demostrar que fue diseñada, evaluada, auditada y limitada pensando específicamente en la interacción con menores. Que fue probada contra escenarios de autolesión. Contra grooming. Contra explotación sexual. Contra manipulación emocional. Contra respuestas que sustituyan vínculos humanos. Contra publicidad hiperpersonalizada basada en inseguridades infantiles. Contra la recolección innecesaria de datos.
Y, sobre todo, sí se trata de asegurarse de que puede detenerse.
Porque una tecnología que no sabe detenerse frente a un niño no es innovación. Es irresponsabilidad con buena interfaz.
El punto más duro está en el abuso sexual infantil. UNICEF ya ha advertido que las imágenes sexualizadas de menores creadas o manipuladas con IA deben tratarse como material de abuso sexual infantil. La organización estimó, con ECPAT e INTERPOL, que al menos 1.2 millones de niños en 10 países dijeron que sus imágenes fueron manipuladas en deepfakes explícitos durante el último año (imagen superior).
Aunque la imagen sea sintética, el daño no lo es. La humillación es real. El chantaje es real. La revictimización es real. La circulación incontrolable es real. La sensación de que el propio cuerpo ha sido confiscado por desconocidos es real.
La palabra “virtual” ha servido demasiadas veces para anestesiar daños reales.
Pero, siendo objetivos, el remedio también puede ser peligroso.
Una mala regulación infantil de la IA puede convertirse en una maquinaria de vigilancia también peligrosa. Si para proteger a los menores se exige verificar edad con documentos, biometría o identificación permanente, podríamos crear nuevas bases de datos sensibles. Si sólo las grandes empresas pueden pagar auditorías y certificaciones, la protección podría terminar fortaleciendo a los gigantes. Si los Gobiernos usan la infancia como argumento para controlar el acceso a información, la seguridad puede volverse censura.
No basta con decir “regulemos”. Hay que preguntar quién regula, con qué poder, con qué límites, con qué transparencia y con qué mecanismos de reparación.
La protección de la infancia no debe convertirse en una excusa para vigilar la infancia.
Tampoco debe convertirse en una forma elegante de excluir a los niños de tecnologías útiles. Un niño con dificultades de aprendizaje puede beneficiarse de un tutor paciente. Un adolescente que vive en una zona sin buenos recursos educativos puede encontrar explicaciones, ejercicios, traducciones, orientación. Un menor con discapacidad puede ganar autonomía mediante interfaces de voz, lectura o apoyo personalizado.
España parece haber entendido que la infancia puede ser el primer terreno de consenso internacional. En Ginebra impulsó una coalición para proteger los derechos de niños y niñas en la era de la IA, junto con una veintena de países y organizaciones como UNICEF y UNESCO. Estados Unidos y China no aparecen en esa fotografía, y ese vacío dice mucho: los grandes polos de desarrollo tecnológico aún no se han sumado a este intento de fijar límites comunes.
Regular toda la IA es políticamente difícil. Regularla cuando toca niños parece más viable, porque nadie quiere aparecer defendiendo la experimentación sin controles con menores.
Pero esa aparente facilidad también engaña.
Aunque los niños son el argumento perfecto para producir consenso, también pueden ser el pretexto perfecto para producir control.
Por eso el debate exige analizar más fino; no debería primar el reflejo prohibicionista ni la confianza ingenua en las empresas. No basta con pedir innovación responsable, esa frase gastada que ya cabe en cualquier presentación corporativa. Hay que exigir responsabilidades verificables.
Auditorías. Reportes de incidentes. Límites de memoria. Privacidad por diseño. Evaluaciones por edad. Prohibición de explotación sexual sintética. Rutas de ayuda humana ante crisis. Sanciones. Reparación. Capacidad real de retirar funciones peligrosas.
No discursos.
Pruebas.
La infancia siempre revela lo que una sociedad está dispuesta a tolerar en nombre del progreso. Cada época tiene su experimento. Hubo fábricas que usaron cuerpos infantiles. Hubo industrias que vendieron azúcar, tabaco, pantallas, apuestas o ansiedad bajo envoltorios de entretenimiento. Ahora la cuestión se desplaza a una tecnología más íntima.
Una máquina que habla.
Una máquina que recuerda.
Una máquina que aprende a parecernos cercana.
Guterres no mencionó medicamentos y juguetes para hacer una metáfora simpática. Lo hizo porque esos objetos muestran una contradicción: somos capaces de exigir controles estrictos a lo que toca la piel de un niño, pero hemos sido mucho más permisivos con lo que toca su atención, su intimidad, su deseo y su imaginación.
¿Aceptaremos que la infancia sea el laboratorio de sistemas que ni sus propios creadores terminan de comprender?
Tendríamos que atreverernos a imponer una regla elemental, casi antigua, casi obvia:
Antes de entrar en la vida de un niño, la máquina debe demostrar que sabe cuidarlo, limitarse y, cuando sea necesario, callar, antes que responder algo delicado.
Publicar un comentario