Inteligencia Artificial: nuevas oportunidades y grandes desafíos para la infancia y adolescencia

La irrupción de tecnologías de avanzada en la vida diaria presenta ventajas, pero también desafíos y riesgos. El Dr. Lionel Brossi, investigador adjunto del Núcleo Milenio Imhay estudia el impacto de estas herramientas en la infancia y la adolescencia, las brechas de acceso y cómo encontrar un equilibrio de manera ética.

«Lo que realmente necesitamos es ayudar a las personas a usar de manera provechosa y ética las tecnologías, comprender los desafíos y enseñarles cómo gestionar los riesgos», indica el Dr. Lionel Brossi.

El periodista, académico de la Facultad de Comunicación e Imagen de la Universidad de Chile e investigador adjunto de Imhay, Dr. Lionel Brossi, es un estudioso de las tecnologías digitales y de su impacto en la comunidad. Y justamente, uno de los temas controvertidos que han surgido en el último tiempo dice relación con el nivel de desarrollo que están alcanzado las nuevas tecnologías y cómo usarlas sin generar daño.

La Inteligencia Artificial Generativa es un ejemplo, destaca de entrada el Dr. Brossi. ¿Qué implicancias tiene un chatbot como ChatGPT, que posee un poder retórico tan convincente que puede influir en mayor medida en niños y adolescentes, adaptando su discurso, tono de voz e incluso su género para lograr mayor persuasión?, pregunta el investigador. 

“El poder de persuasión que tienen estos sistemas es sorprendente y plantea importantes interrogantes. Son tecnologías que se lanzan con grandes expectativas, pero cuyos efectos a largo plazo todavía estamos comprendiendo. Un ejemplo relevante es su potencial impacto en la salud mental: si un adolescente con ideación suicida consulta a un sistema de inteligencia artificial generativa, ¿está este lo suficientemente preparado para ofrecer una respuesta adecuada, brindar apoyo y derivarlo a un profesional? Con cada avance tecnológico surgen nuevas oportunidades, pero también retos que debemos abordar con cuidado.”.

De hecho, en una de sus últimas investigaciones, donde colaboró con profesionales de la Universidad de Waseda, Japón, Lionel Brossi exploró la opinión y perspectiva que una treintena de adolescentes chilenos tenían sobre cómo van a funcionar los robots y la IA en el año 2050. Y si bien los entrevistados creen que la tecnología puede ayudar a resolver problemas como las catástrofes climáticas, sorprendentemente lo que más les importaba era otro aspecto.

“Los niños y niñas chilenos expresaron gran preocupación por la ética del cuidado, particularmente en profesiones como la enfermería, la psicología e incluso la docencia. Señalaron que la empatía y la comunicación humana, esenciales en estas áreas, podrían perderse si son mediadas por robots o tecnología. Este fue un aspecto destacado en comparación con otros países participantes en la investigación.”.

Inteligencia Artificial y Derechos de NNA

Gracias a un postdoctorado que realizó en Harvard en 2017, Lionel Brossi se acercó al campo de la Inteligencia Artificial y la Ética, específicamente IA e inclusión social, y desde ese entonces a desarrollado investigaciones, asesorías y formación relacionada al tema.

De hecho, al regresar al país creó el Núcleo de Investigación en Inteligencia Artificial y Sociedad en la Facultad de Comunicación e Imagen de la U. de Chile, junto a la profesora Ana María Castillo, donde desarrollan investigación e intervenciones junto a un consorcio de organizaciones internacionales. En este contexto, el Dr. Brossi participó, por encargo del gobierno, en unas consultas que se hicieron con niños y niñas a lo largo de todo Chile como insumo para la Estrategia de IA que se busca implementar en el país. También prestó asesoría para elaborar el marco ético de IA en Colombia, donde pusieron especial foco en un principio dedicado a los derechos de niños, niñas y adolescentes en relación a Inteligencia Artificial y las tecnologías.

“Podemos hablar de derechos humanos en términos generales, pero resulta que los desafíos de niños y niñas son otros. Actualmente, la Inteligencia Artificial Generativa plantea un desafío crítico en términos de seguridad infantil y adolescente. Un ejemplo alarmante es la creación de imágenes de abuso generadas por IA, lo cual tiene serias implicancias en el mundo real. Este tipo de contenido está proliferando en internet, lo que no solo es profundamente perjudicial, sino que además facilita su uso por parte de depredadores. Esto evidencia cómo constantemente emergen nuevos retos que requieren una atención y respuesta urgente», explica el investigador.

Gracias a su experiencia en comunicación y redes digitales, Lionel Brossi fue invitado a colaborar con el Núcleo Milenio Imhay. Su primer proyecto fue un programa para alfabetizar, informar y asesorar a adolescentes en temas de depresión. Luego participó en el diseño de la campaña #VamosJuntxs para la prevención del suicidio, que logró incrementar en 400% los contactos al chat de la Fundación Todo Mejora, muy por encima de los resultados de otras plataformas de ayuda telefónica.

“Esto está relacionado con los hábitos de los jóvenes de hoy, que prefieren en algunos casos chatear en lugar de hacer llamadas telefónicas. Además, cuando se trata de temas delicados, como la sexualidad o dudas personales, suelen sentirse más cómodos consultando por chat en lugar de hacerlo por teléfono, ya que escribir les permite superar la vergüenza que les genera hablar directamente.”.

Alfabetización y acompañamiento

En 2023 el Dr. Brossi participó en la Comisión contra la Desinformación que se estableció en Chile, donde aportó con su experiencia en el tema de Inteligencia Artificial Generativa. En la instancia se discutió cómo ésta puede incidir en escalar la desinformación, y también -de manera virtuosa- en cómo las tecnologías pueden ayudar a detectarla.

El investigador también formó parte de la Misión de Expertos en Inteligencia Artificial convocada por el anterior presidente de Colombia para diseñar una hoja de ruta para su país. Allí, Lionel Brossi estuvo a cargo del área de Educación y Alfabetización en IA.

Éste es justamente uno de los campos donde se perciben las mayores falencias al aplicar políticas públicas en herramientas tecnológicas de uso masivo, explica el investigador de Imhay.

“Muchos gobiernos, al implementar programas de ciudadanía o alfabetización digital, se han enfocado principalmente en aspectos técnicos. Hace algunos años, por ejemplo, las políticas se centraban en enseñar ofimática, como el uso de Word, Excel o PowerPoint. Si bien estas habilidades son útiles, no constituyen en sí mismas alfabetización digital. La verdadera alfabetización digital implica dotar a las personas de herramientas no solo para utilizar la tecnología de manera productiva, sino también para abordarla de forma crítica. Esto significa ser conscientes de los riesgos, como por ejemplo el cyberbullying, de tener la capacidad de distinguir entre información veraz y desinformación, de contenidos generados por humanos y por  IA, así como comprender la importancia de la privacidad y la seguridad de los datos, entre otros elementos”.

En ese sentido, la penetración de las tecnologías digitales plantea desafíos concretos cuando se trata de niños/as, adolescentes y jóvenes. Su presencia cultural es de tal magnitud que ya forman parte del escenario doméstico, y es ineludible conectarse a las redes sociales y exponerse a sus contenidos.

“En el mundo que les tocará vivir, y que ya estamos empezando a ver, la Inteligencia Artificial será mucho más omnipresente y estará conectada en todos los ámbitos de la vida. Quienes no cuenten con una alfabetización adecuada para protegerse de estos sistemas y utilizarlos de manera productiva, estarán en clara desventaja, tanto a nivel social como en términos de oportunidades. Por eso, mi visión se basa en el uso responsable con acompañamiento, no en una prohibición estricta. A lo largo de la historia, las prohibiciones tecnológicas han demostrado ser ineficaces. Lo que realmente necesitamos es ayudar a las personas a usar de manera provechosa y ética las tecnologías, comprender los desafíos y enseñarles cómo gestionar los riesgos”, plantea el investigador de Imhay.