Sin entrenamiento mental “la máquina va a ser cada vez mejor y la persona va cada vez más estúpida”

La compañía Meta ha llegado a un acuerdo económico de indemnización de 18.000 millones de dólares para esquivar una de las mayores causas judiciales de Estados Unidos, después de que unos 29 fiscales estatales presentaran una demanda a la empresa liderada por Mark Zuckerberg por violar las leyes de protección a menores de su edad en sus plataformas de redes sociales, tanto Facebook como Instagram. Se la acusaba, entre otras cosas, de recopilar los datos de menores sin consentimiento parental y de la falta de protección frente a determinados contenidos; y del diseño de una serie de interfaces altamente adictivos para potenciar el tiempo de permanencia de los usuarios, monetizando los riesgos para la salud mental que este sistema supone. Unas prácticas que consideran causa directa de los casos de ansiedad, depresión y de suicidio en adolescentes denunciados por padres de distintos puntos del país. Por todo ello reclamaban una indemnización superior a 1,4 billones de dólares (unos 1,2 billones de euros) y cambios en su forma de operar. Una cantidad que, si el grupo hubiera sido condenado, le habría llevado directamente a la bancarrota. Para evitar esto y ante el riesgo que tenía de no ganar el juicio, la compañía ha querido llegar a este acuerdo económico con el que se compromete a indemnizar con unos 18.000 millones de dólares a los 52 territorios de Estados Unidos a través de pagos de anuales durante una década. Pero también, -y esto es, quizá, lo más significativo- con un cambio en el diseño de los mecanismos que generan esos efectos de adicción en los menores. Entre otras, el establecimiento de límites automáticos de dos horas en el uso diario de las redes; el bloqueo del acceso entre las doce de la noche y las seis de la mañana; la desactivación de las notificaciones en el horario escolar, así como de aquellos algoritmos de recomendación que inducen al llamado “scroll infinito” atrapando la atención mediante estímulos continuos. En opinión de Richard Benjamins, experto en tecnología e inteligencia artificial, CEO de OdiseIA y miembro de los Seminarios Permanentes de la Fundación Pablo VI, este episodio supone un cambio importante en lo que tiene que ver con la responsabilidad del creador de estas aplicaciones, “no tanto por la cuantía económica -que es irrisoria para una empresa que solo en un trimestre factura más del doble de esa cantidad-; sino en lo que implica para un sector que hasta ahora no asumía ninguna responsabilidad sobre el contenido”. Sin embargo, muestra sus reservas sobre la efectividad real de esta medida, puesto que, tanto jóvenes como padres pueden engañar a la aplicación. Y ahí es donde, dice, hay que buscar el “equilibrio entre la regulación y la educación”.Es decir, entre la responsabilidad de un usuario que tiene que ser consciente de que delegar en las redes sociales, en la tecnología o en la inteligencia artificial todo el conocimiento de la realidad le convierte en esclavo, inmaduro y con poco criterio para conocer, entender y juzgar la realidad. En el caso de la inteligencia artificial, por ejemplo, en poco tiempo -tan solo 3 años- se ha generado un “impacto bestial” en jóvenes y adultos, que “han perdido capacidad de concentración, no tienen paciencia, no quieren leer libros y todo lo quieren gratis y muy rápido”. En el caso de las redes sociales, han tenido que pasar 15 años para que los efectos perniciosos de un determinado uso acabaran en los tribunales. Con la inteligencia artificial y sus aplicaciones, dice, “hay también señales que nos dicen que hay que cambiar cosas y que todavía estamos a tiempo, pero la realidad es que esto va mucho más rápido que antes”. Para paliar estos efectos, desde ODISEIA -el Observatorio del Impacto Social y Ético de la Inteligencia Artificial- están empezando a diseñar proyectos pioneros, como son los “gimnasios mentales”, diseñados paraejercitar la capacidad cognitiva y “poder usar IA generativa en la vida y en el trabajo de manera segura, no sin un efecto negativo”.Haciendo el paralelismo con el cuidado del cuerpo, Benjamins, que es también miembro del European Parliament Artificial Intelligence Observatory, explica cómo “del mismomodo que éste sufre por llevar una vida sedentaria, nuestro cerebro puede tener consecuencias si dejamos de ejercitarlopara cuestiones difíciles, como resumir, sintetizar o pensar”. Sin ese ejercicio mental, “la máquina va a ser cada vez mejor y la persona va cada vez más estúpida”. Como dice el papa en Magnífica humanitas, la tecnología puede enseñar, conectar, acompañar y ampliar nuestras posibilidades. Pero, sin una buena gobernanza sobre su uso que involucre a todos los sectores -regulatorio, institucional, empresarial o educativo-, puede convertirnos en seres menos libres, más esclavos y sometidos a monopolios de control y poder, que pongan en riesgo la paz y la democracia. En esta reflexión y compromiso trabaja en los últimos años la Fundación Pablo VI que, en este curso, abrirá un nuevo Seminario sobre cómo las tecnologías transforman las instituciones, prácticas sociales, profesiones y estilos de vida. Todo ello, sobre la base de la Doctrina Social de la Iglesia, un camino de discernimiento comunitario que busca responder a las preguntas de la historia desde la verdad eterna del Evangelio (MH, 47)   La entrada Sin entrenamiento mental “la máquina va a ser cada vez mejor y la persona va cada vez más estúpida” se publicó primero en Fundación Pablo VI.