La inteligencia artificial puede convertirse en una herramienta decisiva para afrontar desafíos en ámbitos como la salud, la educación, la ciencia o el cambio climático, pero su desarrollo necesita supervisión humana, regulación y criterios de uso claros. Esta ha sido una de las principales conclusiones del primer diálogo del ciclo sobre IA organizado en València por la Fundació Ernest Lluch y el Ivie.
La doctora en Inteligencia Artificial por el MIT y cofundadora de Fundación ELLIS Alicante, Nuria Oliver, y el académico José F. Duato han analizado este miércoles los beneficios y riesgos de una tecnología que ya tiene capacidad para transformar numerosos sectores económicos y sociales. Ambos han coincidido en que el debate debe alejarse tanto de una aceptación sin límites como de las visiones centradas exclusivamente en escenarios extremos.
Oliver ha defendido que «vamos a necesitar la IA para muchos de los retos que se plantean en el presente y en el futuro, en ámbitos como la salud, la educación, la ciencia o el cambio climático». A su juicio, resulta necesario concentrar la atención en los problemas reales que ya genera esta tecnología y en las herramientas disponibles para afrontarlos.
Los riesgos de la inteligencia artificial que ya afectan a la sociedad
Entre esos problemas, Oliver ha señalado los sesgos y la discriminación, la privacidad, los conflictos relacionados con la propiedad intelectual y la generación de contenidos falsos. Imágenes, vídeos o piezas musicales sintéticas pueden utilizarse, según ha advertido, para manipular a la opinión pública.
La experta también ha puesto el foco en los sistemas de recomendación. Estos mecanismos tienden a ofrecer contenidos ajustados a las preferencias previas de cada usuario y pueden reducir su exposición a perspectivas diferentes. Se trata de un debate que también alcanza al ámbito educativo, donde el uso de la inteligencia artificial obliga a replantear el aprendizaje y la formación del profesorado.
Oliver se ha mostrado especialmente preocupada por el efecto que un uso inadecuado puede tener entre niños y jóvenes. «La IA nos da solo el resultado y si solo nos quedamos con eso perdemos lo más importante que es el proceso, el esfuerzo. Sin fricción cognitiva no hay aprendizaje», ha afirmado.
Duato también ha llamado la atención sobre la denominada IA agéntica, en la que los sistemas no se limitan a proporcionar información, sino que pueden ejecutar acciones con consecuencias reales. Entre los ejemplos ha citado agentes capaces de efectuar operaciones bancarias o gestionar procesos sin una intervención humana directa. «Por eso hay que tener cautelas y supervisión humana», ha defendido.
El consumo energético de la IA entra en el centro del debate
El impacto medioambiental ha ocupado otra parte relevante del encuentro celebrado en la sede de CaixaBank de València. Oliver ha recordado que los sistemas de inteligencia artificial necesitan grandes cantidades de energía y ha advertido de su contribución al cambio climático cuando esa electricidad no procede de fuentes renovables.
Duato ha incidido en el consumo de los centros de datos y en las necesidades adicionales de agua e infraestructuras. Según ha señalado durante el diálogo, el crecimiento previsto de esta demanda podría exigir en 2030 una producción energética equivalente a la de 300 centrales nucleares. El experto ha defendido por ello que el avance científico debe dirigirse también hacia sistemas más eficientes y con un menor consumo de recursos.
Pese a estos riesgos, los dos ponentes han rechazado una visión exclusivamente negativa de la tecnología. Oliver ha sostenido que existen respuestas parciales a muchos de sus problemas y ha defendido aprovechar su capacidad para mejorar la vida de las personas.
La regulación europea de la inteligencia artificial ha sido otro de los asuntos abordados. Los expertos han destacado la introducción de límites para determinados usos considerados abusivos y la exigencia de evaluaciones previas en aplicaciones que pueden afectar a ámbitos sensibles, como la salud.
Ambos han incidido además en el riesgo de atribuir características humanas a estos sistemas. «Las personas humanizamos continuamente la IA y eso es peligroso porque no son humanos, ni tienen sentimientos», ha advertido Oliver. Duato ha añadido que la formación desde edades tempranas será fundamental para aprender a utilizar estas herramientas correctamente y evitar efectos perjudiciales sobre el desarrollo cognitivo.
El ciclo continuará con debates sobre desigualdad, empleo y ética
El encuentro forma parte del ciclo ‘La revolución de la IA: dimensiones sociales y económicas’, impulsado por el Ivie y la Fundació Ernest Lluch. Las próximas sesiones abordarán la relación entre inteligencia artificial, poder de mercado y desigualdad económica el 14 de octubre; sus efectos sobre el empleo el 21 de octubre; y la responsabilidad de las decisiones automatizadas el 28 de octubre.
La programación, los participantes y las opciones de asistencia presencial o por streaming pueden consultarse en la página oficial del ciclo de diálogos del Ivie. Las sesiones se desarrollan en la sala Ágora de la sede de CaixaBank de la calle Pintor Sorolla de València.
