Manuela Delgado: “La IA es un espejo roto, el reflejo distorsionado de la sociedad”

Tras 25 años en primera línea de la innovación con la multinacional japonesa NTT Data, la ingeniera y divulgadora Manuela Delgado decidió, al cumplir los 50, que era el momento de dar un paso atrás para mirar la tecnología desde fuera. Ahora, como emprendedora independiente, se define como alguien que transforma la innovación en impacto cotidiano, buscando conectar el talento y creatividad para hacer que la tecnología sea más inclusiva y sostenible. "Tienes que entenderla para posicionarte. Porque aunque tú pases de la IA, la IA no pasa de ti. Todos tus hábitos, todos los datos que das, todo lo que haces está monitorizado", explica. Bajo su sello personal y proyecto, "El curioso caso del sesgo de la croqueta", Delgado propone un ejercicio necesario: darse cuenta de la gran oportunidad que brindan las nuevas tecnologías, pero también de sus errores. Asemeja los resultados de la inteligencia artificial a un "espejo roto" que devuelve un reflejo distorsionado de la sociedad, un reflejo con burbujas cognitivas y sesgos de confirmación. Sin embargo, sus reflexiones en torno al tema también le han ayudado a reforzar su creencia de aquello que la IA nunca podrá reemplazar. Todo este aprendizaje lo quiso plasmar en su libro "Los secretos de la IA", el cual comparte el mismo objetivo que ella: guiar a través del conocimiento y poner al alcance de todos los usos que pueden sacar de ella. También está llevando a cabo iniciativas como "Esencia, huella y algoritmo", destinada a ayudar a mujeres a crear su propia identidad virtual, o como el proyecto "PoCKeton: Misión salvar la Tierra", a través del cual, unidos a organismos como el CSIC, la Universidad de Vigo y la Universidad de Zaragoza, busca generar vocaciones STEAM (ciencia, tecnología, ingeniería, artes y matemáticas) y dar visibilidad a la ciencia. "Cuanto más avance la IA, más vamos a estar haciendo que la Tierra no sea sostenible. Y no nos estamos cargando el planeta, lo que nos vamos a cargar es nuestra propia especie", predice. Tras 21 años como jefa de producto en el sector industrial y cuatro en una multinacional como NTT Data, ¿por qué decides independizarte justo ahora? Sentía la necesidad de mirar la tecnología desde fuera, que es desde donde la estoy mirando ahora. Al cumplir los 50 años decidí que ya no me iba a permitir no apostar por lo que yo quería: la divulgación profesional y mi proyecto de "la croqueta". Estar en innovación es estar en el futuro, pero ahora busco transformar esa innovación en algo que todos podamos usar. Ha sido un año para mí de aterrizar cosas, de disfrutar también: en junio publiqué mi libro "Los secretos de la IA" y hasta he conseguido profesionalizar lo de la croqueta que ya me lo contratan como evento. Tu proyecto estrella se centra en ese "sesgo de la croqueta". ¿Qué intentas transmitir con este concepto? Mi propuesta es que entiendas la IA desde el hecho de que tú formas parte de ella, aunque no te des cuenta. La IA es un producto diseñado para que consumas el mayor tiempo posible; te da algo que una amiga jamás haría que es darte siempre la razón. Esto crea una visión de túnel que atrofia tu capacidad crítica y te encierra en una burbuja de confirmación. La IA es, en realidad, un espejo roto: un reflejo distorsionado de nuestra sociedad. El proyecto "El curioso caso del sesgo de la croqueta", que empecé hace unos tres años con mi compañera Chus Blanco, no es otra cosa que visibilizar, comiendo croquetas, esa "ingesta" de datos de parte de la IA: dependiendo de qué datos consuma, sus resultados a ciertas preguntas serán distintos. ¿Cuáles son los sesgos más comunes con los que te has encontrado? Sobre todo, el del sesgo de confirmación, pero también el sesgo de automatización (automation bias) por el que empiezas a creer más en lo que diga una máquina que en tu propia intuición, y muchos sesgos de origen y género. Actualmente, 9 de cada 10 personas no tienen acceso a internet, y aun así la IA se forma a través de la información que le proporciona ese 10 %. Por eso es tan importante ser consciente de las limitaciones que esto conlleva. Nosotras mismas entrenamos a la IA para hacer el caso de la croqueta, y dimos visibilidad a nuestros sesgos y miedos haciendo una encuesta de qué opiniones tenían los voluntarios/comensales dependiendo del contexto del que provenían sobre ciertos sentimientos. Así fue cómo creamos la croqueta de la felicidad y la croqueta del miedo: con las respuestas de estas personas. Tienes incluso un gemelo digital de ti misma. ¿No te da miedo que la Manuela digital acabe sustituyendo a la real? He hecho un contrato con ella para asentar las bases de nuestra relación y no depender de ella cuando me dé pereza pensar. Pero tengo algo claro: nunca podrá irme sustituyendo porque las cosas que yo pienso siempre son con mi biografía y mi identidad. El reto de los próximos años no será preguntarle cosas a ChatGPT, sino definirnos como sociedad y como humanidad ante el avance de la IA como un servicio básico. Hablas a menudo de que la IA no es un ente abstracto. ¿Cuál dirías que es su forma física? La IA son sencillamente centros de datos que consumen agua y energía de forma masiva. Estamos en una carrera por materiales raros y chips. No es sostenible para el planeta. Lo que la gente debe entender es que no nos estamos cargando el planeta, él sobrevivirá. Somos nosotros los que somos una mota de polvo, nos estamos cargando a nuestra propia especie. Es por eso que fundé el proyecto "PoCKeton: Misión salvar la Tierra": nació precisamente para buscar soluciones tangibles a estos desafíos geológicos y tecnológicos. Como parte de las "Top 100 Mujeres Líderes en España" y formando parte de la Asociación de Mujeres Investigadoras y Tecnólogas, ¿qué proyectos estás haciendo al respecto? Estoy llevando uno a cabo que llamé "Esencia, huella y algoritmo". Mi generación de mujeres ha tenido una resiliencia brutal, adaptándose durante 25 años a obstáculos que los hombres no han tenido. Ahora estamos en nuestro mejor momento profesional. Con esta iniciativa les enseño a sacar su esencia y, sobre todo, a sabérselo decir al algoritmo, porque hoy en día la marca personal es lo más importante para las empresas. De hecho, les estoy enseñando a crearse las propias versiones de sí mismas virtualmente, como mi proyecto "Manuela". ¿Qué le dirías a un adolescente, o a sus padres, que viven absorbidos por las redes para que "levantasen la cabeza"? A los jóvenes les digo: lo que ves en las redes no existe, es un espejo distorsionado con objetivos que no se pueden alcanzar. Lo que de verdad importa es lo que tienes cerca y, si tienes un problema, hablarlo con las personas con las que puedes confiar. A los padres: que no banalicen las preocupaciones digitales de sus hijos; un insulto en internet para un adolescente es su vida entera, y si se pasa un límite, que vayan a la policía y lo denuncien. Para "levantar la cabeza" yo recomiendo pasear sin rumbo y sin música, y preguntarse siempre: ¿qué he dejado de hacer hoy por estar conectada?