Vivimos en un momento en que la inteligencia artificial ha dejado de ser ciencia ficción y se ha vuelto parte de nuestras decisiones cotidianas. Desde qué video vemos hasta qué ruta tomamos, hay algoritmos detrás de casi todo. Pero hay una línea que no deberíamos cruzar sin hacernos preguntas profundas: ¿Qué pasa si dejamos que la IA decida sobre la vida humana?
Yuval Noah Harari lo expresó con claridad brutal: “Si permitimos que los sistemas de IA obtengan control directo sobre la vida y la muerte, nos arriesgamos a que sus errores o sesgos terminen en catástrofes irreversibles.”
Y no está hablando del futuro lejano. Hoy, ya existen sistemas de IA que se usan en vigilancia militar, en selección de objetivos, en sistemas de salud, en justicia predictiva. ¿Quién decide si alguien recibe tratamiento médico prioritario o si alguien es considerado un “riesgo” antes de cometer un delito? ¿Bajo qué datos? ¿Con qué prejuicios incrustados?
Desde What The Future hablamos constantemente sobre el futuro del trabajo, de la educación, de la vida en comunidad. Pero también nos toca hablar del futuro de la ética. Porque no podemos preparar a las nuevas generaciones solo para programar o usar IA. Tenemos que prepararlas para cuestionarla. Para humanizarla. Para saber cuándo no debe decidir.
El peligro no está solo en la tecnología. Está en nuestra renuncia al criterio. En pensar que lo más “objetivo” es dejarle todo a un sistema que aprendió de nuestros propios errores históricos.
Por eso, en nuestras aulas y programas, proponemos siempre algo incómodo pero urgente: hacer pausas para pensar. Detenernos a reflexionar qué implica lo que estamos construyendo, y para quién. Educar no es solo entrenar habilidades técnicas. Es formar conciencia crítica.
No se trata de rechazar la IA, sino de recordarnos que hay cosas —como el valor de una vida, la dignidad de una persona, el acto de cuidar— que no pueden ser automatizadas. Que no deben serlo.
El futuro no será decidido por la IA. Será decidido por las preguntas humanas que nos atrevamos a hacer antes de seguir delegando.
Fuentes consultadas:
Harari, Y. N. [@yuval_noah_harari]. (2024, July 5). If we allow AI systems to gain direct control over life and death decisions, we risk irreversible disasters caused by their mistakes or biases. [Imagen]. Instagram. https://www.instagram.com/p/DLz6RDltXDd/
