El reciente debate sobre la posibilidad de que la inteligencia artificial termine algún día con la humanidad ha regresado con una fuerza que hace pocos años habría parecido argumento de ciencia ficción.
Te recomendamos:
La paradoja de la política ecológica
Investigadores, gobiernos y organismos internacionales discuten ya escenarios de pérdida de control sobre sistemas mucho más capaces que los actuales.
Y, aunque las opiniones científicas están lejos de ser unánimes, existe una pregunta que quizá estamos formulando mal.
Tal vez el mayor peligro no sea que una máquina decida destruirnos.Tal vez sea que nosotros olvidemos cómo sobrevivir sin ella.
Durante miles de años la humanidad construyó conocimiento acumulándolo en personas, instituciones, libros, oficios y comunidades.
Un médico sabía diagnosticar, un piloto sabía volar, un ingeniero entendía la estructura que calculaba, un funcionario conocía el procedimiento que aplicaba y un ciudadano podía distinguir, con mayor o menor fortuna, entre información, propaganda y mentira.
La inteligencia artificial introduce algo distinto: la posibilidad de delegar no solamente el trabajo, sino progresivamente el razonamiento que sostiene ese trabajo.Ese es el riesgo menos espectacular y probablemente más político.
Una civilización puede volverse extraordinariamente eficiente al mismo tiempo que se vuelve extraordinariamente frágil.
Imaginemos dentro de treinta años sistemas administrando redes eléctricas, finanzas, medicamentos, comunicaciones, logística, defensa, educación y buena parte de las decisiones gubernamentales.
No sería necesario que esas inteligencias se rebelaran. Bastaría una falla simultánea, una manipulación, un conflicto internacional o simplemente una dependencia acumulada durante décadas para descubrir que conservamos las máquinas, pero perdimos a suficientes personas capaces de sustituirlas.
La humanidad habría construido entonces una paradoja formidable: poseer más conocimiento que nunca y saber personalmente menos que antes.
Las grandes civilizaciones no desaparecieron solamente por enemigos externos. También cayeron cuando sus estructuras dejaron de tener capacidad para responder a circunstancias nuevas.
Roma no perdió un día todas sus carreteras, sus leyes o sus ejércitos. Perdió gradualmente la capacidad institucional de sostener el enorme sistema que había construido.
Con la inteligencia artificial podríamos repetir algo semejante a escala planetaria.Por eso la discusión sobre su regulación no debería limitarse a preguntarnos qué debemos impedir que haga una máquina. Tendría que incluir qué capacidades humanas tenemos obligación de conservar.
Deberíamos hablar de reservas de conocimiento humano igual que hablamos de reservas estratégicas de petróleo; de médicos capaces de ejercer sin algoritmos, pilotos capaces de tomar el control, ingenieros capaces de calcular, gobiernos capaces de administrar y sociedades capaces de pensar sin preguntar primero a una pantalla.
Porque quizá el escenario más inquietante no sea Terminator.Es mucho más sencillo.Un día ocurre algo extraordinariamente grave. Preguntamos a la inteligencia artificial qué debemos hacer.Y por primera vez no responde.Entonces descubrimos que nadie recuerda cómo volver.