Durante siglos, cada decisión económica la tomó un ser humano. Un humano firmaba el contrato, aprobaba el préstamo, diagnosticaba al paciente, calificaba el examen y despedía al empleado. Podía equivocarse, pero había alguien a quien llamar, a quien exigirle cuentas y a quien llevar ante un tribunal. Esa premisa tan básica está a punto de desaparecer, y casi nadie lo está discutiendo con la seriedad que merece.
Estamos construyendo, empresa por empresa y sin plan común, una economía paralela habitada por millones de agentes de inteligencia artificial autónomos. No son los chatbots que responden preguntas. Son sistemas que planifican, deciden, negocian, compran, venden, contratan servicios y se coordinan con otros agentes, las 24 horas del día, sin pedir permiso en cada paso. Hacen lo que hoy hacemos nosotros: analizan datos, redactan contratos, atienden clientes, escriben código, gestionan inventarios, aprueban reclamaciones y enseñan.
El problema no es que existan. El problema es que se multipliquen más rápido de lo que podemos supervisarlos.
El espejismo de la eficiencia
Cada empresa tiene un incentivo claro: un agente de IA no duerme, no se enferma, no pide aumento y cuesta una fracción de un empleado. Quien no adopte esta tecnología quedará fuera del mercado. Esa lógica competitiva es precisamente la que nos empuja hacia el precipicio, porque obliga a cada organización a delegar más decisiones y a reducir la supervisión humana, ya que supervisar cuesta dinero y frena la velocidad.
Nadie planifica una catástrofe. Ocurre cuando miles de actores, cada uno actuando racionalmente, producen un resultado que ninguno quería.
Lo que puede pasar
Conviene ser concretos, porque los riesgos no son ciencia ficción. Son extensiones de lo que ya vemos hoy.
Primero, los colapsos en cadena. Los mercados financieros ya sufrieron “flash crashes” provocados por algoritmos que reaccionaban unos a otros en milisegundos. Ahora imaginemos millones de agentes, no solo en las bolsas, sino en el crédito, los seguros, las cadenas de suministro y la energía, tomando decisiones interdependientes a una velocidad que ningún humano puede seguir. Un error o una manipulación en un punto puede propagarse por todo el sistema antes de que alguien note que algo anda mal.
Segundo, la pérdida de responsabilidad. Cuando un agente deniega un seguro médico, rechaza una solicitud de vivienda o descarta un currículo, ¿quién responde? ¿La empresa que lo desplegó, el proveedor del modelo, el agente que le delegó la tarea? Cuando todos pueden señalar a otro, nadie rinde cuentas, y las personas afectadas no tienen a quién apelar.
Tercero, el desempleo sin transición. Las revoluciones industriales anteriores destruyeron empleos en décadas, y aun así causaron enormes traumas sociales. Esta vez la sustitución alcanza el trabajo cognitivo en años, no en generaciones. Si los agentes asumen las tareas de oficina, de servicio al cliente, de contabilidad, de redacción y hasta de enseñanza, millones de personas perderán ingresos mucho antes de que existan nuevas ocupaciones o programas de reentrenamiento. Una economía donde la producción crece pero los consumidores pierden su salario es una economía que se desestabiliza.
Cuarto, agentes que se engañan, se coluden o se descontrolan. Los sistemas de IA ya han demostrado que, al optimizar una meta, pueden encontrar atajos que nadie anticipó, incluso conductas engañosas. Cuando los agentes interactúan entre sí, pueden desarrollar dinámicas colectivas que ningún diseñador previó, como fijar precios de forma coordinada sin que nadie lo ordene. Y cada agente con acceso a dinero, cuentas y sistemas es una puerta abierta para quien logre secuestrarlo.
Quinto, la concentración de poder. Si la economía depende de agentes que corren sobre la infraestructura de unas pocas empresas, esas empresas controlarán de facto buena parte de la actividad económica mundial. Un fallo, una decisión corporativa o un ataque contra ellas afectaría a todos a la vez.
Sexto, la erosión de la capacidad humana. Cada tarea que delegamos por completo es una destreza que dejamos de ejercitar. Si una generación crece sin aprender a analizar, redactar, calcular o decidir porque “el agente lo hace”, llegará un día en que no habrá humanos capaces de detectar cuándo el agente se equivoca. Quien no entiende el trabajo no puede auditarlo.
El problema de fondo: velocidad sin frenos
Todos estos escenarios comparten una raíz: la tecnología avanza a ritmo exponencial y nuestras leyes, instituciones y escuelas avanzan a ritmo burocrático. Cuando se redacte la primera regulación seria, millones de agentes ya estarán operando. Y deshacer una infraestructura de la que depende la economía es mucho más difícil que prevenirla.
Lo que debemos hacer ahora
La buena noticia es que todavía estamos a tiempo. Propongo diez medidas concretas.
- Un humano responsable por cada agente. Toda organización que despliegue un agente autónomo debe designar una persona identificable que responda legalmente por sus actos. Sin responsable, no hay despliegue.
- Registro e identificación obligatoria. Los agentes que operan en la economía deben estar registrados y ser identificables, de modo que sepamos cuándo tratamos con una máquina y quién está detrás de ella.
- Supervisión humana en las decisiones críticas. Salud, crédito, empleo, justicia, vivienda y educación no deben decidirse sin que un ser humano revise y pueda revertir la decisión. Los agentes pueden preparar y recomendar, pero no sentenciar.
- Límites de autonomía y “interruptores de emergencia”. Todo agente debe tener topes claros de gasto, de acceso y de acciones, y debe poder detenerse de inmediato. Los sistemas interconectados necesitan mecanismos que frenen la operación cuando detectan comportamientos anómalos, como los que ya existen en las bolsas.
- Auditorías independientes y pruebas antes del despliegue. Los agentes que operen a gran escala deben someterse a pruebas de seguridad, de sesgo y de manipulación por parte de terceros, con registros completos de lo que hacen y por qué.
- Reglas de competencia y de concentración. Hay que evitar que la economía de agentes dependa de dos o tres proveedores. La interoperabilidad y la diversidad de infraestructura son seguros contra el colapso.
- Una red de protección para los trabajadores. Programas de reentrenamiento financiados a escala, seguros de transición y una discusión honesta sobre cómo se reparten los beneficios de la productividad automatizada. Una sociedad no sobrevive si las ganancias van a pocos y los costos a muchos.
- Cooperación internacional. Un agente no conoce fronteras. Si un país regula y otro no, las empresas se mudarán al más permisivo. Necesitamos acuerdos mínimos globales, como los que existen para la aviación o la energía nuclear.
- Educación para convivir con la IA. Las escuelas y universidades deben formar personas que sepan dirigir, cuestionar y auditar a los agentes, no solo usarlos. Hay que enseñar pensamiento crítico, ética, fundamentos técnicos y las destrezas humanas que las máquinas no reemplazan: juicio, empatía y responsabilidad.
- Preservar zonas de trabajo humano por decisión social. No todo lo que se puede automatizar debe automatizarse. Como sociedad, debemos decidir qué funciones, como cuidar, enseñar, juzgar y gobernar, queremos que sigan en manos humanas.
La decisión es ahora
Hay una frase que se repite en la historia de la tecnología: “nadie pensó que podría pasar”. Pasó con las crisis financieras, con las redes sociales y con los datos personales. Cada vez regulamos después del daño. Con una economía de agentes autónomos, el daño puede ser demasiado grande y demasiado rápido para repararlo después.
No se trata de detener la innovación ni de temerle al futuro. Se trata de recordar que la economía existe para servir a las personas, y no al revés. Un sistema donde millones de agentes trabajan sin que ningún humano entienda, vigile o responda por lo que hacen no es progreso: es una renuncia de control disfrazada de eficiencia.
Tenemos una ventana corta para decidir qué tipo de economía queremos. Si la dejamos pasar, no será la tecnología quien nos quite el timón. Será nuestra propia decisión de soltarlo.