Para NO Matarnos...

La IA no solo debe des-armarse. Debe regularse. Sorry...

La inteligencia artificial y el dilema del prisionero

Por Roberto F. Salazar-Córdova, Economista

La Alarma Sonó

La renuncia de Jacob Coxon a Anthropic abre una discusión mucho más profunda que la posibilidad de que la inteligencia artificial llegue algún día a superar las capacidades humanas. Coxon, quien anteriormente trabajó en OpenAI, sostiene que los principales desarrolladores conocen los riesgos asociados a sistemas cada vez más capaces, pero continúan avanzando porque están atrapados en una carrera en la cual ninguno quiere llegar segundo. Su advertencia ha encontrado respaldo dentro de la propia Anthropic. Evan Hubinger, responsable de investigación en alineamiento, ha señalado que el peligro que le preocupa no proviene principalmente de los modelos actuales, sino de futuros sistemas capaces de acelerar su propio desarrollo.

El problema puede entenderse mejor desde la economía que desde la ciencia ficción. Es un dilema del prisionero.

Cuando todos quieren hacer lo correcto, pero nadie puede detenerse

Imaginemos dos grandes desarrolladores de inteligencia artificial. Ambos pueden acelerar o actuar con prudencia. Si los dos actúan prudentemente, conservan los beneficios tecnológicos mientras reducen conjuntamente el riesgo. Si uno desacelera y el otro acelera, el primero puede perder mercado, talento, capital, capacidad computacional y liderazgo tecnológico. Si ambos aceleran, ninguno pierde posición relativa, pero los dos aumentan el riesgo colectivo.

La paradoja aparece inmediatamente.

Individualmente, acelerar puede ser racional. Colectivamente, puede ser subóptimo.

Nadie necesita ser irresponsable para producir un resultado irresponsable. Basta con que cada actor responda racionalmente a los incentivos que enfrenta.

Ese es precisamente el poder explicativo del dilema del prisionero. El problema no requiere empresarios malintencionados ni máquinas malvadas. Puede surgir simplemente de una estructura de incentivos en la cual cooperar unilateralmente tiene un costo y competir ofrece una recompensa inmediata.

La propia Anthropic reconoce actualmente riesgos catastróficos asociados con sistemas avanzados y ha construido una Responsible Scaling Policy que aumenta las exigencias de seguridad conforme aumentan las capacidades. Su hoja de ruta considera plausible que, desde 2027, determinados sistemas puedan automatizar o acelerar sustancialmente el trabajo de equipos humanos de investigación de primer nivel en campos estratégicos.

Estamos, por tanto, frente a un problema económico clásico dentro de una tecnología completamente nueva.

Del juego a la externalidad

La empresa que desarrolla una inteligencia artificial captura una parte importante de sus beneficios: productividad, propiedad intelectual, valorización, ingresos y participación de mercado.

El riesgo sistémico, en cambio, puede distribuirse entre todos.

Esta asimetría importa.

Cuando el beneficio marginal es privado y una parte relevante del costo potencial es social, el mercado tiene incentivos para producir más riesgo del que sería óptimo desde el punto de vista colectivo. Eso es economía 101.

El fenómeno tampoco pertenece exclusivamente a la inteligencia artificial. Aparece en las adicciones, el cambio climático, el sistema financiero, la explotación de recursos naturales, la carrera armamentística y cualquier actividad donde las decisiones presentes producen externalidades que serán pagadas por terceros o por generaciones futuras.

La inteligencia artificial agrega una característica adicional: la velocidad.

Las instituciones humanas evolucionan lentamente. La tecnología puede hacerlo exponencialmente. La regulación discute el sistema existente mientras los desarrolladores trabajan sobre el siguiente.

Anthropic reconoce precisamente este problema en su marco reciente de política pública: a medida que aumentan las capacidades, propone pasar desde transparencia y evaluación independiente hacia niveles crecientes de supervisión gubernamental, incluida eventualmente la capacidad estatal de impedir despliegues considerados peligrosos.

Prohibir tampoco resuelve el juego

Esto solo crearía un mercado negro y una serie de Al Capones Tech. Aquí aparece otro dilema. Una respuesta intuitiva sería detener el desarrollo. Pero si una empresa se detiene y otra continúa, cambia simplemente el ganador.

Si un país detiene sus laboratorios mientras otro continúa desarrollándolos, puede trasladar hacia este último conocimiento, inversión, investigadores y poder estratégico.

La prohibición unilateral puede incluso aumentar aquello que pretendía reducir.

La solución económica requiere entonces modificar los payoffs del juego.

Cooperar debe generar valor. Generar riesgos debe tener costos. La verificación debe reducir la incertidumbre. Y la tecnología debe demostrar resultados concretos sobre la realidad.

Este último punto es fundamental.

De la inteligencia artificial abstracta a la inteligencia aplicada

En Red Santa Cruz estamos trabajando desde otra dirección.

Nuestro interés en inteligencia artificial no consiste en desarrollar una máquina para demostrar que puede sustituir al ser humano. La utilizamos como una capa instrumental dentro de problemas reales: territorio, agua, biodiversidad, carbono, producción, inversión, información, monitoreo y desarrollo humano.

La diferencia parece pequeña, pero cambia la función objetivo.

La pregunta deja de ser:

¿qué tan poderosa puede llegar a ser la inteligencia artificial?

Y pasa a ser:

¿cuánto valor humano y ambiental verificable podemos producir utilizando inteligencia artificial?

En nuestros proyectos vinculamos información territorial, observación satelital, sistemas digitales de medición, reporte y verificación, análisis económico y trazabilidad de activos ambientales. La máquina procesa, compara, proyecta y ayuda a verificar. Las comunidades, las instituciones, los científicos, los inversionistas y las personas conservan las decisiones fundamentales.

La IA pasa de ser el objetivo a convertirse en infraestructura.

Agua, biodiversidad y carbono

Este principio puede llevarse todavía más lejos.

Un territorio puede contener agua, biodiversidad, carbono, producción agrícola, cultura, conocimiento y comunidades. Tradicionalmente cada dimensión se administra separadamente. La inteligencia artificial permite observar simultáneamente sistemas que antes analizábamos por partes.

Podemos utilizar satélites para observar cambios territoriales. Podemos construir series de tiempo. Podemos identificar anomalías. Podemos estimar escenarios. Podemos comparar información productiva con información ambiental. Podemos crear sistemas digitales de medición, reporte y verificación.

Y podemos hacerlo durante décadas.

En proyectos de conservación con horizontes de 30 o 40 años, esto resulta particularmente poderoso. La IA deja de estar dedicada a producir más IA y comienza a ayudarnos a entender cómo evoluciona un ecosistema real.

Allí aparece una aplicación profundamente humana de una tecnología extraordinariamente poderosa.

Una reserva para el futuro

Incluso los activos ambientales pueden pensarse bajo esta lógica.

Un activo de carbono verificado no necesita venderse inmediatamente para producir sentido económico. Puede mantenerse como reserva, acumular trazabilidad y conservar opcionalidad hasta que existan condiciones regulatorias, institucionales o de mercado adecuadas para transferirlo.

Conceptualmente se parece a una reserva.

Un banco central mantiene determinados activos porque constituyen respaldo. Una estructura ambiental puede mantener activos ambientales verificables como evidencia de conservación y como reserva potencial de valor, sin incorporarlos anticipadamente a la rentabilidad financiera del proyecto.

Esto introduce prudencia dentro del propio modelo económico.

La rentabilidad operacional debe sostener el proyecto. El activo ambiental agrega resiliencia, respaldo y opcionalidad.

La tecnología permite medirlo y custodiar su información. No necesita obligarnos a monetizarlo inmediatamente.

Del dilema del prisionero al juego cooperativo

La teoría de juegos también nos muestra una salida.

El dilema del prisionero cambia cuando el juego deja de ocurrir una sola vez.

Cuando los participantes saben que volverán a encontrarse, aparece la reputación. Cuando los resultados pueden verificarse, disminuye la posibilidad de engaño. Cuando existen garantías, reservas y contratos, aumenta el costo de incumplir. Cuando los beneficios de cooperar se distribuyen entre los participantes, la cooperación puede convertirse en equilibrio.

Por eso la solución de largo plazo a los riesgos de la inteligencia artificial probablemente combine varias capas: estándares comunes, auditoría independiente, trazabilidad, límites asociados al nivel de riesgo, responsabilidad jurídica, cooperación internacional y aplicaciones económicas capaces de demostrar beneficios verificables.

La gobernanza deja entonces de intentar detener la innovación y comienza a cambiar sus incentivos.

La pregunta correcta

La renuncia de Coxon merece atención precisamente porque proviene desde dentro de la frontera tecnológica. Sería un error descartarla. También sería un error convertirla automáticamente en una profecía.

No sabemos si una inteligencia artificial llegará a representar una amenaza existencial para la humanidad. Sí sabemos algo mucho más concreto: estamos construyendo tecnologías extraordinariamente poderosas dentro de estructuras competitivas que pueden recompensar la velocidad antes que la prudencia.

Ese problema ya existe.

La respuesta puede comenzar por algo bastante sencillo: cambiar aquello que medimos.

En lugar de preguntar solamente cuántos parámetros tiene un modelo, cuánto razonamiento puede realizar o cuántas tareas humanas puede reemplazar, podemos preguntar cuánta agua ayudó a conservar, cuánta biodiversidad permitió proteger, cuánto carbono permitió medir correctamente, cuánta productividad adicional produjo, cuánto riesgo disminuyó y cuántas familias mejoraron sosteniblemente sus ingresos.

La inteligencia artificial será una de las tecnologías fundamentales de nuestro tiempo.

Precisamente por eso necesita una función objetivo.

Y quizá la mejor función objetivo disponible siga siendo la más antigua de todas: que la inteligencia, humana y artificial, sirva para conservar y mejorar la vida.

Roberto F. Salazar-Córdova

Economista