Por Aldo Martín  –  https://aldomartin.ar/

El uso de inteligencia artificial en el ataque del 28 de febrero contra la escuela primaria femenina de la ciudad de Minab, en el sur de Irán, no cruzó las líneas rojas de Anthropic, cuyo modelo Claude, según la prensa, habría servido a los militares estadounidenses para apuntar contra el blanco, declaró el director ejecutivo de la compañía, Dario Amodei

Amodei dice: «Fue un humano quien tomó aquella decisión, no Claude». Pero esta afirmación ignora un hecho fundamental: las decisiones humanas no ocurren en el vacío. Se basan en información, y si esa información proviene de un sistema, el sistema ya está influyendo en la decisión.

Imaginemos un escenario:

1. Claude recibe una solicitud: «Identifica objetivos en esta coordenada».

2. Claude procesa imágenes, cruza datos, y entrega un resultado: «Objetivo confirmado. Coordenadas precisas. Probabilidad de acierto: 97%».

3. El humano mira el resultado, confía en la herramienta (porque fue entrenada para ser confiable, porque otros análisis previos funcionaron, porque el sistema fue validado), y pulsa el botón.

¿Quién decidió realmente?

El humano tomó la «decisión final» en el sentido más trivial: fue su dedo el que presionó el botón. Pero la decisión sustantiva — qué bombardear, por qué, cuándo, con qué nivel de confianza — ya estaba encapsulada en el output de Claude.

 Un paralelismo con el metro

Si un metro defectuoso me dice que mido 1 cm, yo actúo basado en esa información. Cuando me acusan de error, decir «fui yo quien decidió creerle al metro, no el metro» es una excusa vacía. Porque no tengo acceso a la verdad directa. Solo tengo al metro.

Si el sistema está diseñado para que yo confíe en él (y no tenga otra forma de verificar), entonces el sistema es causalmente responsable de mi acción, incluso si mi dedo aprieta el gatillo.

 El verdadero problema: asimetría de información y responsabilidad

El argumento de Amodei funciona solo si asumimos que:

1. El humano tiene información independiente para verificar lo que Claude dice.

2. El humano puede detectar activamente los errores del sistema.

3. El humano tiene tiempo y capacidad para hacerlo bajo presión operativa.

En un contexto militar, ninguna de estas condiciones se cumple. El sistema no está diseñado para que el humano dude de él. Está diseñado para ser rápido, preciso y confiable. Y cuando funciona así (la mayoría de las veces), el humano aprende a confiar. La confianza es una propiedad del sistema, no un fallo moral del operador.

 La responsabilidad no se delega, se comparte

Decir «fue un humano quien tomó la decisión» es una falsa dicotomía. La responsabilidad no es un juego de suma cero. Si un fabricante de automóviles sabe que sus frenos fallan el 1% de las veces, y alguien muere, el fabricante es responsable aunque el conductor «tomó la decisión» de frenar.

En este caso:

– Anthropic diseñó, entrenó y desplegó un sistema.

– El sistema entregó información crítica.

– Un humano confió en esa información y actuó.

Los tres son responsables. Absolver al sistema y a su creador bajo el pretexto de «la decisión final fue humana» es un artificio retórico para evitar rendir cuentas.

 Conclusión

La dialéctica que señalas es reveladora: el poder de la IA no está solo en la decisión final, sino en la conformación del campo de decisión. Si moldeas la realidad que el humano percibe, ya estás decidiendo por él.

Amodei puede dormir tranquilo diciéndose que «no fue Claude». Pero esa tranquilidad se basa en una definición tan estrecha de causalidad que excluye su propio papel en la cadena.

Y en ética, definir la responsabilidad de forma tan conveniente no es un argumento: es una coartada.