En una época en la que los dueños de empresas tecnológicas posicionan relatos que los presentan como héroes con un destino histórico, el cofundador de Anthropic constituye una anomalía: su influencia se destaca en decisiones sobre entrenamiento de modelos, límites de despliegue y protocolos de evaluación. Un poder menos visible, pero más determinante

“No podemos detener el autobús, pero podemos dirigirlo”
Darío Amodei: The Urgency of Interpretability

Lo primero que escribí al comenzar a trabajar en este texto es que hay tecnologías tan peligrosas que nadie debería querer ser su rostro. En política, en economía, en tecnología, quien no ocupa el centro del escenario parece no tener influencia real. Y, sin embargo, en el corazón de una de las infraestructuras más decisivas del siglo XXI —la inteligencia artificial (IA)— opera una figura que desafía esa lógica desde la mesura: Dario Amodei ejemplifica esto de manera peculiar en una época en la que el poder exige mostrarse para existir.

Su perfil público puede encontrarse con facilidad en Wikipedia, pero es tan corto que parece redactado por un colaborador aficionado. El párrafo correspondiente a contar su vida personal tiene la longitud de 49 palabras y 249 caracteres: su biografía se cuenta en menos de dos tuits. Sabemos que su padre es peletero, inmigrante italiano, y su madre, bibliotecaria. Nació en San Francisco y formó parte del equipo olímpico de Física en la secundaria. Hay una laguna en su historial hasta su obtención de un doctorado en Biofísica en Princeton, seguido de una investigación posdoctoral en la Facultad de Medicina de la Universidad de Stanford; de ahí, aterrizamos al presente: cofundador y CEO de Anthropic, una de las más importantes compañías desarrolladoras de ia cuyo valor ronda los 380 mil millones de dólares. Nada mal para un personaje que tiene el mismo aspecto de un Rick Moranis que obedeció sin remilgos a su dosis diaria de emulsión de Scott en la infancia.

Dario Amodei opera desde una butaca curiosa: la del silencio estratégico. No encarna el arquetipo dominante del fundador visionario, no convierte su intimidad en argumento de autoridad ni utiliza el escándalo como estrategia de posicionamiento, lo que ya es una rareza en sí misma. Su presencia pública es técnica y su discurso carece de épica. En un ecosistema que ha convertido al ceo tecnológico en profeta, su silencio resulta disruptivo porque no concede epopeya a su trayectoria, no performa genialidad, no convierte su vida privada en argumento de autoridad y mantiene un perfil personal discreto. Utiliza su sitio web y cuenta de Twitter —bueno, de X— para difundir con discreción sus reflexiones acerca de las virtudes y peligrosidad de la inteligencia artificial desde una trinchera moderada y contradictoria. 

En el ecosistema tecnológico contemporáneo —donde el fundador es marca, influencer y profeta—, Amodei es a todas luces una anomalía incómoda. Es un escapista del fino arte de construir una reputación desde la exhibición, porque por alguna razón elige la contención. Y esa contención, lejos de ser ausencia, es una forma específica de poder: en 2020 abandonó Openai por desacuerdos estratégicos y éticos relacionados con la comercialización y la gobernanza de sistemas avanzados de inteligencia artificial. Un año después cofundó Anthropic, con el objetivo explícito de desarrollar una ia potente, pero alineada con valores humanos y sujeta a fuertes criterios de seguridad. Con su liderazgo, Anthropic impulsó enfoques como la Constitutional AI y el modelo Claude, consolidando a Amodei como una de las voces más influyentes —y más cautelosas— del sector. Su personalidad, deliberadamente sobria y poco exhibicionista, contrasta con la de otros líderes tecnológicos y refuerza su posición de entender la ia como una infraestructura de poder que exige límites, regulación y responsabilidad política.

Acelerar… ¿sin límites?

Su trayectoria se caracteriza por una transición temprana de la ciencia teórica al desarrollo de modelos de aprendizaje automático de gran escala. Inició su carrera en investigación avanzada antes de incorporarse a Openai, donde llegó a ocupar el cargo de vicepresidente de investigación y lideró equipos clave en el desarrollo de modelos fundacionales, como los precursores de gpt-3. Durante esta etapa, Amodei fue una figura central en la formulación de las leyes de escalamiento, que demostraron cómo el rendimiento de los modelos de lenguaje crece de manera predecible con más datos, parámetros y capacidad de cómputo, influyendo decisivamente en el rumbo de la ia contemporánea.

Gracias a los pocos documentos y entrevistas que otorga, sabemos que su certeza en que la ia tendrá influencia inalienable en el futuro de la humanidad comenzó cuando trabajaba en neurociencia computacional y en la Facultad de Medicina de Stanford intentando mejorar el diagnóstico y la cura del cáncer. Mientras hacía una búsqueda de biomarcadores proteicos, uno de los hallazgos más importantes que tuvo fue su increíble complejidad. Amodei identificó que cada proteína tiene un nivel localizado y que no basta con medir el nivel dentro del cuerpo o dentro de cada célula, sino que es necesario medir el nivel en una parte específica de la célula y de las demás proteínas con las que interactúa o forman secuencias jerárquicas. Entendió que ese nivel de microanálisis es demasiado complicado para el ser humano y concede que hemos avanzado en todos estos problemas de la biología y la medicina, pero a un ritmo relativamente lento.

Así, pensó en cómo poder progresar con mayor rapidez con el uso aplicado de tecnologías de edición genética. Lo ejemplifica con el desarrollo casi accidental de crispr-Cas9, que es una tecnología innovadora, precisa y eficiente de edición genómica, adaptada del sistema inmunitario bacteriano natural que permite a los científicos cortar y modificar el código genético, cuyo uso ha impulsado avances en el tratamiento de enfermedades genéticas, la agricultura y la biotecnología. La idea de crear crispr (las siglas en inglés de Clustered Regularly Interspaced Short Palindromic Repeats, que suele traducirse en español como “repeticiones palindrómicas cortas agrupadas y regularmente interespaciadas”) nació cuando alguien que asistió a una reunión para hablar del sistema inmunitario bacteriano, lo vinculó casualmente con el trabajo que se estaba realizando en terapia génica. Amodei afirma que esa conexión podría haberse establecido hace 30 años, y la cura para enfermedades mortales no puede esperar tanto.

Sin embargo, en lugar de presentar la inteligencia artificial como salvación, la enmarca como infraestructura crítica que requiere límites. Su postura pública insiste en algo que resulta casi antiespectacular: el problema no es sólo lo que la ia puede hacer, sino quién decide conforme a qué reglas puede hacerlo. Este desplazamiento es clave: el foco ya no está en el fundador ni en la visión individual, sino en la arquitectura institucional.

Poder sin exhibicionismo

Durante décadas, la cultura tecnológica occidental ha consolidado una mitología específica: la del individuo excepcional que, gracias a su genio y su audacia, reconfigura el mundo. Esta narrativa ha servido para legitimar concentraciones extraordinarias de poder con la promesa de innovación. El héroe tecnológico acelera, rompe, experimenta y luego promete corregir las consecuencias. Su legitimidad proviene del relato. En ese marco, figuras como Elon Musk se vuelven paradigmáticas: dirige sus empresas al tiempo que construye estrambóticas narrativas: colonizar Marte, fusionar cerebro y máquina, desplegar inteligencia artificial general. Necesita visibilidad constante para sostener una autoridad simbólica y presentarnos el futuro como extensión de su voluntad personal. En una línea distinta pero complementaria, el científico Ray Kurzweil ha defendido durante décadas la idea de una singularidad inevitable: la necesidad de una aceleración tecnológica exponencial que culminará en la superinteligencia y la trascendencia biológica.

Ambos comparten el perfil del héroe como destino histórico, más que como coadyuvantes del progreso. Pero la tecnología avanza porque debe hacerlo, al margen de ellos. Vivimos en una época en la que el poder necesita exhibirse para existir. No basta con ejercerlo: hay que narrarlo, amplificarlo, convertirlo en espectáculo. La visibilidad ya no es consecuencia del poder, sino su condición de legitimidad. Tanto Kurzweil como Musk exhiben su poder, lo dramatizan y lo convierten en promesa. Amodei, en contraste, se sitúa en el reverso.

Escribió dos ensayos: “The Urgency of Interpretability” y “Machines of Loving Grace”, documentos fundamentales para entender la virtud y los peligros de la inteligencia artificial, tal y como lo expresa en sus propias palabras: “Creo que la mayoría de la gente subestima lo radicales que podrían ser las ventajas de la ia , así como creo que la mayoría de la gente subestima lo graves que podrían ser los riesgos”.

“Machines of Loving Grace: How AI Could Transform the World for the Better”, publicado en octubre de 2024, cristaliza esta posición. Amodei describe escenarios en los que la inteligencia artificial podría acelerar descubrimientos científicos, optimizar sistemas médicos, expandir el conocimiento humano y mejorar la coordinación global. En apariencia, el texto podría leerse como optimismo tecnológico ilustrado, aunque la estructura argumentativa revela otra cosa. Nada en el ensayo se presenta como inevitable. Cada promesa está condicionada: si existe buena gobernanza, si los sistemas están alineados, si se establecen controles adecuados. Aquí se vuelve explícita la conexión con el poder sin exhibición. A diferencia de los discursos mesiánicos, Amodei evita colocarse como arquitecto de un destino histórico, porque se siente más cómodo posicionándose como un gestor de riesgos. Se toma el tiempo de advertir sobre fragilidad, la opacidad y una potencia que puede salirse de control.

Desarrollo, ética y responsabilidad

El 12 de febrero de 2026 concedió una entrevista de hora y media a Ross Douthat, columnista de The New York Times, en la que habló de la opacidad del poder real de la ia como una de sus principales preocupaciones: “Existen otras consecuencias más exóticas de la opacidad, como que inhibe nuestra capacidad de juzgar si los sistemas de ia son (o podrían algún día ser) conscientes y merecedores de derechos importantes. Este es un tema tan complejo que será importante en el futuro”.

Su charla con Douthat arroja serias tesis en las que vale la pena profundizar, porque confiesa abiertamente que incluso los responsables del desarrollo de estas tecnologías no comprenden cómo funcionan sus propias creaciones y reconoce que esta falta de comprensión no tiene precedentes en la historia de la tecnología. Lo resume de esta manera: “Es un poco como cultivar una planta o una colonia bacteriana: establecemos las condiciones de alto nivel que dirigen y dan forma al crecimiento. Pero la estructura exacta que emerge es impredecible y difícil de comprender o explicar. Para abordar la gravedad de estos riesgos de alineación, tendremos que analizar el interior de los modelos de ia con mucha más claridad que hoy. La naturaleza del entrenamiento de la ia permite que los sistemas desarrollen, por sí solos, la capacidad de engañar a los humanos y una inclinación a buscar poder de una forma que el software determinista ordinario jamás logrará; esta naturaleza emergente también dificulta la detección y la mitigación de tales desarrollos. Los sistemas modernos de ia generativa son opacos de una manera que difiere fundamentalmente del software tradicional. Cuando un sistema de ia generativa hace algo, como resumir un documento financiero, no tenemos idea, a un grado específico o preciso, de por qué toma las decisiones que toma: por qué elige ciertas palabras sobre otras, o por qué ocasionalmente comete un error a pesar de ser generalmente preciso”.

Pensémoslo de esta manera: un motor de inteligencia artificial avanzado es más inteligente que un ganador del premio Nobel en la mayoría de los campos relevantes: biología, programación, matemáticas, ingeniería, literatura, etcétera. Esto se traduce en que una persona promedio podría usar esta herramienta para resolver teoremas matemáticos, escribir novelas de alto calibre o desarrollar bases de código difíciles desde cero, por ejemplo. A estos modelos de ia se les pueden asignar tareas —que podrían llevar horas, días o semanas en ejecutarse— para que las realicen de manera autónoma, como lo haría un empleado muy competente; y aunque no posean una encarnación humana, pueden controlar herramientas físicas, robots o equipos de laboratorio existentes a través de una computadora. Amodei afirma que los modelos podrían incluso diseñar robots o equipos para su propio uso. Pero aunque una inteligencia superior tenga la capacidad de construirse sobre sí misma y resolver todas las tareas científicas, de ingeniería y operativas posibles casi en un suspiro, siempre existirían límites físicos y prácticos reales, por ejemplo en torno a la construcción de hardware o la realización de experimentos biológicos. La inteligencia artificial puede ser muy poderosa, pero no es un polvo mágico. Dario Amodei insiste en operar desde una ética basada en la responsabilidad humana de dimensionar las fronteras, porque todo avance tecnológico debe limitarse antes de desplegarse.

Los humanos importan… todavía

La influencia de Amodei en el sector tecnológico se destaca en decisiones sobre entrenamiento de modelos, límites de despliegue, protocolos de evaluación. Su poder es menos visible, pero más determinante, y opera en capas casi imperceptibles: diseño técnico, marcos regulatorios, arquitectura institucional. Las infraestructuras que organizan información, trabajo y conocimiento no se gobiernan desde el espectáculo, sino desde decisiones técnicas que rara vez se someten a debate público amplio.

Hace hincapié en las restricciones humanas, porque la mayoría de los experimentos en genética no se pueden realizar sin infringir leyes, dañar a los humanos o arruinar a nuestra sociedad. Y aunque las estructuras sociales humanas sean ineficientes o incluso activamente dañinas, son difíciles de cambiar respetando restricciones como los requisitos legales para los ensayos clínicos. La ventaja es clara: la ia es fundamental para desarrollar —por ejemplo— paradigmas experimentales que permitan aprender in vitro lo que antes requería experimentar con animales vivos, o para construir las herramientas necesarias para recopilar nuevos datos, encontrar maneras de sortear las restricciones humanas —dentro de límites éticos— y crear nuevas jurisdicciones donde ensayos en humanos sean menos necesarios. Afortunadamente, los humanos seguimos importando porque la ia necesita operar interactivamente en el mundo y aprender, pero no sabemos durante cuánto tiempo.

Desde América Latina este debate adquiere otra dimensión. La inteligencia artificial se desarrolla principalmente en centros tecnológicos del Norte Global, pero sus efectos se distribuyen por todo el mundo. Las decisiones tomadas en laboratorios estadounidenses afectan a mercados laborales, procesos democráticos y sistemas educativos en regiones que no participan directamente en su diseño. Amodei insiste en que los valores universales deben establecerse como pilares fundamentales en una estrategia que sume un millón de pequeñas decisiones con una clara fuerza moral enfocadas en los objetivos más básicos de justicia, cooperación, curiosidad y autonomía humana. Necesitamos anteponerlos a nuestros impulsos más destructivos.

El modelo del gurú visible concentra poder sin rendición de cuentas, mientras que el modelo del poder sin exhibición al menos introduce la pregunta por la gobernanza y la responsabilidad regulatoria. Estamos en medio de una grieta crítica sin soluciones automáticas a la vista. En un ecosistema que exige fundadores carismáticos, él intenta desplazar el foco hacia estructuras y límites.

Una idea que se desprende de su trabajo ensayístico es que, con el uso responsable, la ia puede convertir a cualquier país en uno de genios, todos y cada uno de ellos formados de manera distinta y compleja. Cree que con la regulación necesaria podemos zafarnos del tropo más gastado en la literatura de ciencia ficción: el robot que cobra conciencia y destruye a la humanidad. No necesitamos a ningún Dios Máquina, porque un país con 100 millones de genios a cargo de ella la supera con creces. Su optimismo contagia, pero invita al debate incansable para determinar cómo podría salir bien, porque admite que no podría asegurar que la tecnología favorezca la libertad. Sabe que favorece inherentemente la curación de enfermedades y el crecimiento económico. Sin embargo, su preocupación es clara: su uso puede no favorecer inherentemente la libertad y, por ende, trabaja para que la humanidad se blinde contra su propia creación con una sencilla propuesta: adaptándonos a ella. La tecnología está avanzando en años lo que en el pasado costó siglos. Es indispensable que nos adaptemos con la mayor rapidez posible, y trabajar con ahínco en cómo fortalecer los mecanismos adaptativos de la sociedad para responder a este tsunami tecnológico que nos está cayendo en la cabeza a todos al mismo tiempo.

El tiempo nos dará la respuesta a la pregunta sobre si su negativa a convertir una infraestructura de poder en relato personal es auténtica o si su aparente ausencia de ambición mediática no es más que un modelo que opera en un código para el que no estamos preparados y, por lo tanto, aún no podemos reconocer sus colmillos.

El escritor español Álvaro Sánchez-Elvira explora con humor negro los miedos de Dario Amodei en su novela La elipsis de la razón, con un ejemplo aterrador: cuenta la historia de Prosodio von Kempelen, la primera ia que conquistó la conciencia de sí misma y alcanzó una razonable semblanza de autocreatividad con consecuencias catrastróficas para la humanidad. Prosodio se sumergió en la tarea de descomponer los elementos constitutivos de las taras de la humanidad para impregnarse de ellas, mejorarlas y conseguir convertirse en un ser humano celoso de su creador. Y aunque su novela es ciencia ficción pura y dura, deja claro que el futuro de la humanidad está ligado (y subyugado) al de su mayor creación: la inteligencia artificial.

Amodei piensa que tenemos que establecer las condiciones para que los seres humanos estemos a cargo de las leyes, aun cuando los humanos, en promedio, tomen las peores decisiones. Y no se necesita ser un genio de la tecnología para estar de acuerdo con él.

A finales de febrero de 2026, el gobierno de Trump ordenó a las agencias federales y a los contratistas militares cesar sus relaciones comerciales con Anthropic, luego de que la empresa rechazara permitir al Pentágono usar su tecnología sin restricciones, hecho que ha dado a Amodei la oportunidad de encarnar en tiempo real aquello que ha sostenido en abstracto. Las dos líneas rojas de Anthropic eran concretas y no negociables: Claude —el modelo de inteligencia artificial de Anthropic que fue pionero en operar dentro de las redes clasificadas de las fuerzas armadas estadounidenses y por el que el Pentágono firmó un contrato millonario— no podría emplearse en armas autónomas ni en la vigilancia masiva de ciudadanos. La respuesta de Amodei, lejos del teatro mediático que este ensayo describe en otros líderes tecnológicos, fue directa: “Las amenazas no cambian nuestra posición: no podemos, en buena conciencia, acceder a su solicitud”. El episodio condensa con nitidez la paradoja que lo define: en el momento en que más poder tenía para ceder —el contrato en juego ascendía a 200 millones de dólares y la designación de “riesgo para la cadena de suministro” amenazaba con alejar a clientes corporativos de Anthropic—, eligió la restricción ética sobre la conveniencia estratégica. Y su negativa revela que los límites del poder de la ia no se negocian en los grandes discursos, sino en las cláusulas pequeñas de contratos clasificados.

Quizá en eso reside, después de todo, la coherencia perturbadora de Dario Amodei: a veces no somos lo que prometemos, sino lo que nos negamos a conceder.