LA CONVERSACIÓN ORIGINAL

Jensen Huang sobre la seguridad de los agentes de IA, el liderazgo y la confianza

Lex Fridman Podcast · 23 mar 2026 · 2:25:59

En esta entrevista con Lex Fridman, Jensen Huang analiza las restricciones aplicadas a los agentes de IA, el razonamiento de problemas junto con colegas y su confianza por defecto en otras personas.

Jensen Huang

Ver en YouTube

Las traducciones son para facilitar la lectura; los extractos originales siguen siendo la source evidence.

De un vistazo

Otorgar a los sistemas agénticos solo dos de tres capacidades a la vez[1]Ver el momento de apoyo
Razonar en voz alta permite a los colegas cuestionar los pasos intermedios[2]Ver el momento de apoyo
Partir de la confianza a pesar de que a veces se aprovechen de uno[3]Ver el momento de apoyo

Momentos clave3

Fragmentos breves y atribuidos, con el contexto necesario para verificarlos. La conversación completa permanece con su editor.

37:03

Seguridad de la IA

Otorgar a los sistemas agénticos solo dos de tres capacidades a la vez

Extracto original

We give you two out of three rights. Agentic systems can access sensitive information, it can execute code, and it can communicate externally. We could keep things safe if we gave you two out of those three capabilities at any time, but not all three.

Traducción · No es la redacción original

Les damos dos de tres derechos. Los sistemas agénticos pueden acceder a información confidencial, pueden ejecutar código y pueden comunicarse externamente. Podríamos mantener las cosas seguras si les diéramos dos de esas tres capacidades en cualquier momento, pero no las tres.

Jensen Huang·23 mar 2026

Contexto

Se instalan muy fácilmente. Se asegura de que sea seguro. Así que explicaste con elocuencia cómo tenemos una larga historia de obstáculos que pensábamos que iban a ser obstáculos, y los superamos. Pero ahora mirando hacia el futuro, ¿cuáles crees que podrían ser los obstáculos ahora que está claro que los agentes estarán en todas partes? Obviamente vamos a necesitar capacidad de cómputo. Entonces, ¿cuál va a ser el obstáculo para esa escalabilidad?

Contexto original

They install super easy. It makes sure that it’s secure. So you eloquently explained how we have a long history of blockers that we thought were going to be blockers, and we overcame them. But now looking into the future, what do you think might be the blockers now that it’s clear that agents will be everywhere? So it’s obviously we’re going to need compute. So what is going to be the blocker for that scaling?

1:46:40

Toma de decisiones

Razonar en voz alta permite a los colegas cuestionar los pasos intermedios

Extracto original

The nice thing about reasoning through things and letting people interact with it is that they don’t have to disagree with your outcome. They can disagree with your reasoning steps. And they could pull me in different directions, and then we can reason forward.

Traducción · No es la redacción original

Lo bueno de razonar las cosas y dejar que la gente interactúe con ello es que no tienen que estar en desacuerdo con tu resultado. Pueden estar en desacuerdo con tus pasos de razonamiento. Y podrían llevarme en diferentes direcciones, y entonces podemos razonar hacia adelante.

Jensen Huang·23 mar 2026

Contexto

Y cuando me equivoco —cuando me equivoco o no resultó así o, ya sabes, quiero decir, de la mayoría de las cosas que digo afuera estoy bastante seguro. Y la razón de eso es porque va a impactar a alguien más y quiero estar bastante preocupado por eso y ser bastante prudente al respecto. Para las cosas sobre las que razono dentro de una reunión, ya sabes, muchas cosas podrían resultar diferentes. Y así, pero nunca deja de impedirme razonar. La forma en que gestiono y lidero, estoy constantemente razonando frente a la gente. E incluso cuando te hablo, puedes verme razonando las cosas. Y quiero asegurarme de que entiendas lo que digo no porque te lo dije- Sí, tienes esa manera de… Cuando explicas cosas, puedo sentirte realmente razonando sobre ellas en el momento con una mentalidad abierta constante donde podrías… Sentía que podía dirigir tu pensamiento. Y eso es—es realmente hermoso que hayas podido mantener eso después de tantos años de éxito y dolor. Creo que a veces el dolor te cierra un poco. Y creo que mantener-

Contexto original

And when I’m wrong—when I’m wrong or it didn’t turn out that way or, you know, I mean, most of the things that I say outside I’m fairly certain about. And the reason for that is because it’s gonna impact somebody else and I want to be quite concerned about that and quite circumspect about that. For stuff that I’m reasoning about inside a meeting, you know, a lot of things could turn out differently. And so, but it doesn’t ever stop me from reasoning. The way that I manage and lead, I’m constantly reasoning in front of people. And even when I’m talking to you, you can kind of see me reasoning through things. And I want to make sure that you understand what I’m saying not because I told you- Yeah, you have this way about you of … When you’re explaining stuff, I can feel you actually reasoning on the spot about it with a constant open-mindedness where you could … I could feel like I could steer your thinking. And that’s a—that’s really beautiful that you’ve been able to maintain that after so many years of success, and pain. I think sometimes pain closes you down a bit. And I think to maintain-

2:20:56

Toma de decisiones

Partir de la confianza a pesar de que a veces se aprovechen de uno

Extracto original

I start with always that people want to do good. People want to help others. And vastly, I am proven right. Constantly proven right. And often it exceeds my expectations.

Traducción · No es la redacción original

Siempre parto de que la gente quiere hacer el bien. La gente quiere ayudar a otros. Y, en gran medida, se demuestra que tengo razón. Constantemente se demuestra que tengo razón. Y a menudo supera mis expectativas.

Jensen Huang·23 mar 2026

Contexto

Bueno, desde la perspectiva de un fanático, dado tu impacto positivo extremadamente enorme en la civilización, por supuesto, espero que sigas adelante. Pero también es simplemente divertido ver lo que NVIDIA está haciendo, ya sabes. Es solo el ritmo de innovación. Y soy un gran fanático de la ingeniería. Hay tanta ingeniería increíble que NVIDIA hace continuamente. Es simplemente divertido de ver. Es una celebración de la humanidad, una celebración de grandes constructores, una celebración de gran ingeniería. Así que representa algo especial. Por eso espero que tú y NVIDIA sigan adelante. ¿Qué te da esperanza sobre todo esto que tenemos en marcha, sobre la humanidad, sobre el futuro de la humanidad? Cuando miras hacia adelante, cuando piensas bastante en el futuro, cuando miras a 10, 20, 50, 100 años desde ahora, ¿qué te da esperanza? Y es que hay tantas cosas que queremos resolver. Hay tantos problemas que queremos resolver. Hay tantas cosas que queremos construir. Hay tantas cosas buenas que queremos hacer que ahora están a nuestro alcance, y al alcance de mi vida. Simplemente no puedes no ser romántico al respecto. ¿Sabes lo que digo? O-

Contexto original

Well, from a fan perspective, given your extremely enormous positive impact on civilization, of course, I hope you keep going. But also it’s just fun to watch what NVIDIA is doing, you know. It’s just the rate of innovation. And I’m a huge fan of engineering. There’s so much incredible engineering continuously being done by NVIDIA. It’s just fun to watch. It’s a celebration of humanity, a celebration of great builders, a celebration of great engineering. So, it represents something special. So I hope you and NVIDIA keep going. What gives you hope about this whole thing we got going on, about humanity, about the future of humanity? When you look out, when you think about the future quite a bit, when you look out 10, 20, 50, 100 years from now, what gives you hope? And that there’s so many things that we wanna solve. There’s so many problems we wanna solve. There’s so many things that we wanna build. There’s so many good things that we wanna do that are now within our reach, and within the reach of my lifetime. You just can’t possibly not be romantic about that. You know what I’m saying? O-

Fuente y metodología

Estas opiniones están vinculadas a la transcripción con marca de tiempo del editor. Las paráfrasis están etiquetadas; no se presentan como citas textuales.

Leer la transcripción del editor Reportar un problema