Sources / Entretien

LA CONVERSATION ORIGINALE

Jensen Huang sur la sécurité des agents IA, le leadership et la confiance

Lex Fridman Podcast · · 2:25:59

Dans cet entretien avec Lex Fridman, Jensen Huang aborde les contraintes imposées aux agents IA, la résolution collective de problèmes avec ses collègues, ainsi que sa disposition naturelle à faire confiance aux autres.

Les traductions sont destinées à la lecture ; les extraits originaux restent la source evidence.

En un coup d’œil

Moments clés3

Extraits courts et attribués, avec le contexte permettant de les vérifier. La conversation complète reste chez son éditeur.

Sécurité de l'IA

Accorder aux systèmes agents uniquement deux des trois capacités à la fois

Extrait original

We give you two out of three rights. Agentic systems can access sensitive information, it can execute code, and it can communicate externally. We could keep things safe if we gave you two out of those three capabilities at any time, but not all three.

Traduction · Pas la formulation originale

Nous vous accordons deux droits sur trois. Les systèmes agents peuvent accéder à des informations sensibles, exécuter du code et communiquer avec l’extérieur. Nous pourrions garantir la sécurité en leur octroyant deux de ces trois capacités à tout moment, mais pas les trois simultanément.

Contexte

Ils s’installent très facilement. Cela garantit leur sécurité. Vous avez donc exposé avec éloquence comment nous avons une longue histoire de blocages que nous pensions insurmontables, puis que nous avons finalement surmontés. Mais en regardant vers l’avenir, quels blocages identifiez-vous aujourd’hui, alors qu’il est désormais clair que les agents seront omniprésents ? Il est évident que nous aurons besoin de puissance de calcul. Quel sera donc le principal frein à cette évolution ?

Contexte d’origine

They install super easy. It makes sure that it’s secure. So you eloquently explained how we have a long history of blockers that we thought were going to be blockers, and we overcame them. But now looking into the future, what do you think might be the blockers now that it’s clear that agents will be everywhere? So it’s obviously we’re going to need compute. So what is going to be the blocker for that scaling?

Prise de décision

Raisonner à voix haute permet aux collègues de contester les étapes intermédiaires

Extrait original

The nice thing about reasoning through things and letting people interact with it is that they don’t have to disagree with your outcome. They can disagree with your reasoning steps. And they could pull me in different directions, and then we can reason forward.

Traduction · Pas la formulation originale

L’avantage de raisonner à voix haute et de laisser les autres interagir avec ce raisonnement, c’est qu’ils n’ont pas besoin de contester votre conclusion finale : ils peuvent contester vos étapes intermédiaires. Ils peuvent me guider dans différentes directions, puis nous pouvons poursuivre ensemble le raisonnement.

Contexte

Et quand j’ai tort — quand j’ai tort ou que les choses ne se déroulent pas comme prévu, ou, vous savez, la plupart des choses que je dis publiquement, j’en suis assez certain. Et la raison en est qu’elles auront un impact sur autrui, donc je tiens à faire preuve d’une grande prudence et d’une grande circonspection à ce sujet. Pour les sujets que je traite en réunion, beaucoup de choses pourraient évoluer différemment. Cela ne m’empêche jamais de raisonner. Ma façon de diriger consiste à raisonner constamment devant les autres. Même lorsque je vous parle, vous pouvez sentir que je raisonne en temps réel. Je veux m’assurer que vous comprenez ce que je dis non pas parce que je vous l’ai affirmé — Oui, vous avez cette particularité… Lorsque vous expliquez quelque chose, j’ai l’impression que vous raisonnez sur le vif, avec une ouverture d’esprit constante, comme si je pouvais orienter votre pensée. C’est magnifique — vraiment magnifique — que vous ayez conservé cette capacité après tant d’années de succès, et de souffrance. Parfois, la souffrance nous ferme. Et je pense qu’il est remarquable de maintenir…

Contexte d’origine

And when I’m wrong—when I’m wrong or it didn’t turn out that way or, you know, I mean, most of the things that I say outside I’m fairly certain about. And the reason for that is because it’s gonna impact somebody else and I want to be quite concerned about that and quite circumspect about that. For stuff that I’m reasoning about inside a meeting, you know, a lot of things could turn out differently. And so, but it doesn’t ever stop me from reasoning. The way that I manage and lead, I’m constantly reasoning in front of people. And even when I’m talking to you, you can kind of see me reasoning through things. And I want to make sure that you understand what I’m saying not because I told you- Yeah, you have this way about you of … When you’re explaining stuff, I can feel you actually reasoning on the spot about it with a constant open-mindedness where you could … I could feel like I could steer your thinking. And that’s a—that’s really beautiful that you’ve been able to maintain that after so many years of success, and pain. I think sometimes pain closes you down a bit. And I think to maintain-

Prise de décision

Partir de la confiance malgré des cas occasionnels d’exploitation

Extrait original

I start with always that people want to do good. People want to help others. And vastly, I am proven right. Constantly proven right. And often it exceeds my expectations.

Traduction · Pas la formulation originale

Je pars toujours du principe que les gens veulent faire le bien, qu’ils veulent aider les autres. Et, dans la très grande majorité des cas, je me vois confirmé dans cette conviction. Constamment confirmé. Et souvent, cela dépasse même mes attentes.

Contexte

Eh bien, du point de vue d’un admirateur, compte tenu de votre impact positif extraordinairement important sur la civilisation, bien sûr, j’espère que vous continuerez. Mais c’est aussi tout simplement passionnant de suivre ce que fait NVIDIA. Le rythme de l’innovation est incroyable. Je suis un grand amateur d’ingénierie. NVIDIA réalise continuellement des prouesses d’ingénierie remarquables. C’est tout simplement passionnant à suivre. C’est une célébration de l’humanité, une célébration des grands bâtisseurs, une célébration de la grande ingénierie. Cela représente donc quelque chose de particulier. J’espère donc que vous et NVIDIA continuerez. Qu’est-ce qui vous donne espoir face à ce que nous vivons actuellement, face à l’humanité, face à l’avenir de l’humanité ? Lorsque vous regardez loin devant vous, lorsque vous réfléchissez beaucoup à l’avenir, dans 10, 20, 50 ou même 100 ans, qu’est-ce qui vous inspire de l’espoir ? Il y a tant de choses que nous voulons résoudre. Tant de problèmes que nous voulons régler. Tant de choses que nous voulons construire. Tant de bonnes choses que nous voulons accomplir, désormais à notre portée — et même à portée de ma propre vie. Il est tout simplement impossible de ne pas être romantique à ce sujet. Vous voyez ce que je veux dire ? O-

Contexte d’origine

Well, from a fan perspective, given your extremely enormous positive impact on civilization, of course, I hope you keep going. But also it’s just fun to watch what NVIDIA is doing, you know. It’s just the rate of innovation. And I’m a huge fan of engineering. There’s so much incredible engineering continuously being done by NVIDIA. It’s just fun to watch. It’s a celebration of humanity, a celebration of great builders, a celebration of great engineering. So, it represents something special. So I hope you and NVIDIA keep going. What gives you hope about this whole thing we got going on, about humanity, about the future of humanity? When you look out, when you think about the future quite a bit, when you look out 10, 20, 50, 100 years from now, what gives you hope? And that there’s so many things that we wanna solve. There’s so many problems we wanna solve. There’s so many things that we wanna build. There’s so many good things that we wanna do that are now within our reach, and within the reach of my lifetime. You just can’t possibly not be romantic about that. You know what I’m saying? O-

Source et méthodologie

Ces opinions exprimées sont liées à la transcription horodatée de l’éditeur. Les reformulations sont étiquetées ; elles ne sont pas présentées comme des citations littérales.

Lire la transcription de l’éditeur (s’ouvre dans un nouvel onglet)Signaler un problème