Quellen / Interview

DAS URSPRÜNGLICHE GESPRÄCH

Jensen Huang über Sicherheit von KI-Agenten, Führung und Vertrauen

Lex Fridman Podcast · · 2:25:59

In diesem Interview mit Lex Fridman spricht Jensen Huang über Einschränkungen für KI-Agenten, das gemeinsame Durchdenken von Problemen mit Kollegen und sein grundsätzliches Vertrauen in andere Menschen.

Übersetzungen dienen dem Leseverständnis; die Originalauszüge bleiben die Quellenevidence.

Auf einen Blick

Schlüsselmomente3

Kurze, zitierte Textstellen mit Kontext zur Überprüfung. Das vollständige Gespräch bleibt beim Herausgeber.

KI-Sicherheit

Agentischen Systemen werden jeweils nur zwei von drei Fähigkeiten zugestanden

Originalauszug

We give you two out of three rights. Agentic systems can access sensitive information, it can execute code, and it can communicate externally. We could keep things safe if we gave you two out of those three capabilities at any time, but not all three.

Übersetzung · Nicht die Originalformulierung

Wir gewähren Ihnen zwei von drei Rechten. Agentische Systeme können auf sensible Informationen zugreifen, sie können Code ausführen und sie können extern kommunizieren. Wir könnten die Dinge sicher halten, wenn wir Ihnen zu jedem Zeitpunkt zwei dieser drei Fähigkeiten zugestehen würden, aber nicht alle drei.

Kontext

Sie lassen sich super einfach installieren. Sie stellen sicher, dass es sicher ist. Sie haben also sehr eindrücklich erklärt, wie wir eine lange Geschichte von Hindernissen haben, die wir für unüberwindbar hielten, und wir haben sie überwunden. Aber wenn wir nun in die Zukunft blicken: Was könnten jetzt die Hindernisse sein, da klar ist, dass Agenten überall sein werden? Offensichtlich werden wir Rechenleistung brauchen. Was wird also das Hindernis für diese Skalierung sein?

Originaler Kontext

They install super easy. It makes sure that it’s secure. So you eloquently explained how we have a long history of blockers that we thought were going to be blockers, and we overcame them. But now looking into the future, what do you think might be the blockers now that it’s clear that agents will be everywhere? So it’s obviously we’re going to need compute. So what is going to be the blocker for that scaling?

Entscheidungsfindung

Lautes Denken ermöglicht es Kollegen, Zwischenschritte zu hinterfragen

Originalauszug

The nice thing about reasoning through things and letting people interact with it is that they don’t have to disagree with your outcome. They can disagree with your reasoning steps. And they could pull me in different directions, and then we can reason forward.

Übersetzung · Nicht die Originalformulierung

Das Schöne daran, Dinge durchzudenken und andere daran teilhaben zu lassen, ist, dass sie nicht mit Ihrem Ergebnis uneinig sein müssen. Sie können mit Ihren Denkschritten uneinig sein. Und sie könnten mich in verschiedene Richtungen ziehen, und dann können wir gemeinsam weiterdenken.

Kontext

Und wenn ich falschliege – wenn ich falschliege oder es sich anders entwickelt hat oder, wissen Sie, ich meine, bei den meisten Dingen, die ich nach außen sage, bin ich mir ziemlich sicher. Und der Grund dafür ist, dass es Auswirkungen auf jemand anderen haben wird, und ich möchte dabei sehr bedacht und sehr vorsichtig sein. Bei Dingen, über die ich innerhalb eines Meetings nachdenke, wissen Sie, könnte vieles ganz anders ausgehen. Und so, aber es hindert mich nie daran, nachzudenken. So wie ich manage und führe, denke ich ständig vor anderen Menschen nach. Und selbst wenn ich mit Ihnen spreche, können Sie gewissermaßen sehen, wie ich Dinge durchdenke. Und ich möchte sicherstellen, dass Sie verstehen, was ich sage, nicht weil ich es Ihnen gesagt habe – Ja, Sie haben diese Art an sich … Wenn Sie etwas erklären, kann ich spüren, wie Sie tatsächlich spontan darüber nachdenken, mit einer ständigen Offenheit, bei der ich … Ich hatte das Gefühl, ich könnte Ihr Denken lenken. Und das ist – das ist wirklich wunderschön, dass Sie das nach so vielen Jahren des Erfolgs und des Schmerzes bewahren konnten. Ich glaube, manchmal schließt Schmerz einen ein wenig ab. Und ich denke, um zu bewahren –

Originaler Kontext

And when I’m wrong—when I’m wrong or it didn’t turn out that way or, you know, I mean, most of the things that I say outside I’m fairly certain about. And the reason for that is because it’s gonna impact somebody else and I want to be quite concerned about that and quite circumspect about that. For stuff that I’m reasoning about inside a meeting, you know, a lot of things could turn out differently. And so, but it doesn’t ever stop me from reasoning. The way that I manage and lead, I’m constantly reasoning in front of people. And even when I’m talking to you, you can kind of see me reasoning through things. And I want to make sure that you understand what I’m saying not because I told you- Yeah, you have this way about you of … When you’re explaining stuff, I can feel you actually reasoning on the spot about it with a constant open-mindedness where you could … I could feel like I could steer your thinking. And that’s a—that’s really beautiful that you’ve been able to maintain that after so many years of success, and pain. I think sometimes pain closes you down a bit. And I think to maintain-

Entscheidungsfindung

Ausgehend vom Vertrauen, trotz gelegentlicher Ausnutzung

Originalauszug

I start with always that people want to do good. People want to help others. And vastly, I am proven right. Constantly proven right. And often it exceeds my expectations.

Übersetzung · Nicht die Originalformulierung

Ich gehe immer davon aus, dass Menschen Gutes tun wollen. Dass Menschen anderen helfen wollen. Und in der überwiegenden Mehrheit werde ich darin bestätigt. Ständig bestätigt. Und oft übertrifft es meine Erwartungen.

Kontext

Nun, aus Fan-Perspektive, angesichts Ihres außerordentlich enormen positiven Einflusses auf die Zivilisation, hoffe ich natürlich, dass Sie weitermachen. Aber es macht auch einfach Spaß, zuzusehen, was NVIDIA tut, wissen Sie. Allein das Innovationstempo. Und ich bin ein großer Fan des Ingenieurwesens. Es wird bei NVIDIA kontinuierlich so viel unglaubliches Ingenieurwesen geleistet. Es macht einfach Spaß, zuzusehen. Es ist eine Feier der Menschheit, eine Feier großartiger Builder, eine Feier großartigen Ingenieurwesens. Es steht also für etwas Besonderes. Deshalb hoffe ich, dass Sie und NVIDIA weitermachen. Was gibt Ihnen Hoffnung bei dieser ganzen Sache, die wir hier am Laufen haben, bei der Menschheit, bei der Zukunft der Menschheit? Wenn Sie nach vorn blicken, wenn Sie ziemlich viel über die Zukunft nachdenken, wenn Sie 10, 20, 50, 100 Jahre vorausblicken – was gibt Ihnen Hoffnung? Und dass es so viele Dinge gibt, die wir lösen wollen. Es gibt so viele Probleme, die wir lösen wollen. Es gibt so viele Dinge, die wir bauen wollen. Es gibt so viele gute Dinge, die wir tun wollen und die nun in unserer Reichweite sind, und in der Reichweite meines Lebens. Da kann man unmöglich nicht romantisch darüber sein. Wissen Sie, was ich meine? O-

Originaler Kontext

Well, from a fan perspective, given your extremely enormous positive impact on civilization, of course, I hope you keep going. But also it’s just fun to watch what NVIDIA is doing, you know. It’s just the rate of innovation. And I’m a huge fan of engineering. There’s so much incredible engineering continuously being done by NVIDIA. It’s just fun to watch. It’s a celebration of humanity, a celebration of great builders, a celebration of great engineering. So, it represents something special. So I hope you and NVIDIA keep going. What gives you hope about this whole thing we got going on, about humanity, about the future of humanity? When you look out, when you think about the future quite a bit, when you look out 10, 20, 50, 100 years from now, what gives you hope? And that there’s so many things that we wanna solve. There’s so many problems we wanna solve. There’s so many things that we wanna build. There’s so many good things that we wanna do that are now within our reach, and within the reach of my lifetime. You just can’t possibly not be romantic about that. You know what I’m saying? O-

Quelle & Methodik

Diese expressed opinions sind mit dem zeitgestempelten Transkript des Herausgebers verknüpft. Paraphrasierungen sind gekennzeichnet; sie werden nicht als wörtliche Zitate dargestellt.

Lesen Sie das Transkript des Herausgebers (wird in einem neuen Tab geöffnet)Ein Problem melden