Cofundador de empresa de inteligencia artificial · Anthropic
Dario Amodei aparece en esta muestra curada de entrevistas. Los cargos y afiliaciones reflejan el contexto de la entrevista.
1 entrevistas · 5 opiniones expresadas · 3 temas
Las traducciones son para facilitar la lectura; los extractos originales siguen siendo la source evidence.
Lo que están diciendo
Opiniones atribuidas, ordenadas por fecha de entrevista. Una instantánea de estas conversaciones, no una afirmación definitiva de las creencias de alguien.
Amodei compara el escalado de modelos con una reacción química que requiere tres ingredientes —redes más grandes, tiempos de entrenamiento más largos y más datos— que deben escalarse linealmente en conjunto. Escalar solo un ingrediente hace que el proceso se detenga porque se agotan los otros reactivos.
Evidencia a favor
Extracto original
almost like a chemical reaction, you have three ingredients in the chemical reaction and you need to linearly scale up the three ingredients. If you scale up one, not the others, you run out of the other reagents and the reaction stops.
Traducción · No es la redacción original
casi como una reacción química, tienes tres ingredientes en la reacción química y necesitas escalar linealmente los tres ingredientes. Si escalas uno, pero no los demás, te quedas sin los otros reactivos y la reacción se detiene.
Limitaciones de la calidad de los datos de Internet
Amodei reconoce que agotar los datos de Internet de alta calidad es un posible límite para el escalado. Aunque existen billones de palabras en línea, gran parte es repetitiva, contenido de optimización para motores de búsqueda de baja calidad o, potencialmente, texto generado por IA en el futuro, lo que restringe el material útil para el entrenamiento.
Evidencia a favor
Extracto original
we simply run out of data. There’s only so much data on the internet, and there’s issues with the quality of the data. You can get hundreds of trillions of words on the internet, but a lot of it is repetitive or it’s search engine optimization drivel
Traducción · No es la redacción original
simplemente nos quedamos sin datos. Solo hay una cantidad limitada de datos en Internet, y hay problemas con la calidad de esos datos. Puedes obtener cientos de trillones de palabras en Internet, pero gran parte de ello es repetitivo o es basura de optimización para motores de búsqueda.
Los modelos actuales de uso de computadoras requieren límites y salvaguardas
El modelo actual de uso de computadoras aún comete errores y clics accidentales, por lo que los usuarios no pueden dejarlo funcionando sin supervisión durante períodos prolongados. Anthropic lo lanzó primero como una API en lugar de otorgar a los consumidores control directo sobre la computadora, subrayando la necesidad de límites y salvaguardas a medida que las capacidades mejoran.
Evidencia a favor
Extracto original
It makes mistakes, it misclicks. We were careful to warn people, “Hey, you can’t just leave this thing to run on your computer for minutes and minutes. You got to give this thing boundaries and guardrails.” And I think that’s one of the reasons we released it first in an API form
Traducción · No es la redacción original
Comete errores, hace clics accidentales. Tuvimos cuidado en advertir a las personas: «Oigan, no pueden simplemente dejar que esta herramienta funcione sola en su computadora durante minutos y minutos. Deben establecerle límites y salvaguardas». Y creo que esa es una de las razones por las que lo lanzamos primero en forma de API.
Una regulación de la IA mal dirigida podría generar rechazo contra la seguridad
Si la regulación de la IA está mal dirigida y crea cargas innecesarias, los profesionales podrían concluir que las preocupaciones sobre la seguridad están exageradas tras haber desperdiciado tiempo en el cumplimiento normativo. Una regulación mal diseñada podría generar un consenso duradero en contra de futuras medidas de responsabilidad, haciendo indispensable un enfoque quirúrgico y preciso.
Evidencia a favor
Extracto original
if we get something in place that’s poorly targeted, that wastes a bunch of people’s time, what’s going to happen is people are going to say, “See, these safety risks, this is nonsense. I just had to hire 10 lawyers to fill out all these forms.
Traducción · No es la redacción original
si implementamos algo mal dirigido, que haga perder mucho tiempo a mucha gente, lo que ocurrirá es que las personas dirán: «Miren, estos riesgos de seguridad son una tontería. Tuve que contratar a diez abogados solo para llenar todos esos formularios».
La extrapolación de capacidades sugiere una llegada en 2026–2027
Extrapolando informalmente las recientes mejoras en las capacidades de la IA —desde el nivel de enseñanza secundaria hasta el de pregrado y luego el de doctorado— se sugiere que una IA poderosa podría llegar para 2026 o 2027. Sin embargo, esta estimación sigue siendo incierta debido a posibles obstáculos como la escasez de datos, límites en la escalabilidad de clústeres o interrupciones geopolíticas.
Evidencia a favor
Extracto original
if you just eyeball the rate at which these capabilities are increasing, it does make you think that we’ll get there by 2026 or 2027. Again, lots of things could derail it. We could run out of data. We might not be able to scale clusters as much as we want.
Traducción · No es la redacción original
si simplemente observas a ojo la tasa a la que aumentan estas capacidades, sí lleva a pensar que llegaremos allí para 2026 o 2027. Nuevamente, muchas cosas podrían desviar este curso: podríamos quedarnos sin datos; quizás no podamos escalar los clústeres tanto como quisiéramos.
nafyi.
