Dario Amodei, director ejecutivo de Anthropic, afirmó en una entrevista con CBS Sunday Morning que el sector presentó la tecnología «lo más positiva posible» y que él no está cómodo con que una empresa privada la desarrolle.
Dario Amodei, director ejecutivo de Anthropic, concedió una entrevista a la periodista Jo Ling Kent de CBS Sunday Morning en la sede de la empresa en San Francisco. Durante la conversación, Amodei respondió a una consulta sobre qué mensaje daría a un usuario doméstico de Claude o ChatGPT que siente temor.
«No te voy a mentir. Hay peligros reales. Y creo que durante demasiado tiempo la industria le mintió a la gente sobre el hecho de que esta tecnología tenía riesgos», declaró Amodei.
El directivo agregó que la intención del sector fue presentar la tecnología «lo más positiva posible», que Anthropic no lo hizo pero «demasiada parte de la industria sí», y que «todo empieza por decir la verdad».
Amodei explicó por qué escribió un ensayo en el que pide frenar el desarrollo. «Desde antes de fundar Anthropic digo que esta tecnología está en una exponencial: uno, dos, cuatro, ocho, dieciséis, treinta y dos. Pero aun diciéndomelo a mí mismo, no creo que apreciara del todo lo que sería cuando el progreso fuera tan rápido como es», sostuvo.
Sobre el punto actual de esa curva, Amodei afirmó: «Estamos en la parte donde empieza a ponerse empinada».
Kent le preguntó dos veces si eso constituye un incendio de cinco alarmas. «No significa que haya que entrar en pánico hoy. No significa que haya que apagarlo todo. Es una señal de advertencia de que tenemos que frenar», respondió.
Consultado sobre si Anthropic dejará de lanzar modelos más avanzados, Amodei dijo: «No significa eso». Explicó que la idea es que cada nueva generación sea evaluada exhaustivamente antes de su lanzamiento.
Respecto de los evaluadores externos que su plan propone incorporar dentro de cada empresa, Amodei los describió: «Es como un inspector de alimentos».
Cuando Kent objetó que ningún inspector puede seguir el ritmo de esta tecnología, Amodei respondió que los evaluadores podrán indicar a qué velocidad logran seguirla, «y eso puede ser uno de los factores que fije el límite de velocidad».
Ante la pregunta por Jacob Coxon, el investigador que renunció diciendo que Anthropic y OpenAI «apuestan con nuestras vidas», Amodei repitió lo que ya había dicho en CNN: que Coxon también calificó a Anthropic como «la más responsable de las grandes» y que «señalaba honestamente lo mismo que yo señalo: la dificultad estructural de la situación en la que estamos todos».
Sobre su responsabilidad personal, Amodei afirmó: «Siempre fue muy raro que esta tecnología la construya una empresa privada. La gente me pregunta todo el tiempo por qué no la construye un gobierno. Y lo más raro es que estoy de acuerdo con ellos. No estoy cómodo con eso».
Kent le preguntó si entregaría la empresa. «A la combinación correcta de gobiernos», respondió. Señaló que le preocupa que un solo gobierno abuse de la tecnología «tan fácilmente como una sola empresa», pero mencionó «una combinación de gobiernos elegidos democráticamente, no sé si entregarla, pero algún tipo de supervisión, algún tipo de gobernanza conjunta».
Amodei también dijo que habla «todos los días» con funcionarios de Comercio, del Tesoro y de la comunidad de inteligencia de Estados Unidos.
Cuando Kent le dijo que la gente siente que «unas pocas empresas hacen lo que quieren», Amodei contestó: «Lo sé. Sé que así se sienten. Nunca quise eso. Tenemos que encontrar la forma de que deje de ser cierto».
Sobre la idea de un interruptor para apagar la IA, dijo que «podría ser una buena idea», con una advertencia: «Si un modelo es lo bastante poderoso, puede eludir los intentos de apagarlo, y lo hemos visto en simulaciones».
Su modelo de defensa es el del queso suizo: cada capa de seguridad tiene agujeros, pero cinco capas juntas los tienen en lugares distintos y es muy difícil atravesarlas todas. «No hay una sola cosa que nos proteja», afirmó.
Sobre un límite de velocidad global a la IA, admitió: «Va a ser muy difícil, porque los incentivos para adelantarse y la ventaja militar son enormes. Honestamente, no sé si es posible. Pero deberíamos intentarlo».
Amodei contó que su padre murió de hepatitis C cuando la enfermedad era curable en un 40% de los casos, y que pocos años después un medicamento la llevó al 95%. Él mismo sobrevivió a un cáncer temprano que «en 1950 probablemente me habría matado». «Siento el peso de traer los beneficios. También siento los riesgos», reconoció.
Dos días antes, Anthropic había publicado un informe sobre intentos de usar sus modelos para aumentar la infecciosidad de virus.
«Casi todos los días se burlan de mí en redes porque las salvaguardas de biología de nuestro modelo son demasiado fuertes. Los estudiantes de biología se quejan. Prefiero que se burlen de mí antes que despertarme un día y descubrir que alguien usó Claude para matar a un montón de gente», manifestó.
El plan es el mismo que publicó el sábado. Lo que cambió es la confesión: el CEO de la empresa que se presenta como la más prudente dice que su industria mintió, y que él no quiere cargar solo con este poder.