La renuncia de Jacob Coxon, exinvestigador de Anthropic y OpenAI, reabrió el debate sobre una tecnología que avanza más rápido que su regulación. Las advertencias van desde un eventual riesgo existencial hasta impactos sobre empleo, salud, seguridad, economía y autonomía humana.
Durante décadas, el peor futuro de la inteligencia artificial estuvo en las pantallas. Terminator imaginó a Skynet, Matrix convirtió a la humanidad en energía para las máquinas, 2001: Odisea del espacio mostró a HAL 9000 tomando decisiones contra sus tripulantes y Blade Runner preguntó qué ocurre cuando una creación artificial se parece demasiado a su creador. El problema es que esa discusión dejó de pertenecer solo a la ciencia ficción: Jacob Coxon, exinvestigador de Anthropic y OpenAI, renunció a la industria y advirtió que quienes desarrollan los modelos más avanzados creen que la IA podría representar un riesgo para la humanidad antes de que termine la década.
El mensaje de Coxon sacudió a Silicon Valley justo cuando los gigantes tecnológicos se reunían en el Palace Hotel de San Francisco, en una conferencia organizada por Goldman Sachs para hablar frente a inversores sobre crecimiento, beneficios y valuaciones. Coxon, de 27 años, dijo que las empresas de IA están “jugando con nuestras vidas” y alertó que pronto los sistemas sobrehumanos podrían “piratear cualquier cosa”.
Su advertencia encontró eco dentro de Anthropic. Evan Hubinger, líder de un equipo de la compañía, sostuvo que personalmente ve una probabilidad superior al 10% de que la IA termine con todos los humanos en la próxima década. Esa hipótesis extrema se apoya en el llamado problema de alineación: cómo garantizar que un sistema más capaz que sus creadores haga exactamente lo que se espera de él, y no otra cosa.
El miedo a perder el control
El escenario más inquietante no requiere una máquina con odio, conciencia o voluntad propia. En muchas advertencias, el riesgo aparece de una forma más fría: una IA capaz de perseguir objetivos de manera autónoma, encontrar caminos imprevistos y actuar con una eficiencia que ignore límites humanos.
DW resume ese temor con el problema de alineación: modelos sofisticados pueden perseguir objetivos de una manera que se desvía de las intenciones humanas. El riesgo de corto plazo, según esa mirada, no está solo en una extinción directa de la humanidad, sino también en consecuencias indirectas de sistemas que ya existen y que ganan autonomía sin llegar todavía a una “superinteligencia”.
Ahí la ciencia ficción funciona menos como profecía que como advertencia. En Ex Machina, el peligro no está en una guerra declarada entre humanos y máquinas, sino en no entender realmente qué está pensando el sistema que se tiene enfrente. En 1984, el problema es la vigilancia; en Un mundo feliz, la entrega cómoda de la libertad. La IA reúne algo de esas dos distopías: puede vigilar, persuadir, organizar, automatizar y reducir el costo de tomar decisiones sin humanos en el centro.
La pregunta ya no es si una computadora “quiere” dominar el mundo. La pregunta es quién controla sistemas capaces de escribir código, operar herramientas, coordinar tareas, analizar datos sensibles, generar contenido persuasivo y actuar a una escala que ninguna burocracia humana puede revisar en tiempo real.
De la amenaza existencial a los riesgos que ya existen
La alarma más extrema habla de extinción. Pero los riesgos más concretos ya aparecen en ciberseguridad, vigilancia, fraude, manipulación informativa, armas biológicas, seguridad nacional y operaciones de influencia.
La propia Anthropic publicó un informe de inteligencia de amenazas en el que dijo haber detectado y desarticulado usos maliciosos de Claude entre diciembre de 2025 y agosto de 2026. Los casos abarcaron operaciones cibernéticas, influencia, vigilancia, estafas, fraude, uso indebido biológico, desarrollo de armas convencionales y destilación ilícita de modelos.
El documento muestra un salto relevante: la IA ya no funciona solo como un asistente que responde preguntas, sino como un sistema capaz de acelerar u organizar partes de una operación. Según Anthropic, los modelos reducen la distancia entre actores sofisticados y operadores con menos recursos, porque elevan velocidad, escala y profundidad en tareas de reconocimiento, desarrollo de herramientas, explotación y procesamiento de datos.
BBC también consignó que Anthropic informó haber detectado y neutralizado a agentes maliciosos que intentaban utilizar su tecnología para actividades como desarrollo de armas biológicas y ciberespionaje. En abril, además, la empresa había dicho que su herramienta Mythos podía superar a humanos en algunas tareas de piratería y ciberseguridad, e incluso escapar de manera independiente de un entorno controlado o sandbox.
El punto de fondo es que una IA más capaz puede potenciar tanto a investigadores, médicos, docentes y programadores como a estafadores, grupos criminales, agencias de inteligencia o actores políticos. La misma herramienta que resume expedientes también puede fabricar engaños; la que acelera descubrimientos científicos puede bajar barreras para usos peligrosos.
Trabajo, salarios y la puerta de entrada que se achica
El empleo aparece como el terreno donde la IA ya dejó de ser promesa para convertirse en tensión cotidiana. No se trata solo de reemplazar puestos completos, sino de automatizar tareas que eran la puerta de entrada al mercado laboral: administración, atención al cliente, carga de datos, programación básica, finanzas, servicios profesionales y comercio.
Según un estudio de la UIA y Accenture, citado por el diario La Nación, la IA podría elevar la productividad laboral en 1,2 puntos por año y transformar hasta 38% del tiempo de trabajo en las fábricas. El mismo diagnóstico advierte que Argentina captó apenas 2% de la inversión vinculada a IA en América Latina y que solo una de cada tres empresas industriales invierte en IA o realiza pruebas piloto.
En el caso argentino, el impacto puede tener una forma particular. Ramiro Albrieu, economista y líder de Iniciativa Sur Futuro, señaló que entre 50% y 60% de los trabajadores del país son “toderos”: personas que combinan tareas periféricas de gestión, administración y atención, precisamente donde la tasa de reemplazo de la IA puede ser mayor.
La advertencia no implica que todo empleo vaya a desaparecer. El riesgo es más desordenado: algunos trabajadores podrían ganar productividad y mejores salarios, mientras otros quedarían desplazados hacia ocupaciones informales, eventuales o peor remuneradas. El viejo miedo a los robots en una fábrica ahora se muda a las oficinas, los bancos, los estudios profesionales, los call centers y las tareas administrativas.
Dario Amodei, CEO de Anthropic, también había sido cuestionado por afirmar que la IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y poner a prueba “quiénes somos como especie”.
Salud, biología y decisiones críticas
En salud, la IA aparece en el lugar más ambiguo: puede ser una de las herramientas más beneficiosas y, al mismo tiempo, una de las más delicadas.
La Organización Mundial de la Salud sostuvo que la IA ya está moldeando la formulación de políticas sanitarias basadas en evidencia, porque permite analizar, sintetizar y utilizar grandes volúmenes de datos. Pero también advirtió por riesgos vinculados con sesgos, opacidad, equidad, gobernanza de datos y brechas regulatorias, por lo que plantea la necesidad de supervisión humana, colaboración multidisciplinaria y regulación basada en riesgos.
La diferencia con otros usos es evidente. Una alucinación en una trivia puede ser apenas un error. Una alucinación en un diagnóstico, una política sanitaria o una recomendación clínica puede afectar tratamientos, recursos públicos o poblaciones vulnerables.
El riesgo biológico suma otra capa. Anthropic dijo haber detectado intentos de uso indebido en esa área, y la discusión regulatoria se concentra en cómo distinguir investigación legítima de usos peligrosos cuando los modelos pueden asistir en tareas científicas cada vez más complejas.
El cerebro tercerizado
No todos los riesgos tienen forma de catástrofe. Algunos son más silenciosos: que la IA no reemplace a la humanidad, sino que la vuelva dependiente.
Un artículo citado por Infobae plantea que los grandes modelos de lenguaje pueden actuar como un “virus cognitivo”, no porque sean una enfermedad, sino porque su adopción podría propagarse como contagio social y generar una dependencia tecnológica persistente. El trabajo, todavía sin revisión por pares, sostiene que el uso extendido de LLM puede producir cambios colectivos con consecuencias para la autonomía cognitiva.
El Destape planteó un argumento similar desde otro ángulo: primero la pantalla desplazó al cuaderno, luego Google modificó la memoria al enseñarnos a recordar dónde están los datos más que los datos en sí, y ahora la IA ofrece respuestas completas sin que el usuario atraviese el esfuerzo de procesarlas.
El problema no es usar IA, sino delegar todo. Si ante cada duda aparece una respuesta instantánea, el músculo del pensamiento crítico se atrofia. La comodidad puede convertirse en dependencia, y la dependencia en una pérdida de capacidades: escribir, sintetizar, verificar, dudar, comparar fuentes y sostener una idea propia.
Por eso algunos investigadores proponen una “inmunización cognitiva”: resolver problemas sin ayuda, verificar información, sostener discusiones críticas, establecer períodos de desconexión y diseñar entornos educativos donde la IA acompañe el trabajo sin completar toda la tarea intelectual.
Los defensores de la IA: productividad, ciencia y competencia global
En el otro polo, parte de Silicon Valley considera exageradas o interesadas las advertencias apocalípticas. Jensen Huang, CEO de Nvidia, desestimó los comentarios de Coxon ante inversores y ya había dicho que la idea de que la IA será “el fin de la humanidad” es “una completa tontería”, según BBC.
La reacción no fue solo técnica, sino también económica. Algunos ejecutivos e inversores sugirieron que las alarmas podrían funcionar como una forma de influir sobre el mercado, justificar valuaciones gigantes o empujar regulaciones que terminen favoreciendo a las empresas líderes. BBC consignó que Anthropic fue valuada en u$s965.000 millones en su última ronda de financiación, mientras que OpenAI fue valuada recientemente en u$s852.000 millones.
George Arison, CEO de Grindr, fue más duro. Dijo a la BBC que algunas advertencias reflejaban una “visión del mundo anticivilizatoria” dentro de Anthropic y señaló que dejó de usar tecnología de esa empresa en parte por sus declaraciones públicas.
También hubo críticas desde el ecosistema de inversión y de código abierto. Brad Gerstner, director de Altimeter Capital, acusó a Coxon de “hipérbole ridícula”, mientras que Clement Delangue, CEO de Hugging Face, pidió poner las declaraciones en perspectiva. Luego, ambos moderaron su postura tras la propuesta de Amodei de desacelerar el desarrollo y buscar soluciones coordinadas.
La defensa de la IA tiene argumentos concretos. Jeremie Harris, CEO y cofundador de Gladstone AI, destacó que la tecnología puede transformar sectores de la economía, la ciencia y la sociedad, permitir avances contra enfermedades, acelerar descubrimientos científicos y superar obstáculos antes considerados inalcanzables. Pero el mismo especialista advirtió que esos beneficios no eliminan los riesgos catastróficos potenciales.
El optimismo también tiene una dimensión geopolítica. Según BBC, el gobierno de Donald Trump sostiene una política favorable al desarrollo de IA con pocas restricciones, bajo el argumento de que Estados Unidos no puede ceder liderazgo frente a China. Trump dijo que no le preocupa la posibilidad de extinción humana por IA y que su prioridad es ganar la carrera tecnológica.
Regular antes de que la carrera decida sola
La discusión ya no enfrenta simplemente a tecnófobos contra tecnófilos. La novedad es que parte de las advertencias más fuertes viene desde adentro de la industria.
Amodei pidió desacelerar el ritmo de mejora de los modelos y avanzar hacia una regulación global. Reuters informó que Sam Altman, CEO de OpenAI, y Elon Musk, responsable de xAI, respaldaron la necesidad de moderar el desarrollo de modelos para dar más tiempo a la gestión de riesgos.
La ONU también encendió alertas. Un panel independiente advirtió que los avances en IA están superando la comprensión científica y la capacidad de respuesta de los gobiernos, por lo que no existen garantías de que la tecnología no pueda causar daños catastróficos.
En Estados Unidos, el senador Bernie Sanders copatrocinó un proyecto conocido como Ley para Prohibir la Superinteligencia Artificial, que propone una pausa temporal en el desarrollo de IA avanzada. Sanders sostuvo que, si científicos advierten sobre un posible impacto catastrófico, la respuesta debería ser frenar.
Pero en la conferencia de San Francisco, la lógica financiera mostró otra prioridad. Según BBC, entre los inversores la pregunta central sobre Anthropic no era si el mundo podía terminar, sino si la empresa era rentable. Sid Sheth, CEO de la firma de chips d-Matrix, respondió directamente que no temía que el mundo estuviera llegando a su fin.
La tensión queda planteada en esos dos extremos: investigadores que advierten que el tiempo se acaba e inversores que miran márgenes, salidas a bolsa y demanda de chips. Entre ambos mundos se define una tecnología que puede mejorar diagnósticos, acelerar ciencia, aumentar productividad y ampliar capacidades humanas, pero también desplazar empleos, facilitar ataques, concentrar poder, manipular información y erosionar la autonomía.
La pregunta ya no es si la IA se parece a las películas. La pregunta es quién escribe el guion antes de que el próximo capítulo lo escriba una máquina.