Jacob Coxon, investigador de Anthropic, renunció a la empresa y advirtió que el desarrollo acelerado de sistemas de inteligencia artificial podría representar un riesgo extremo para la humanidad. En una publicación difundida en X, el científico sostuvo que quienes trabajan en el desarrollo de estas tecnologías consideran posible que la IA provoque una catástrofe antes de que termine la década.
Coxon explicó que pasó los últimos tres años realizando investigación de preentrenamiento tanto en OpenAI como en Anthropic. A su juicio, ambas compañías están avanzando hacia una superinteligencia capaz de mejorarse a sí misma y no están actuando de manera responsable ante los riesgos que implica esa carrera tecnológica.
El investigador también señaló diferencias entre las dos empresas. Según su postura, en OpenAI no todos han dimensionado las consecuencias que podría tener el desarrollo de estos sistemas, mientras que en Anthropic existe una mayor conciencia sobre el riesgo, aunque la compañía estaría presionada por la competencia para avanzar antes que sus rivales.
Las declaraciones cobraron fuerza en redes sociales, la publicación de Coxon acumuló cerca de 50 millones de visualizaciones en pocas horas. Su advertencia ocurre mientras aumentan los debates sobre la seguridad de modelos de IA cada vez más avanzados.
El exjefe de Coxon en Anthropic, Evan Hubinger, responsable de investigación en alineación, respaldó públicamente parte de sus señalamientos. Hubinger afirmó que considera superior al 10 por ciento la posibilidad de que la IA termine con la humanidad durante la próxima década. No obstante, aclaró que considera bajo el riesgo asociado con los modelos actuales y que su principal preocupación está relacionada con una eventual superinteligencia desarrollada mediante procesos de automejora.
El debate se centra así en la capacidad de futuros sistemas para participar en su propio desarrollo y superar las capacidades de generaciones anteriores. Hasta el momento, las declaraciones corresponden a las opiniones y advertencias de los investigadores citados, y no constituyen una confirmación de que un escenario de extinción vaya a ocurrir.
