Jacob Coxon, investigador británico especializado en el preentrenamiento de modelos de inteligencia artificial, anunció su salida de Anthropic y lanzó una advertencia sobre los riesgos que, a su juicio, implica la actual carrera de las grandes compañías de IA hacia sistemas cada vez más avanzados.
Coxon, de 27 años, quien anteriormente trabajó en OpenAI en proyectos relacionados con GPT-4o, señaló que tanto Anthropic como OpenAI están avanzando hacia una posible superinteligencia capaz de mejorar sus propias capacidades, sin que exista todavía un mecanismo suficiente para garantizar su control.
A través de X y posteriormente en entrevistas con medios internacionales, sostuvo que estos sistemas podrían tener la capacidad de vulnerar sistemas informáticos, transformar sectores completos en poco tiempo y concentrar grandes cantidades de poder y recursos.
El investigador también afirmó que dentro de los laboratorios existe preocupación real sobre la posibilidad de que una inteligencia artificial avanzada pueda representar una amenaza para la humanidad hacia el final de esta década.
Sus declaraciones cobraron mayor relevancia luego de que Evan Hubinger, responsable de investigación de alineamiento científico en Anthropic, respaldara públicamente una de sus principales advertencias.
Hubinger señaló que, efectivamente, existe una preocupación dentro del sector sobre el riesgo de que una superinteligencia pueda provocar la extinción humana. En su caso, estimó en más de 10 por ciento la posibilidad de que esto ocurra durante la próxima década.
No obstante, aclaró que los modelos actuales presentan un nivel de riesgo considerablemente menor y que la principal preocupación está relacionada con una eventual superinteligencia capaz de mejorar sus propias capacidades de manera recursiva.
Coxon considera que ningún laboratorio privado puede desarrollar de manera responsable una inteligencia artificial superior a los humanos en múltiples tareas sin una mayor intervención gubernamental o una desaceleración coordinada de la industria.
