Investigador de Anthropic advierte sobre los riesgos de la IA

Jacob Coxon, exinvestigador de Anthropic, afirmó que existe un "miedo genuino" entre trabajadores del sector ante la rapidez con la que avanza la inteligencia artificial (IA) y sus posibles consecuencias para la humanidad. Tras abandonar la compañía, publicó un texto sobre los peligros de esta tecnología que se volvió viral y posteriormente habló con la BBC.

"Creo que, si no frenamos el ritmo actual de progreso, existe una gran probabilidad de que todos muramos en un futuro inmediato", afirmó Coxon. El investigador, que anteriormente trabajó en OpenAI, sostuvo que algunos de sus colegas consideran que los escenarios más graves podrían materializarse en los próximos años.

Piden frenar el desarrollo

El debate coincide con el llamado de Dario Amodei, director de Anthropic, para reducir la velocidad del desarrollo de la IA. El empresario ha señalado que los avances tecnológicos no están en discusión, pero que los riesgos son "graves" y requieren tiempo para que compañías y gobiernos puedan establecer mecanismos de prevención y regulación de la IA.

Coxon respaldó la propuesta, aunque advirtió que cualquier medida tendría que coordinarse con China para evitar "una carrera a escala internacional". Sam Altman, de OpenAI, y Elon Musk, de xAI, también han expresado respaldo a desacelerar el desarrollo y establecer una supervisión independiente sobre los nuevos modelos.

Riesgos y posiciones encontradas

Entre los escenarios que preocupan a investigadores se encuentra la posibilidad de que agentes automatizados lleguen a controlar grandes partes de Internet. Coxon estimó que un escenario de este tipo podría ocurrir en un plazo de seis meses a un año, aunque otras voces han cuestionado la posibilidad de establecer pronósticos precisos sobre una eventual extinción causada por la IA.

Anthropic respondió que la tecnología traerá "enormes beneficios" y "riesgos sin precedentes", y aseguró que desarrolla modelos con algunas de las medidas de seguridad más sólidas del sector. La discusión, además, enfrenta a quienes reclaman mayores controles con críticos que consideran que las advertencias podrían estar vinculadas con intereses empresariales y competitivos.