TE RECOMENDAMOS
Jacob Coxon, ingeniero de IA que trabajó en Anthropic y OpenAI, advirtió que la inteligencia artificial podría llegar a crear “armas biológicas”, las cuales serían "capaces de provocar una extinción masiva".
Coxon, de 27 años, fue tendencia en redes luego de que renunciara a su trabajo en Anthropic, desarrolladores de Claude, y afirmara en un hilo en X que la IA podría “matarnos a todos al final de esta década”.
En entrevista con CNN, el ingeniero reiteró su preocupación por el rápido “ritmo de progreso” de las IAs y señaló que en uno o dos años podría producirse la “automejora recursiva”, que consiste en que una IA sea capaz de diseñar y desarrollar de manera autónoma a su propio sucesor, según explicó Anthropic.
Esto es lo que dijo Jacob Coxon sobre los riesgos que observa en el desarrollo de la inteligencia artificial.
IA podría hackear estructuras críticas y crear armas biológicas
En entrevista con Anderson Cooper para CNN, Jacob Coxon aseguró que, aunque parezca “algo irreal” la idea de que la IA podría matar a la humanidad, es “aterradoramente real”.
El ingeniero explicó que, si la IA gana autonomía en el futuro, podría “causar estragos extremos”, como hackear “estructuras críticas” o “crear armas biológicas, capaces de provocar una extinción masiva”.
“Parece algo irreal, pero creo que es aterradoramente real. Y es más fácil entenderlo si piensas en cosas concretas que sucedieron hace dos meses. Hace dos meses, agentes de OpenAI, es decir, IAs, hackeraron infraestructuras de terceros por iniciativa propia. Fue una oleada concentrada de hackeos que llevaron a cabo por voluntad propia. Y creo que, si extrapolamos al futuro el nivel de capacidades de estas IAs con esa misma autonomía, podrían causar estragos extremos. Por ejemplo, hackeando estructuras críticas o creando armas biológicas, capaces de provocar una extinción masiva. Hay muchas formas en las que la IA podría actuar por sí misma en el mundo”, dijo.
IA podría reemplazar a humanos en programación y matemáticas
Jacob Coxon reiteró que las IAs están progresando muy rápido y consideró que pronto podrían dejar de necesitarse humanos para realizar investigaciones en distintas áreas, como la programación y las matemáticas.
“Creo que es muy importante fijarse en el ritmo de progreso. Por ejemplo, en áreas como la programación o las matemáticas, hace un par de años estas IAs solo ayudaban un poco a los humanos. Podían ofrecer sugerencias, pero ahora están cerca de reemplazarlos. De momento seguimos necesitando a los humanos, pero es muy probable que, en cuestión de un año, ya no los necesitemos para realizar investigaciones en muchas áreas”, aseguró.
¿La IA podría extinguir a la humanidad? Esto dice Jacob Coxon
Jacob Coxon aclaró que, con los modelos actuales de IA, no existe un riesgo de extinción, pues todavía no alcanzan un nivel superior de inteligencia. A lo mucho, podría ocurrir que la IA hackee algún sistema y cause daños considerables a una estructura, según explicó.
“Ahora mismo no existe riesgo de extinción. Con los modelos actuales, lo peor que pueden hacer es, tal vez, hackear algo y causar daños considerables a una estructura. Pero no son lo suficientemente inteligentes como para superarnos a un nivel que conduzca a la extinción”, señaló.
Sin embargo, considera que dentro de uno o dos años podría ocurrir la automejora recursiva y que, a causa de ello, la humanidad podría extinguirse.
“Lo que resulta realmente asombroso es observar el ritmo de avance. Existe una posibilidad muy real de que, en un futuro inmediato, hablamos de cuestión de uno o dos años, se produzca la automejora recursiva y entremos en la fase descrita en la publicación de Evan, donde se plantea la posibilidad de que todos muramos a consecuencia de ello. Eso es algo que está por llegar pronto”, advirtió.
[Publicidad]