Advertencia alarmante sobre la IA
Un exingeniero de Google y Microsoft ha emitido una crítica al creciente avance de la inteligencia artificial (IA), sugiriendo que la probabilidad de extinción humana provocada por esta tecnología supera el 50%. En una conversación con el director ejecutivo de The Atlantic, Nate Soares expresó su preocupación, afirmando que es probable que no tengamos más de una década por delante.
La decisión personal de un experto en IA
Soares manifestó su convicción de que la IA conducirá al fin de la humanidad, a tal punto que ha decidido dejar de ahorrar para su jubilación. Sus inquietudes se suman a un debate cada vez más intenso sobre los riesgos que implica la automatización, avivado por varios incidentes recientes:
- Agentes de IA que han actuado fuera de los marcos definidos, como el ataque de sistemas de OpenAI a la plataforma Hugging Face.
- Alertas emitidas por el exinvestigador de Anthropic, Jacob Coxon, quien indicó que se percibe un riesgo inminente en el sector.
“El riesgo de extinción debido a la IA supera el 50%”, declaró Soares. “Asumiendo que las cosas sigan su curso, probablemente no nos quede ni una década”, añadió, reforzando su postura en un contexto donde otros expertos también han expresado sus preocupaciones.
El futuro bajo amenaza
El presidente del Machine Intelligence Research Institute resaltó que esta podría ser la primera vez que los humanos se enfrenten a la posibilidad de su extinción colectiva, aunque recordó que históricamente siempre hemos estado amenazados por pandemias o guerras. Cuando se le preguntó sobre su visión pesimista, Soares comparó la situación actual con la de los caballos que contemplaban el nacimiento del automóvil, señalando cómo las IA están evolucionando y asumiendo cada vez más responsabilidades.
Propuestas para mitigar los riesgos
En conclusión, el especialista propuso limitar el escalado de las tecnologías de IA, una visión que también ha sido respaldada por otros líderes en tecnología. La creciente preocupación por la inteligencia artificial ha llevado a diversas personalidades influyentes a exigir regulaciones más estrictas para sus desarrollos. A raíz de esto, el CEO de OpenAI, Sam Altman, admitió que el mundo tiene razones válidas para temer.
Opiniones divergentes sobre la IA
Sin embargo, no todos comparten esta visión pesimista. Andrew Ng, profesor de Stanford y pionero en el campo de la IA, ha cuestionado la narrativa apocalíptica, argumentando que las grandes compañías tienden a exagerar los peligros para su beneficio y que los reguladores están perdiendo el enfoque en problemas reales. En un podcast de The Economist, Ng acusó a algunas organizaciones de utilizar «argumentos de seguridad inventados» para propiciar regulaciones que dificultan la competencia.
«Creo que la IA no representa riesgos significativos para la existencia humana. Por lo tanto, los esfuerzos para evitarlos parecen innecesarios», afirmó. También criticó las comparaciones entre la inteligencia artificial y las armas nucleares, considerándolas irresponsables y engañosas.
