"El mundo está en peligro": La cruda profecía de un líder de seguridad al abandonar la élite de la IA
Mrinank Sharma, referente en la alineación de la IA y mitigación de riesgos biológicos, dejó la compañía afirmando que "el mundo está en peligro" y cuestionando la integridad de las organizaciones frente a la presión comercial
La industria de la Inteligencia Artificial se ha visto sacudida por una nueva e inquietante salida. Mrinank Sharma, quien lideraba investigaciones críticas sobre seguridad y transparencia en Anthropic -una de las empresas más valoradas del sector-, anunció su renuncia el pasado lunes a través de la red social X.
Lo que comenzó como un simple aviso administrativo ("Hoy es mi último día en Anthropic. Renuncié") se transformó rápidamente en un profundo manifiesto sobre la ética tecnológica y el estado actual de la humanidad. En una extensa carta de despedida dirigida a sus colegas, Sharma advirtió que la sociedad se enfrenta a una "policrisis" interconectada y que la tecnología está superando nuestra sabiduría para gestionarla.
Entre la ciencia y la "metacrisis"
Sharma, doctor en IA que se unió a la firma hace dos años, fue una pieza fundamental en el desarrollo de defensas contra el bioterrorismo asistido por IA y en el estudio de cómo los asistentes digitales pueden "distorsionar nuestra humanidad". Sin embargo, su salida parece estar motivada por una creciente brecha entre los valores declarados de la empresa y las acciones reales bajo presión.
"Continuamente me encuentro lidiando con nuestra situación. El mundo está en peligro", escribió Sharma, citando conceptos como la 'metacrisis', un término que define una red de problemas globales (ecológicos, sociales y tecnológicos) que se alimentan entre sí.
Carta publicada en el perfil de "X" de Mrinank Sharma
Críticas a la cultura corporativa
El experto no solo apuntó a factores externos. En su misiva, deslizó críticas a la dinámica interna de las grandes tecnológicas, señalando lo difícil que resulta permitir que los valores gobiernen las acciones. "He visto esto en mí mismo, dentro de la organización -donde enfrentamos constantemente presiones para dejar de lado lo que más importa- y también en la sociedad", sentenció.
Esta renuncia se suma a una tendencia de "desertores de seguridad" en empresas líderes como OpenAI y Google, donde los investigadores de alineación advierten que la carrera por el dominio comercial está dejando de lado las salvaguardas necesarias para evitar riesgos existenciales.
Un giro hacia la "verdad poética"
Sorprendentemente, Sharma anunció que su próximo paso no será hacia otra firma tecnológica, sino hacia la poesía y el "habla valiente". Citando a autores como Rilke, Mary Oliver y William Stafford, el investigador sugirió que la ciencia por sí sola no es suficiente para guiar el desarrollo de la IA.
"Me siento llamado a una escritura que sitúe la verdad poética junto a la verdad científica como formas de conocimiento igualmente válidas", explicó, indicando que planea explorar un grado en poesía y dedicarse al coaching y la construcción de comunidad.
La partida de Sharma deja una vacante crítica en el equipo de transparencia de Anthropic y refuerza el debate sobre si las actuales estructuras de gobierno en Silicon Valley son capaces de contener los riesgos de una tecnología que avanza a velocidad exponencial.
