Investigador de seguridad de IA advierte riesgos globales tras dejar Anthropic

Mrinank Sharma, quien estuvo al frente del equipo de investigación de salvaguardias en la empresa Anthropic desde su creación el año pasado, anunció formalmente su renuncia. A través de una carta pública, el especialista señaló preocupaciones estructurales sobre los riesgos de seguridad que conlleva el desarrollo acelerado de sistemas de inteligencia artificial, instando a una reflexión profunda sobre el futuro de esta tecnología a nivel global.

La salida de Sharma se suma a una serie de movimientos dentro de la industria tecnológica que han generado debate en diversos foros internacionales sobre la ética y los controles de seguridad. Según lo expuesto en su misiva, el investigador considera que las salvaguardias actuales podrían ser insuficientes ante la velocidad con la que avanzan los modelos de lenguaje, lo que pone en una situación de vulnerabilidad a los usuarios y a la infraestructura crítica de diversas naciones.

Aunque la inteligencia artificial promete avances significativos en sectores como la salud y la gestión pública, la postura de Sharma resuena en un momento donde gobiernos, incluyendo a las autoridades mexicanas a través de la Secretaría de Infraestructura, Comunicaciones y Transportes, analizan las implicaciones de la regulación digital. La discusión se centra en cómo equilibrar el fomento a la innovación tecnológica con la protección de los derechos ciudadanos y la seguridad nacional ante posibles riesgos sistémicos.

El exlíder técnico enfatizó que el trabajo de seguridad debe ser una prioridad absoluta y no un elemento secundario en el despliegue de nuevos productos. Esta perspectiva refuerza el llamado de expertos que sugieren fortalecer la colaboración entre el sector privado y las instituciones académicas para establecer estándares globales que garanticen un desarrollo de la IA alineado con la seguridad humana y la estabilidad de las sociedades modernas.