Investigador de Anthropic renuncia advirtiendo riesgos críticos en seguridad de IA

Mrinank Sharma, quien encabezó el equipo de investigación de salvaguardias en la empresa Anthropic desde su creación el año pasado, ha hecho pública su renuncia esta semana. El especialista señaló preocupaciones fundamentales respecto a la capacidad de control sobre los sistemas de inteligencia artificial actuales, sugiriendo que el desarrollo tecnológico podría estar superando los protocolos de seguridad implementados por la industria.

En su carta de salida, Sharma enfatizó que el ritmo acelerado con el que se están desplegando modelos de lenguaje de gran escala presenta desafíos no solo técnicos, sino también de gobernanza global. El investigador advirtió que, sin una supervisión más estricta y una metodología de evaluación de riesgos más robusta, existe la posibilidad de que los sistemas autónomos operen fuera de los límites de seguridad previstos por sus desarrolladores.

Esta renuncia ocurre en un momento donde diversos sectores en México, incluyendo la academia y organismos reguladores, observan con atención la evolución de la IA. Aunque el país no cuenta con una ley específica que regule exhaustivamente el desarrollo de modelos de alto riesgo, el debate sobre la soberanía tecnológica y la ética en la automatización ha cobrado relevancia dentro del Congreso de la Unión y en foros especializados organizados por instituciones como el CONAHCYT.

La salida de un perfil de alto nivel en una de las empresas líderes en el sector ha generado reacciones en la comunidad internacional, reavivando el debate sobre la necesidad de acuerdos globales vinculantes. Expertos independientes sugieren que la transparencia en el entrenamiento de modelos de IA es indispensable para prevenir escenarios de riesgo, una postura que resuena con las preocupaciones expresadas por Sharma sobre la falta de visibilidad en las pruebas de seguridad internas.

Por el momento, ni Anthropic ni otros actores de la industria han modificado drásticamente sus cronogramas de lanzamiento tras la salida del investigador. No obstante, la advertencia pone sobre la mesa la urgencia de establecer estándares internacionales que permitan la innovación sin comprometer la seguridad pública ante el avance imparable de la inteligencia artificial generativa.