Anthropic propone un marco judicial para bloquear modelos de riesgo

Anthropic está difundiendo un proyecto de ley sobre la seguridad de la inteligencia artificial que la empresa desea que examine el Congreso estadounidense, informa TechCrunch basándose en Politico. Un portavoz de Anthropic confirmó a Politico la existencia del texto. Se trata de una propuesta impulsada por la empresa, sin que conste su aprobación en esta fase.

El mecanismo se centraría en un riesgo previsible e inminente que pudiera provocar la muerte de más de 50 personas o daños materiales superiores a mil millones de dólares. Los escenarios contemplados estarían relacionados con un arma biológica, un modelo que escapara a los controles de su desarrollador o un ciberataque.

Evaluadores independientes registrados ante el Departamento de Comercio de Estados Unidos examinarían los modelos. Cuando identificaran un riesgo catastrófico inminente, dispondrían de 72 horas para avisar al departamento. Este debería solicitar después a un juez de Washington que suspendiera la distribución del modelo. El proyecto prohibiría a las agencias federales decidir por sí solas un bloqueo de este tipo.

Persiste una duda sobre la independencia financiera de las evaluaciones. Los laboratorios podrían remunerar a los evaluadores, siempre que el pago no dependiera del resultado. Esta norma regularía la remuneración, pero no basta para demostrar la ausencia de influencia.

Por tanto, la estructura propuesta daría prioridad a una intervención judicial tras la evaluación. Su eficacia dependería, entre otros factores, de la capacidad para caracterizar rápidamente el riesgo y de la independencia efectiva de los evaluadores, dos cuestiones que la información disponible no permite resolver.