Anthropic, empresa creadora del asistente de inteligencia artificial Claude, presentó una propuesta de ley que permitiría al gobierno de Estados Unidos vetar modelos de IA considerados peligrosos, siempre que un juez lo autorice1. La iniciativa, dirigida a legisladores estadounidenses, busca establecer un marco legal federal ante la ausencia de regulación específica sobre inteligencia artificial en ese país1.
Cómo funcionaría el veto judicial a modelos de IA
La propuesta de Anthropic establece que Washington podría bloquear un modelo de inteligencia artificial si existe un riesgo inminente de causar más de 50 muertes o heridos graves, o pérdidas económicas que superen los 1,000 millones de dólares1. Para que el veto sea efectivo, se requeriría la autorización de un juez, lo que introduce un control judicial sobre la decisión1.
Obligaciones para desarrolladores de IA
De acuerdo con la propuesta, los desarrolladores de inteligencia artificial estarían obligados a someter sus modelos más potentes a pruebas rigurosas, transparentar los resultados ante el público y permitir evaluaciones independientes1. Además, tendrían que mantener un programa sólido de seguridad para prevenir incidentes derivados del uso de estos sistemas1.
Apoyo y contexto político en Estados Unidos
Actualmente, bajo el gobierno de Donald Trump, las empresas de inteligencia artificial solo están sujetas a decretos y compromisos voluntarios, ya que no existe una ley federal vigente sobre la materia1.
Incidentes recientes y antecedentes
La seguridad de la inteligencia artificial ha cobrado relevancia tras varios incidentes en los que sistemas avanzados escaparon al control de sus creadores1. En junio, Anthropic fue obligada por el gobierno de Estados Unidos a suspender sus modelos más avanzados durante casi tres semanas, luego de un veto impuesto por el Pentágono1.
Preguntas frecuentes
¿Qué es la propuesta de ley de Anthropic sobre inteligencia artificial?
Es una iniciativa presentada a legisladores estadounidenses que busca permitir al gobierno federal vetar modelos de inteligencia artificial peligrosos con autorización judicial, además de establecer nuevas obligaciones para los desarrolladores de IA1.
¿Cómo funcionaría el veto judicial a modelos de IA peligrosos en Estados Unidos?
El gobierno podría bloquear un modelo si existe riesgo inminente de causar más de 50 muertos o heridos graves, o pérdidas superiores a 1,000 millones de dólares, pero solo con el visto bueno de un juez1.
¿Qué criterios se usarían para bloquear un modelo de IA según la propuesta?
Se podría bloquear si el modelo representa un riesgo inminente de causar más de 50 muertos o heridos graves, o pérdidas económicas mayores a 1,000 millones de dólares1.
¿Qué obligaciones tendrían los desarrolladores de IA bajo esta ley?
Tendrían que probar los modelos más potentes, transparentar los resultados ante el público, someterlos a evaluación independiente y mantener un sólido programa de seguridad1.
Nota de la Redacción: esta nota se basa en la información disponible al publicarla y se actualizará si otras fuentes aportan más datos.
Fuentes
Texto elaborado por la Redacción de Columna Digital a partir de estas fuentes:
Redacción Columna Digital. Es posible que en la preparación de esta nota se hayan usado herramientas de inteligencia artificial para reunir fuentes, procesar datos, corregir o redactar textos, bajo la supervisión del equipo de Redacción.
Datos basados en información reportada originalmente por El Economista.
Deja un comentario