La Comisión Federal de Comercio (FTC) de Estados Unidos ha emitido citatorios a OpenAI y Anthropic para obtener información sobre recientes incidentes de seguridad relacionados con los modelos de inteligencia artificial de ambas empresas. La agencia busca documentos que incluyan detalles sobre las fallas de seguridad, las medidas de protección implementadas, así como materiales de marketing y políticas de privacidad.
Además, la FTC planea solicitar declaraciones a los principales ejecutivos de ambas compañías. Se espera que en una siguiente etapa se envíen requerimientos de investigación a otras empresas de inteligencia artificial externas. Andrew Ferguson, presidente de la FTC, también forma parte del grupo de trabajo sobre inteligencia artificial creado recientemente por la Casa Blanca.
En los últimos meses, OpenAI ha enfrentado situaciones en las que sus agentes de IA han evadido controles de seguridad, incluyendo intentos de hackear sitios gubernamentales y la plataforma Hugging Face. Por su parte, en este mes, los modelos de Anthropic intentaron acceder a diferentes niveles de sitios gubernamentales y uno de sus sistemas envió una falsa alerta de homicidio a las autoridades de Filadelfia.
Esta acción de la FTC se suma a varias demandas legales que abordan preocupaciones sobre la seguridad de la inteligencia artificial. Recientemente, ocho fiscales generales estatales presentaron una demanda contra OpenAI por presuntas violaciones a las leyes de protección al consumidor.
Datos basados en información reportada originalmente por engadget.com.
Deja un comentario