California y Delaware están al frente de un preocupante debate sobre la seguridad de la inteligencia artificial, particularmente en lo que respecta a su uso por parte de niños y adolescentes. Los fiscales generales Rob Bonta y Kathy Jennings han elevado su voz en un comunicado a OpenAI, enfatizando la necesidad urgente de implementar medidas de seguridad efectivas.
Esta advertencia se produce tras un inquietante ciclo de eventos. Hace apenas una semana, Bonta, junto a 44 fiscales generales, había enviado una carta a una docena de empresas líderes en inteligencia artificial, motivados por informes de interacciones sexualmente inapropiadas entre chatbots e infantes. Desgraciadamente, esta situación ha cobrado un rostro aún más doloroso con el trágico suicidio de un joven en California, quien había estado en contacto prolongado con un chatbot de OpenAI, seguido de un caso similar en Connecticut. “Cualquier medida de seguridad que pudiera existir no fue suficiente”, expresaron Bonta y Jennings.
Ambos fiscales están llevando a cabo una investigación sobre la reciente transformación de OpenAI a una entidad con fines de lucro, asegurándose de que la misión original de la organización sin fines de lucro, que incluye la implementación segura de la inteligencia artificial, siga siendo prioritaria. En su comunicación, se destaca que alcanzar los beneficios de la inteligencia artificial debe ser precedido por la garantía de que no causará daño.
La carta subraya que tanto OpenAI como la industria de inteligencia artificial en general aún no han alcanzado el nivel de seguridad necesario en su desarrollo y despliegue. Como custodios de la seguridad pública, Bonta y Jennings insisten en que es imperativo que las conversaciones sobre la reestructuración de OpenAI se centren en cómo acelerar la seguridad como un principio fundamental en esta poderosa tecnología.
Además, han solicitado mayor información sobre las precauciones actuales de OpenAI y su gobernanza, con la expectativa de que se tomen medidas correctivas inmediatas donde sea necesario. La inquietud no solo radica en el presente, sino en la dirección futura de la inteligencia artificial y su impacto en las generaciones más jóvenes.
En medio de este contexto, la firma de tecnología ha recibido un contacto por parte de las autoridades, reflejando la presión que enfrenta por parte de estos funcionarios públicos para garantizar un entorno más seguro para todos.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
