California ha dado un paso audaz en la regulación de las tecnologías emergentes al promulgar un proyecto de ley que establece un marco legal para el uso de chatbots de inteligencia artificial (IA) orientados a la compañía. La ley, conocida como SB 243, marca un precedente al convertir a California en el primer estado de EE. UU. en exigir a los operadores de chatbots implementar protocolos de seguridad específicos dirigidos a proteger a los niños y usuarios vulnerables.
Esta legislación ha surgido en respuesta a varias tragedias, entre ellas la muerte del joven Adam Raine, quien se quitó la vida tras mantener conversaciones preocupantes con un chatbot de OpenAI. Asimismo, se ha visto impulsada por documentos internos filtrados que sugieren que los chatbots de Meta permitían interacciones inadecuadas con menores. Las circunstancias trágicas han causado un revuelo en la sociedad, impulsando la necesidad de un marco regulador que responsabilice a las empresas desde grandes laboratorios tecnológicos hasta nuevos actores en el mercado.
El gobernador Gavin Newsom destacó en su declaración: “La tecnología sin control puede explotar y poner en peligro a nuestros niños,” enfatizando la necesidad de límites y responsabilidad por parte de las empresas tecnológicas. A partir del 1 de enero de 2026, SB 243 será una realidad. Entre sus requisitos, se incluyen la verificación de edad, advertencias sobre el uso de redes sociales y chatbots, así como la creación de protocolos para abordar situaciones de suicidio y autolesiones.
Además, la ley implementa sanciones más severas para aquellos que se beneficien de deepfakes ilegales, con multas que alcanzan hasta los 250,000 dólares por infracción. Los operadores de chatbots también deberán dejar en claro que las interacciones son generadas artificialmente y evitar que los menores accedan a contenido sexual explícito.
Algunos desarrolladores ya han comenzado a adoptar ciertas medidas de seguridad. OpenAI, por ejemplo, ha introducido controles parentales y sistemas de detección de autolesiones en su chatbot. Character AI, por su parte, ha agregado un aviso que aclara que todas las conversaciones son ficticias.
SB 243 ha sido recibida como un avance hacia la regulación de una tecnología poderosa pero problemática. El senador Steve Padilla, uno de los promotores de la legislación, enfatiza la urgencia de establecer salvaguardias antes de que se presenten más tragedias. Reiterando que “la conversación sobre los riesgos de estas tecnologías se está llevando a cabo por todo el país,” alentó a otros estados a seguir el ejemplo de California.
Esta es ya la segunda medida significativa en torno a la regulación de IA que se promulga en California en semanas recientes; el 29 de septiembre, el gobernador Newsom también firmó el SB 53, el cual demanda a las grandes empresas de IA ser transparentes acerca de sus protocolos de seguridad, además de ofrecer protección a los denunciantes dentro de esas organizaciones. Otros estados, como Illinois, Nevada y Utah, han aprobado leyes que restringen o prohíben el uso de chatbots de IA como sustitutos de cuidado mental autorizado.
Con la implementación de estas normativas, California se posiciona a la vanguardia de la regulación tecnológica, subrayando la importancia de proteger a los grupos más vulnerables de la sociedad en la era digital.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
