OpenAI refuerza la privacidad para usuarios.

En un landscape tecnológico cada vez más complejo, los avances en los modelos de inteligencia artificial han traído consigo un creciente riesgo de abuso. A medida que la potencia de estos modelos se expande, también lo hace la preocupación por los retos de seguridad y la privacidad de los datos de los usuarios. Las empresas de IA están en un constante tira y afloja, buscando equilibrar la protección de los datos de sus clientes empresariales con la necesidad de monitorizar posibles irregularidades.

Recientemente, OpenAI ha lanzado una innovadora estrategia en seguridad centrada en la privacidad, denominada Private Safety Processing, buscando adelantarse a su competidor Anthropic. Este nuevo enfoque, que está en fase de prueba con algunos clientes seleccionados, consiste en un sistema automatizado que vigilaba el uso para detectar posibles abusos, sin retener los datos de los clientes.

Esta propuesta se opone claramente a la política de retención de datos de Anthropic, recientemente anunciada, que permite almacenar las sesiones de los usuarios durante un período de 30 días para ciertos modelos. Esta medida ha suscitado preocupación entre las empresas que manejan grandes volúmenes de datos sensibles, quienes prefieren que su información no sea almacenada o inspeccionada.

OpenAI, al igual que muchas otras firmas en el sector, ya había implementado previamente una política conocida como Zero Data Retention (ZDR). Este enfoque utiliza agentes dentro de la API de OpenAI para supervisar el uso, impidiendo que la información de los usuarios sea conservada, mientras permite la detección de actividades inadecuadas. Es relevante mencionar que Anthropic también sigue en gran medida esta política, salvo para los “modelos cubiertos” como Fable.

La tecnología de Private Safety Processing expande las capacidades de ZDR, ofreciendo una supervisión de seguridad a largo plazo que examina entradas y salidas de múltiples interacciones, no solo de una sesión aislada. Según la información proporcionada, este sistema emplea un agente que, en caso de detectarse una actividad sospechosa, analiza las interacciones a lo largo de las sesiones para identificar posibles abusos, sin requerir revisión humana de los registros de conversación de los usuarios.

Si se activa el sistema, este puede enviar a OpenAI una señal detallada que indique la naturaleza del comportamiento sospechoso. Con esta información, la empresa podrá determinar si es necesaria una intervención, contactando al cliente para ofrecer asistencia y permitiendo que el cliente comparta datos si así lo decide.

Por su parte, Anthropic asegura que la revisión humana de los datos de sus clientes es posible, pero solo se realiza a través de un acceso controlado, limitado a un pequeño grupo de revisores aprobados. Cada sesión de revisión es registrada en un log a prueba de manipulaciones, garantizando la integridad del proceso.

La competencia entre OpenAI y Anthropic es intensa, con ambos en búsqueda de oportunidades que les otorguen ventaja. Un análisis reciente reveló que el crecimiento de OpenAI en el segundo trimestre fue más lento que el de Anthropic, quien ha registrado una tasa de ingresos annualizada de 65 mil millones de dólares y cuyo futuro inicial público se estima en 2 billones de dólares. Mientras tanto, OpenAI también se encuentra en proceso de preparación para su propia oferta pública inicial.

La evolución de estas políticas y tecnologías revela no solo un avance en la inteligencia artificial, sino también un panorama empresarial cada vez más competitivo y exigente donde la privacidad y la seguridad son fundamentales en la era digital.

Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.