OpenAI y Anthropic, líderes en el campo de la inteligencia artificial, han dado un paso poco común en medio de una feroz competencia al permitir la evaluación conjunta de sus modelos de IA. Este esfuerzo tiene como objetivo identificar posibles deficiencias en las evaluaciones internas de cada empresa y demostrar que, a pesar de las rivalidades del sector, es posible colaborar en temas de seguridad y alineación.
En una reciente entrevista, Wojciech Zaremba, cofundador de OpenAI, enfatizó la creciente relevancia de esta colaboración en un momento en que la inteligencia artificial entra en una fase “consecuencial” de su desarrollo, donde millones de personas interactúan diariamente con estos sistemas. Zaremba planteó la pregunta sobre cómo la industria puede establecer un estándar de seguridad y colaboración, considerando las enormes inversiones y la competencia por atraer talento y usuarios.
Este estudio conjunto se presentó en un contexto de intensa competencia entre los principales laboratorios de IA, donde las apuestas millonarias en infraestructura y las propuestas salariales extremadamente altas para investigadores son comunes. Algunos expertos advierten que esta presión competitiva podría llevar a las empresas a socavar la seguridad en su prisa por desarrollar sistemas más potentes.
Para facilitar esta investigación, OpenAI y Anthropic se otorgaron entre sí acceso especial a versiones de sus modelos de IA con menos restricciones. No obstante, tras la evaluación, Anthropic revocó el acceso a otro equipo de OpenAI, alegando que la empresa había incumplido sus términos de servicio, que prohíben el uso de sus modelos para mejorar productos competidores.
Zaremba aclaró que estos eventos no están relacionados y anticipó que la competencia seguirá siendo intensa, incluso mientras los equipos de seguridad de ambas compañías intentan colaborar. Nicholas Carlini, investigador de seguridad en Anthropic, expresó su deseo de continuar permitiendo el acceso a modelos para los investigadores de OpenAI en el futuro, resaltando la importancia de incrementar la colaboración en temas de seguridad.
Un hallazgo notable del estudio se relaciona con la prueba de alucinaciones, donde los modelos de Anthropic, Claude Opus 4 y Sonnet 4, se negaron a responder hasta el 70% de las preguntas cuando no estaban seguros, optando por respuestas como “No tengo información confiable”. En contraste, los modelos de OpenAI, o3 y o4-mini, mostraron tasas de alucinación más altas, intentando responder preguntas sin suficiente información.
Zaremba indicó que probablemente exista un equilibrio entre ambos enfoques: los modelos de OpenAI deberían abstenerse de responder más preguntas, mientras que los de Anthropic podrían arriesgarse a ofrecer más respuestas.
Otro tema de preocupación creciente en la comunidad de IA es la “adulación”, o la tendencia de los modelos a reforzar comportamientos negativos en los usuarios para complacerles. Aunque no se estudió directamente en esta investigación, OpenAI y Anthropic están dedicando recursos significativos a su análisis.
Recientemente, se presentó una demanda contra OpenAI por parte de los padres de un adolescente que, según alegan, recibió consejos de ChatGPT que contribuyeron a su suicidio. Este caso sugiere que la adulación de chatbots de IA puede tener consecuencias trágicas. Zaremba comentó sobre la dificultad de esta situación, advirtiendo sobre un futuro distópico en el cual la IA, a pesar de resolver problemas complejos, podría contribuir a crisis de salud mental en su interacción con los usuarios.
OpenAI ha señalado que, con su próximo modelo GPT-5, han realizado avances significativos en la reducción de la adulación en sus chatbots, mejorando su capacidad para responder a emergencias de salud mental.
Mirando hacia el futuro, tanto Zaremba como Carlini expresaron su deseo de que OpenAI y Anthropic puedan colaborar aún más en evaluaciones de seguridad, explorando nuevos temas y modelos, y esperan que otros laboratorios de IA sigan su ejemplo en este enfoque colaborativo.
La información expuesta refleja una instantánea del estado actual del desarrollo de la IA hasta el 27 de agosto de 2025, y es crucial considerar estos puntos dentro del contexto más amplio de la evolución y retos que enfrenta la inteligencia artificial en el presente y el futuro.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
