La inteligencia artificial (IA) se ha convertido en una potente herramienta de trabajo, capaz de potenciar la capacidad de cualquier organización. Sin embargo, la rápida adopción de esta tecnología supera la capacidad de las empresas para identificar sus mejores usos y establecer los protocolos adecuados, lo que genera riesgos en los ámbitos comercial, legal y reputacional.
Un estudio de la Universidad de Melbourne y KPMG, realizado con 48,000 personas de 47 países, revela datos alarmantes: el 66% de los encuestados confía en lo que produce la IA sin verificar su precisión. Además, el 57% oculta su uso y presenta como propio el contenido generado, y solo el 41% de las empresas cuenta con protocolos para el uso de IA generativa. Este panorama se complica aún más si consideramos que, en aproximadamente la mitad de los casos, la IA ofrece resultados imprecisos.
Las empresas enfrentan “pequeños” incidentes cotidianos que, al trasladarse al exterior, pueden amplificarse considerablemente. Uno de los mayores peligros es la publicación de contenido sin verificación. La IA es efectiva al generar narrativas que parecen creíbles, lo que puede llevar a los usuarios a considerar innecesario corroborarlas. Por ello, una regla fundamental es no publicar contenido sin una verificación exhaustiva y contar con una segunda opinión.
Otro riesgo significativo es cargar información confidencial en herramientas de IA, especialmente aquellas gratuitas. Los modelos de lenguaje, en especial los que no son de pago, suelen operar con niveles de seguridad y confidencialidad bajos. Los usuarios de plataformas gratuitas deben entender que su información podría ser accesible a terceros. En el caso de herramientas con suscripción, es crucial revisar los términos y condiciones para asegurarse del grado de protección de los datos.
Además, la elaboración de cálculos y datos generados por la IA sin contrastar puede conducir a decisiones erróneas, dado que estudios internacionales revelan que uno de cada cinco resultados generados por estas herramientas contiene errores graves, incluyendo fechas incorrectas y datos inexistentes.
El uso de herramientas de IA no aprobadas por parte de empleados también es un riesgo común. Esta práctica, conocida como “IA en la sombra”, puede resultar en la fuga de información y se ve agravada por la falta de instrumentos de ciberseguridad. A menudo, el personal oculta su uso de la IA; cuando surgen errores, se adoptan posturas defensivas, desviando la atención del problema, que reside en la ausencia de reglas y controles.
Además, delegar decisiones críticas a la IA sin supervisión humana puede dar lugar a resultados sesgados. Los modelos de IA tienden a reproducir los sesgos presentes en los datos con los que son entrenados, lo que puede dar lugar a decisiones que son tanto irracionales como discriminatorias.
Estos problemas comparten tres elementos comunes: la búsqueda de rapidez sin verificación, la falta de criterios humanos que respalden los resultados y la tendencia a cruzar límites —a menudo no establecidos— en el uso de la IA en un intento de ahorrar tiempo y esfuerzo.
Es fundamental establecer reglas claras para el uso de estas herramientas, definir qué tipo de información se puede utilizar y proporcionar la capacitación adecuada. Además, se deben diseñar procedimientos que garanticen un uso responsable de la IA. Al final del día, es vital entender que la responsabilidad sobre los resultados generados por la IA no puede ser delegada. La gestión adecuada de esta poderosa herramienta requiere tanto diligencia como prudencia, asegurando que su implementación no solo sea efectiva, sino también responsable.
Gracias por leer Columna Digital, puedes seguirnos en Facebook, Twitter, Instagram o visitar nuestra página oficial. No olvides comentar sobre este articulo directamente en la parte inferior de esta página, tu comentario es muy importante para nuestra área de redacción y nuestros lectores.
