ChatGPT
Un número creciente de empresas está optando por prohibir el uso de herramientas de inteligencia artificial (IA) como Bard, Bing Chat y Chat GPT en el entorno de la oficina debido a serias preocupaciones sobre la privacidad de los datos. Estos chatbots han sido diseñados para aprender de las conversaciones de los usuarios, lo que implica que las interacciones pueden ser recopiladas, almacenadas e incluso revisadas manualmente para entrenar nuevos modelos de IA.
Preocupaciones de privacidad y confidencialidad
Este escenario plantea inquietudes considerables para las empresas que manejan información confidencial. Por ejemplo, si un empleado solicita a una de estas herramientas que revise un fragmento de código o un documento confidencial en busca de errores, existe el riesgo de que el contenido pueda filtrarse inadvertidamente.
Como resultado de estas preocupaciones, empresas como Samsung, Bank of America y Citigroup han tomado la decisión de prohibir el uso de Chat GPT y herramientas similares en sus operaciones diarias. José Luis Portela, de Magdalen, comenta que «prohibir el uso de estas herramientas por seguridad es absurdo porque si la competencia quiere conseguir la información, lo hará de todas maneras».
Respuesta de Microsoft: Bing Chat Enterprise
Microsoft ha respondido a estas preocupaciones con el lanzamiento de Bing Chat Enterprise, una alternativa dirigida específicamente a usuarios empresariales que buscan resguardar sus datos comerciales y personales. Bing Chat Enterprise garantiza que los datos enviados a sus servidores estarán protegidos y no se filtrarán fuera de la organización. Se promete que Microsoft no accederá visualmente a la información ni la utilizará para entrenar modelos de IA. Sin embargo, cabe mencionar que este servicio requerirá un pago, siguiendo la lógica de «si no pagas por el producto, eres el producto». Bing Chat Enterprise estará inicialmente disponible en suscripciones de Microsoft 365, con planes para ofrecer acceso mediante una suscripción independiente en el futuro.
Respuestas inexactas
Otro motivo para la prohibición es la generación de respuestas inexactas por parte de las IA generativas. Estas herramientas pueden alucinar y producir información que no se ajusta a los hechos, lo que representa un riesgo para tareas críticas como la revisión de códigos de software. José Luis Portela argumenta que «hay que saber buscar la información y ser conscientes de que no todo lo que se encuentra es cierto». La experiencia y el conocimiento humano siguen siendo esenciales para validar y contextualizar la información proporcionada por las IA.
Riesgo de respuestas sesgadas
Para las empresas de renombre, evitar cualquier percepción de sesgo o discriminación es crucial para proteger su imagen de marca. Las herramientas de IA como Chat GPT pueden producir resultados sesgados debido a la metodología de entrenamiento basada en contenido escrito por seres humanos, algunos de los cuales pueden ser sesgados o discriminatorios. OpenAI ha intentado abordar estos problemas, pero los críticos señalan que el lanzamiento de Chat GPT fue apresurado y no resolvió completamente estos problemas fundamentales.
Experiencia de usuarios y adaptación empresarial
A pesar de las prohibiciones, algunos expertos y usuarios consideran que las herramientas de IA pueden ser útiles si se utilizan de manera responsable. Agustín Márquez comenta que «utilizar Chat GPT para mejorar la redacción o generar ideas puede ser muy útil, pero siempre debe haber una capa de revisión humana». La clave está en entender que las IA son herramientas que deben complementarse con la supervisión y el juicio humano.
José Luis Portela agrega que «en el IE hay libertad de cátedra y los alumnos pueden usar IA como herramienta de apoyo, siempre y cuando no hagan trampas». La enseñanza de cómo usar estas herramientas de manera ética y efectiva es fundamental para su integración en el entorno empresarial.
Conclusión
La creciente preocupación por la privacidad de los datos y la fiabilidad de las respuestas generadas por las IA está llevando a muchas empresas a reconsiderar su uso en el entorno laboral. Mientras que herramientas como Bing Chat Enterprise de Microsoft intentan abordar estos problemas con soluciones específicas para empresas, la supervisión y el juicio humano siguen siendo esenciales para garantizar la seguridad y la integridad de la información.
En un mundo donde la tecnología avanza rápidamente, es crucial encontrar un equilibrio entre aprovechar las ventajas de las IA y proteger la privacidad y la seguridad de los datos. La educación y la formación en el uso ético y responsable de estas herramientas serán clave para su futura aceptación y utilización en el entorno empresarial.
