Recientemente, han saltado varias noticias a los medios, como esta del portal Poder Judicial, en la que un abogado y un magistrado habían citado, en sus respectivos escritos, sentencias presuntamente favorables a sus criterios y que provenían de búsquedas realizadas con inteligencia artificial (IA). Con una apariencia “solemne” y de completa veracidad, estas resoluciones no figuraban en las bases de datos, es decir, eran inventadas.
El procedimiento para evitar esta posible falta a la buena fe procesal era tan sencillo como haber comprobado, por parte del profesional en cuestión, que las sentencias dictadas no existían. De esta forma, se hubiera ahorrado el sonrojo y la llamada de atención de los propios tribunales.
Cuando en las organizaciones se menciona el uso de herramientas de IA ya no hablamos de si se pueden o no utilizar. Sabemos que se emplean de forma más o menos “oficial”. El problema es cómo se usan estas plataformas y qué conocimiento tiene la persona que recurre a ellas respecto a los posibles riesgos que conlleva, no solo para los propios individuos, sino también para la entidad en la que desarrolla su trabajo.
Hemos pasado de las prohibiciones absolutas -no se puede utilizar la herramienta x- a la regulación y uso responsable con límites, es decir, se puede usar dicha herramienta, pero en versiones seguras y siempre y cuando se hayan evaluado sus riesgos previamente.
No se puede poner freno a un avance tecnológico de suma utilidad en las organizaciones, pero enormemente peligroso desde el punto de vista legal. Trabajar con herramientas gratuitas, abiertas y sin directrices de uso pone en peligro:
- Datos personales.
- La confidencialidad de la información propia y de la empresa, incluidos clientes, proveedores y otros stakeholders.
- La información protegida por derechos de autor u otros derechos de propiedad industrial.
- Riesgos de inexactitud: lo que la IA no sabe, a menudo se lo inventa.
- Sesgos de veracidad: se tiende a creer que lo que ofrece esta tecnología es cierto y correcto.
Las ventajas son por todos conocidas, pero en entornos empresariales, al igual que existen políticas de uso responsable de los medios telemáticos, debe incluirse la IA como un medio más: supervisado desde la dirección tecnológica y en espacios de trabajo cerrados y controlados.
Esto suele implicar la solicitud de nuevas licencias de aquellas herramientas que puedan tener más utilidad en la compañía según su actividad y sector: desde las generales, como ChatGPT o Copilot, hasta otras específicas que permiten crear asistentes personales para atender a clientes, grabar y resumir reuniones extractando los puntos más importantes, hacer vídeos, revisar la información financiera, gestionar proyectos, contenidos multimedia, generar sonido e incluso desarrollar código y programar.
Más allá de las prohibiciones que el Reglamento Europeo de Inteligencia Artificial establece o la existencia de determinados sistemas denominados de alto riesgo, el uso de la IA en una actividad diaria de la empresa exige, cuanto menos, cautela y límites. Las preguntas que toda entidad debería hacerse son:
- Qué herramientas de IA se están utilizando y si permiten trabajar en entornos seguros. La evaluación de proveedores es especialmente importante, ya que han proliferado servicios muy atractivos desde el punto de vista de prestaciones y precios, pero desde la óptica del cumplimiento no ofrecen suficientes garantías. El análisis de riesgos de la herramienta utilizada es fundamental.
- Si todo el personal tiene licencias de esas herramientas.
- Si existe una política o al menos unas indicaciones mínimas de uso responsable.
- Si hay alguna restricción de uso en virtud del sector o del tipo de actividad de la organización.
- Si el personal ha recibido un mínimo de formación al respecto.
En caso de duda, mejor cerciorarse, y aunque usualmente se pregunta lo que no se sabe, también debe tomarse el resultado con cautela y someterlo a algún tipo de verificación para corroborar que la IA no se lo está “inventando” y nos ponga en un compromiso.
