Integrar inteligencia artificial en una clínica también exige diseñar su marco de uso
La experiencia con Claude muestra que una implantación responsable combina decisiones técnicas, protección de datos, formación y supervisión humana. El método puede aplicarse a organizaciones de otros sectores.
Cuando una organización decide incorporar inteligencia artificial, la primera conversación suele centrarse en la herramienta: qué puede hacer, cómo conectarla con los sistemas existentes y cuánto tiempo permitirá ahorrar. En una clínica, sin embargo, hay otra pregunta igual de importante: qué información utilizará, quién podrá acceder a ella y bajo qué condiciones.
Ese fue el punto de partida de una consultoría para una clínica que quería utilizar Claude como apoyo en la revisión de informes clínicos. La herramienta debía contrastar los informes con un checklist interno y trabajar conectada con Odoo. La integración técnica debía acompañarse de una definición clara de los usos y sus garantías. Había que definir un uso concreto para una tecnología que podía llegar a tratar información especialmente delicada.
De una idea inicial a varios usos distintos
El análisis comenzó con la revisión de informes clínicos. Durante el proyecto aparecieron también otros usos posibles: apoyo a ventas y facturación y preparación de comunicaciones comerciales por correo electrónico.
Aunque todos pudieran realizarse desde una misma herramienta, no eran el mismo tratamiento. Cada uso tenía sus propios datos, usuarios, permisos y límites. Un profesional sanitario que revisa un informe no necesita los mismos accesos que una persona que prepara una campaña comercial. Y los datos de salud no deben convertirse en un criterio para segmentar publicidad.
Esta distinción permitió ordenar el proyecto desde el principio: describir cada finalidad, identificar qué datos requería y determinar quién debía intervenir. La herramienta podía ayudar a revisar un informe, pero la valoración profesional seguía correspondiendo al personal sanitario.
La parte normativa también es parte del diseño
La consultoría avanzó por fases. Primero se estudió el uso previsto, la documentación existente, las condiciones del proveedor y los riesgos asociados, incluidas las transferencias internacionales de datos. Después se prepararon medidas de seguridad, reglas internas de uso, información para pacientes, actualización del registro de actividades y una evaluación de impacto.
También se revisó la conexión con Odoo. Una integración técnicamente posible no es necesariamente la más adecuada si da acceso a más información de la necesaria. Por eso se analizaron alternativas: enviar a la herramienta el texto de un informe sin datos identificativos o limitar el conector a los módulos y permisos imprescindibles. La decisión técnica debía ir acompañada de controles sobre los usuarios, la información accesible y las acciones que la IA podía ejecutar.
La revisión incluyó además las condiciones contractuales del servicio, la conservación de la información y la configuración de la cuenta. Antes de utilizar datos reales, era necesario comprobar que la modalidad contratada ofrecía las garantías adecuadas para el tratamiento y que las medidas previstas estaban implantadas. Mientras esos aspectos seguían pendientes, las pruebas debían limitarse a información ficticia o anonimizada.
La clasificación conforme al Reglamento europeo de IA también debía atender al uso previsto, no solo al nombre de la herramienta. Y quienes fueran a utilizarla necesitaban formación suficiente para comprender sus posibilidades, sus límites y sus riesgos. La normativa europea contempla precisamente medidas para promover la alfabetización en IA entre quienes participan en su funcionamiento y uso. Artículo 4 del Reglamento de IA.
Un método útil para otras organizaciones
La experiencia clínica hace visibles cuestiones que comparten muchas empresas: concretar para qué se usará la IA, revisar los datos que recibirá, comprobar las condiciones del proveedor, limitar accesos, formar a las personas usuarias y mantener una supervisión humana adecuada.
La evaluación de riesgos debe partir del contexto, la finalidad y la información implicada. Si el uso cambia —por ejemplo, se añaden nuevos módulos, usuarios o capacidades para ejecutar acciones— también puede ser necesario revisar el análisis y las medidas. La AEPD plantea la evaluación de impacto como una herramienta para anticipar riesgos y decidir qué garantías aplicar. AEPD: evaluación de impacto.
La inteligencia artificial puede aportar eficiencia y mejorar procesos, pero su incorporación no se resuelve únicamente con una integración técnica. En una clínica, como en cualquier otra organización, definir los usos, los datos, los permisos y la supervisión es parte de la propia implantación. Esa planificación permite que la innovación responda a una necesidad real y pueda desarrollarse con garantías.
