Alrededor del libro 'Inteligencia Artificial y derechos de los pacientes, el equilibrio necesario', le pregunto: ¿Tú crees que va a favorecer un buen equilibrio o el equilibrio no existe en esa relación del papel de la inteligencia artificial y los pacientes?: “A día de hoy no existe ese equilibrio, existe un desequilibrio y ¿por qué existe ese desequilibrio? Los dos actores principales, tecnológicamente, que están apostando más y desarrollando la tecnología como tal son los Estados Unidos y China. Ambos países están más empeñados en el desarrollo tecnológico que realmente en la regulación del ejercicio de esta tecnología, que en la defensa de los derechos de los ciudadanos. Europa, vamos por detrás en lo tecnológico, pero somos los primeros que en marzo del año 2024 se publicó la primera ley europea sobre inteligencia artificial para generar una conciencia mayor sobre los límites que no debe traspasar esta tecnología. No había existido hasta ahora ninguna tecnología que pudiera amenazar la intimidad de nuestros datos, nuestra vida digital, que tiene más peso a veces que la vida real, y por tanto Europa ha puesto el foco en eso. Ahora existe un desequilibrio y nosotros tenemos que empezar a hacer una reflexión, a tener en cuenta las diferentes sensibilidades para encontrar las preguntas adecuadas y las respuestas pertinentes y necesarias a todo lo que está suponiendo de desafío a la inteligencia artificial en nuestra convivencia del día a día”.

"A día de hoy, la inteligencia artificial aplicada a sanidad no es un futuro, es una realidad presente. Y nos podemos beneficiar muchísimo de ella. Pero tenemos que también establecer un código de regulación y ayudar a los legisladores a que no se traspasen líneas"

Y nos metemos en aspectos de lo que permite la Inteligencia Artificial y hablamos de su papel en el diagnóstico de enfermedades: “Es una de las muchas aplicaciones y es una amenaza cierta a este tipo de especialidades que se basan mucho en el diagnóstico por imagen. A día de hoy, la inteligencia artificial aplicada a sanidad no es un futuro, es una realidad presente. Y nos podemos beneficiar muchísimo de ella. Pero tenemos que también establecer un código de regulación y ayudar a los legisladores a que no se traspasen líneas. Nosotros, y tú eres una persona interesada, como yo, en los temas de ética y deontológicos, y la reflexión ética viene cuando todo lo que se puede hacer humanamente y tecnológicamente no necesariamente se tiene que llevar a cabo. ¿Por qué? Porque existen bienes y materiales que son mucho más importantes que la propia ejecución de esa tecnología, pero para eso se necesita concitar toda la materia gris que tengamos en este país, en Europa, diferentes sensibilidades, preocupaciones comunes, para encontrar también respuestas que no son sencillas y no son intuitivas”.

"La IA puede servir “para el diagnóstico, diagnóstico de enfermedades complejas, diagnóstico de enfermedades raras, mucho. Luego, para plantamientos terapéuticos que se puedan compartir con los pacientes, tratamiento de medicina personalizada"

Sigo preguntándole ¿Para qué crees que puede tener también una importancia, un papel importante en el tema de la inteligencia artificial?: “Para el diagnóstico, diagnóstico de enfermedades complejas, diagnóstico de enfermedades raras, mucho. Luego, para plantamientos terapéuticos que se puedan compartir con los pacientes, tratamiento de medicina personalizada en el siguiente sentido. Hemos pasado, a mí me gusta decir, del doctor Google a doctor ChagPT. Antes, le preguntábamos a Google sobre el cáncer de mama y le preguntábamos globalmente. Ahora un paciente puede pagar ChagPTde pago, poner su historia clínica, subir su radiografía, tener un cáncer de mama y pedir el tratamiento específico que se necesita. O sea, va a haber orientaciones al tratamiento y luego va a beneficiarse también en temas de salud pública, de pandemias. Luego, en relación a la gestión clínica, se van a poder tener datos e indicadores que no estamos utilizando ahora habitualmente en nuestros cuadros de mando. Y luego, con todo el tema de los robots quirúrgicos, se va a avanzar muchísimo. De hecho, a día de hoy ya se utilizan muchos robots terapéuticos quirúrgicos con una finura por la inteligencia artificial, que da gusto verlo, trabajar”.

Le preguntó también ¿Cómo es tu utilización de la inteligencia artificial en tu práctica clínica?: “Voy a poner varios ejemplos de mi día a día o sea de la realidad del presente. Nosotros tenemos un dispositivo en la sanidad privada, en concreto en el grupo Quirón que está apostando mucho por él, se llama con un programa tipo Skype por el que yo estoy hablando con el paciente y se está reflejando en la historia clínica tal cual estamos hablando y luego lo analiza un programa de lenguaje natural y va poniéndola en los sitios de nuestra historia clínica, tanto lo que yo digo como lo que dice el paciente. Cuando acabo de hablar con mi paciente y de hacer la entrevista clínica, a través de diferentes algoritmos y de haber estudiado la lenguaje natural que hemos utilizado la expresión tanto el paciente como yo, me propone diferentes líneas diagnósticas y me orienta. Eso, a día de hoy, en abril del 2025. Cuando vienen alumnos conmigo y estoy en un tratamiento con un paciente complejo al que se está dando un tratamiento difícil de quimioterapia, donde se utilizan parámetros analíticos que son complejos y donde esas personas tienen una situación clínica difícil, porque puede tener insuficiencia renal y/o hepática y tengo que hacer ajuste de medicamento. Antes, los médicos llevábamos nuestra libretilla y hacíamos nuestra cuenta, ajustando las dosis. Ahora yo utilizo mi chat GPT de pago y pongo la situación de ese paciente. Le digo la insuficiencia renal que tiene, le pongo el aclaramiento de creatinina y me dice lo qué le tengo que poner e incluso me dice la alternativa y las dosis que tengo que utilizar”.

"Le digo cómo había que atender a la diseminidación de su tumor por el peritoneo y le pido a una aplicación que reproduzca sistemas de cómo se hace quirúrgicamente determinadas intervenciones y se lo muestro al paciente. Imagínate con qué información, con qué detalle"

Sigue dándome ejemplos de su actividad clínica: “Otro ejemplo es un paciente que le explico el postoperatorio por lo complejo que ha sido, una carcinomatosis peritoneal. Le digo cómo había que atender a la diseminidación de su tumor por el peritoneo y le pido a una aplicación que reproduzca sistemas de cómo se hace quirúrgicamente determinadas intervenciones y se lo muestro al paciente. Imagínate con qué información, con qué detalle. En breve esa misma aplicación podrá grabar la intervención de los pacientes y se las podremos enseñar. No cruentamente, porque ningún paciente le gusta ver a su propio peritoneo, pero sí cambiárselo a dibujos para que él vea lo que se le ha hecho a él, pero en formato de dibujo, imagínate hasta dónde se está llegando.

¡Qué interesante! Le digo. Y comento que estas cosas las explicaba en la guía básica de la Inteligencia Artificial Médica, que es su primer libro sobre el tema. Y le comento que nos explique la evolución de la IA. Y me contesta: “Es exponencial. Mi primer libro lo saqué a finales de 2023 y este segundo después de un año y poco. En este tiempo, se han desarrollado tal cantidad de aplicaciones de las que nos podemos beneficiar el mundo sanitario, tanto médicos, como enfermeros o farmacéuticos, porque en el sector sanitario se mueve mucho dinero, eso es indudable, donde va a haber siempre mucha demanda y donde las tecnológicas están apostando fuerte. Fíjate, nuestro “amigo” Trump, cuando entró después de ganar las lecciones, hizo una declaración de que iban a invertir en los próximos años 500 mil millones de dólares para desarrollar aplicaciones. Imagínate lo que se supone tecnológicamente”.

habla2.png

habla5.png

habla4.png

Distintos instantes de la conversación de José Antonio Trujillo con Joan Carles March.

"Tenemos que sumar diferentes sensibilidades, diferentes formas de ver las cosas, de filósofos, éticos, médicos, abogados, para concitar ante un problema que es muy importante, para ver si hacemos las preguntas relevantes para encontrar las soluciones que necesitamos"

Y ¿cuál ha sido la motivación para escribir este segundo libro?: “Mira, mi motivación es la siguiente. Tú lo recordarás, hubo una explosión del desarrollo de todas las técnicas de fecundación in vitro y de las posibilidades tecnológicas que nos daban. Entonces, hay un momento que nosotros vimos que se podían manipular embriones, que incluso se podía llegar a clonar personas y eso generó tal interés en la comunidad científica que dije, tenemos que sumar diferentes sensibilidades, diferentes formas de ver las cosas, de filósofos, éticos, médicos, abogados, para concitar ante un problema que es muy importante, para ver si hacemos las preguntas relevantes para encontrar las soluciones que necesitamos".

"Ahora estamos un poco sorprendidos por todo lo bueno que nos está pasando y no está viniendo esa masa crítica que es la que yo quiero llamar a sus puertas otra. Tenemos que formar un cuerpo de conocimiento para poder buscar el equilibrio, porque si no esa tecnología nos pasa por delante. En la semana pasada hubo aquí en Málaga el Congreso Nacional de Ciberseguridad y decían los expertos que la mayor parte de datos que se vende y que se hace mercancía con ellos, son los datos médicos. En Singapur utilizan una serie de sistemas inteligentes que los venden empaquetados a empresas que no tienen ningún tipo de alma, ni respeto humano. Imagínate yo he puesto un ejemplo en la universidad de que una empresa farmacéutica que vende hormonas se entera que donde más hipotiroidismo existe en toda España es Málaga. Pues si ellos tuvieran esos datos y los tuvieran en detalle, podrían hacer campañas directamente a todos los ciudadanos de Málaga, para decirles directamente a ellos, y no a los de Cuenca. No veo yo esa conciencia crítica que sí vi en aquel momento con todas las posibilidades y la manipulación genética. Y es necesario que nos preguntemos por eso”.

"Antes, teníamos los nativos digitales que utilizaban dispositivos digitales, ya tenemos nativos inteligentes. Mi hijo de 12 años, Rodrigo, utiliza dispositivos, chatGPT, para todo en el colegio"

Y sigue contándome: “Quiero compartir contigo, que hace tiempo adopté un término que es un concepto que a ti te va a gustar, que es el de nativos inteligentes, que son la generación que ha crecido con la inteligencia artificial. Antes, teníamos los nativos digitales que utilizaban dispositivos digitales, ya tenemos nativos inteligentes. Mi hijo de 12 años, Rodrigo, utiliza dispositivos, chatGPT, para todo en el colegio. Utiliza Alexa y aplicaciones de cosas de fútbol que a él le gusta, que utiliza en inteligencia artificial. Y esa población, en muy pocos años va a ser la que nos va a exigir, que por un lado sepamos encontrar el equilibrio y sepamos regular esta tecnología, que es muy beneficiosa”.

Seguimos hablando de los derechos de los pacientes que va ligado a un aspecto fundamental y es el tema de la información. Y me dice: “Eso va a ser oro, va a ser diamante, imagínate el tener la información, porque antes no se podían manejar tantos datos, pero ahora a través de los dispositivos de Big Data, como de la reducción de riesgo de parecer demencia de las personas que se habían puesto la vacuna del herpes zozter, con 240.000 pacientes con todos sus datos. Antes, era inimaginable. Entramos en unas posibilidades infinitas, pero también en un terreno pantanoso, como son los sesgos algorítmicos”.

“El peligro es que nosotros no nos convirtamos en su beneficiario, sino que seamos el producto que vende la propia inteligencia artificial. Ese es el gran peligro de la inteligencia artificial y es que nosotros nos convirtamos en sujeto pasivo y seamos lo que se vende y no seamos lo que se beneficia"

Y hablamos del papel de la IA en la investigación y pregunto ¿Qué peligros tiene?: “El peligro es que nosotros no nos convirtamos en su beneficiario, sino que seamos el producto que vende la propia inteligencia artificial. Ese es el gran peligro de la inteligencia artificial y es que nosotros nos convirtamos en sujeto pasivo y seamos lo que se vende y no seamos lo que se beneficia. Para eso, tenemos que hacer, generar un cuerpo de conocimiento que no es sencillo, que no es intuitivo, que es una amenaza nueva y que, por tanto, es un reto magnífico y tenemos que fijarnos en ello. Nuestra vida digital es mucho más vulnerable que la vida real y lo hemos visto en la pandemia y entonces pueden manipularnos de cualquier forma. Solo nos están enseñando lo maravilloso que es, pero todavía no nos están enseñando el coste en derecho y libertades de los ciudadanos para utilizar ese tecnología”.

Tú crees que cada vez más, los médicos se están acercando a la inteligencia artificial y hay gente en cambio que no se acerca porque tiene miedos a que le quiten su trabajo, tenga un peso mayor la máquina que la persona?. Tú crees que eso es posible?: “Es una pregunta que me hacen ahora cuando voy a dar el charlas divulgativas. Pero hay algunos médicos y profesionales de la sanidad que no se quieren enterar que esto es el futuro, que esto es ya una realidad. Y hay determinadas especialidades que están claramente en vulnerabilidad absoluta, como son todas aquellas que utilizan imágenes, como radiología, como la dermatología, como la anatomia patológica, porque o se reinventan todo este tipo de especialidades o ….”.

“Para los sistemas sanitarios también va a ser un cambio. Ya existe una aplicación, donde cuando tú tienes una serie de síntomas, empiezas a hablar con un 'chat bot', le vas diciendo síntomas y te vas preguntando y repreguntando y te va pidiendo algunas cosas clásicas, típicas. Hace una sospecha diagnóstica y te dice si tienes que ir o no a urgencias"

Y añade José Antonio: “Para los sistemas sanitarios también va a ser un cambio. Ya existe una aplicación, donde cuando tú tienes una serie de síntomas, empiezas a hablar con un chat bot, le vas diciendo síntomas y te vas preguntando y repreguntando y te va pidiendo algunas cosas clásicas, típicas. Hace una sospecha diagnóstica y te dice si tienes que ir o no a urgencias. Y si quiere ir a urgencias, ¿cuál sería tu prioridad? Sería como el triaje que hacemos nosotros ahora en una puerta de urgencias de un hospital. Y te dice, si es prioridad cuatro y no es urgente, diciéndole

que tiene cuatro horas de espera, ¿quién usted coger esa cita? Pongala ya. Y tú decides si quieres urgencias o no. Pero es más, es como los billetes de avión, tú has visto que puedes elegir prioridad, asiento, qué tipo de asiento, dónde lo quiere el asiento, si quiere ir con maletas o no y todo lo que tú vayas eligiendo lleva un costo adicional. Pues ellos te dicen que tú tienes tal prioridad, sí quieres que sea prioridad una, o te saltas antes que otros que tendrían que esperar. Y todo ello porque tecnológicamente se puede hacer. Imagínate la lista de espera, nosotros tenemos tal cantidad de información y una cantidad de indicadores que no nos están sirviendo para resolverla”.



Comento que esto es un tsunami que viene que no va a poder pararlo nadie. La verdad es que es un mundo que hay que meterse, para conocerlo hay que meterse, pero también hay que buscar un equilibrio para que la atención, para que la tecnología no gane por encima de todo, sino que sea más humana. Me contesta José Antonio: “Tú, que eres una persona que crees en eso, seguramente darle un valor humano a la tecnología es un elemento muy importante. Yo estoy preocupado porque la reacción de las profesionales sanitarias está siendo una reacción lenta, de ir abrazando la tecnología pero de no ir incluyendo los peligros.

Y quiero movilizar, y tú sabes muchísimo de eso, mucho más que yo, es que el tema de que los pacientes sean también sensibles y sean conscientes de que con ellos, de su mano, también van a tener que exigir los derechos de cuarta generación que se llama, cómo se van a tratar sus datos, cómo pueden utilizar la portabilidad de sus datos, cómo se pueden negar a determinadas cosas, cómo tienen que ser los nuevos consentimientos informados. O sea, ya tenemos dispositivos que audiovisualmente un cirujano puede explicar perfectamente cómo va a ser su cirugía y puede incluso enseñar cuáles pueden ser las complicaciones. Y ahí le vamos a tener que pedir también a los pacientes que nos ayuden, como nos han ayudado tantas veces. La verdad es que tenemos todo un mundo por delante. Tenemos que meternos, queramos o no.

El mundo de la inteligencia artificial ha llegado para quedarse y, por tanto, hay que meterse con ella para intentar sacarle el mejor de los beneficios”.

Para esuchar este magnífico podcast picha a continuación: