Som una Fundació que exercim el periodisme en obert, sense murs de pagament. Però no ho podem fer sols, com expliquem en aquest editorial.
Clica aquí i ajuda'ns!
Els algoritmes de la Intel·ligència Artificial (IA), les combinacions de dades que han demostrat que poden resoldre problemes de manera automàtica, van prenent el seu lloc d’actuació en múltiples disciplines de la vida. També en els dominis sanitaris. El mercat de les aplicacions d’IA anuncien solucions per a tot, també per a entorns hospitalaris el funcionament dels quals molts dels desenvolupadors d’aquestes eines no coneixen.
Per això, aquest veloç i competitiu desenvolupament tecnològic i el màrqueting que acompanya cada eina pensada per a simplificar tasques o completar-ne ara, sobretot, demana reflexió: aturar-se i identificar quina necessitat té cada col·lectiu, cada especialitat o centre hospitalari i què pot fer la IA per a resoldre-ho, si pot millorar de debò un determinat sistema de treball. Però també cal raonar què és el que no hauríem de deixar mai en les mans de la IA.
El pròxim dimarts, 29 de setembre, l’Hospital de Sant Joan de Déu dedicarà tot el matí a una jornada oberta als professionals sanitaris per parlar-ne, una crida i convit a fer aquesta aturada reflexiva. ‘High Tech & Human Touch’. Reprogramant l’assistència en l’era de la IA’ és com es presenta la proposta de diàleg i intercanvi, que vol posar èmfasi en la necessitat, per a pacients i professionals, de salvaguardar tot allò que ens fa més humans i que cap sistema creat amb la tecnologia hauria de substituir ni arrabassar: l’escolta, l’empatia, el suport, l’acompanyament físic i moral… És una invitació a reflexionar sobre com la intel·ligència artificial està transformant la presa de decisions als hospitals i sobre qui lidera o ha de liderar aquesta transformació.
El fet de trobar-se els professionals i exposar la seva experiència fins ara amb la IA permetrà conèixer el que realment s’està implementant i què serveix en la pràctica diària als hospitals. La trobada, que ha estat organitzada amb el suport de les firmes biofarmacèutiques Alexion, AstraZeneca i Sanofi, és “un fòrum que reuneix hospitals, administracions públiques i empreses tecnològiques per promoure una conversa oberta i honesta sobre l’adopció de la intel·ligència artificial”, tal es dona a conèixer en la crida de participants.
“Hi ha molt risc que en aquesta dinàmica competitiva per trobar solucions, oblidem definir com a societat quines són les habilitats dels professionals que volem conservar i les que volem delegar”, puntualitza la directora d’estratègia digital, dades i sistemes d’informació de l’Hospital Sant Joan de Déu de Barcelona, Yolima Cossio.
De la medicina preventiva a la transformació digital
Formada com a metgessa en medicina preventiva i salut pública, Yolima Cossio va treballar a l’Hospital del Vall d’Hebron, primer des de la seva especialitat tractant les infeccions. La qualitat del servei va ser la seva tasca principal en el Consorci Sanitari de l’Anoia on també va estar. “Per a mesurar el que es feia bé necessitàvem dades. Si no, com pots afirmar que els resultats de l’atenció no són bons, si no tens dades? Vam veure que era súper important tenir dades i saber interpretar-les, perquè de vegades, les dades hi són, però no sabem què preguntar”, afirma. Amb un màster en direcció del sistema sanitari i un altre en salut pública i epidemiologia, va ser coordinadora de dades a l’Hospital del Vall d’Hebron fins a esdevenir directora de sistemes. A l’Hospital de Sant Joan de Déu ja hi va entrar per ajudar a la transformació digital. Ara és l’estratègia digital, les dades i els sistemes d’informació el que completa la seva visió global de l’hospital en aquesta nova era tecnològica.
Aprendre com mesurar tot allò que l’interessava sobre pacients i funcionament de l’hospital li va permetre lligar el seu objectiu des de la medicina pública: com ajudar la gent, saber quines malalties té la població, i saber cap a on anar, tant en prevenció, com en tractaments. “Sempre ha tingut present aquesta visió de medicina pública, però ara, a més, compto amb tot l’aprenentatge que he fet i el suport dels especialistes en tecnologia”, exposa. El seu perfil, doncs, abraça els dos àmbits: el tecnològic i l’humanista, dos mons que en aquesta nova era d’automatismes s’hauria d’aconseguir que anessin junts i que el primer afavorís sempre el segon.
Per això es proposa la jornada del dia 29, com a treball conjunt que sempre hauria de lligar la codificació informàtica, la feina dels enginyers que dominen la tecnologia i la dels professionals sanitaris. També els pacients amb les seves aportacions hi han de dir la seva, per assegurar que el benestar de les persones i la millora de la seva qualitat de vida, tant en l’àmbit laboral, com en el personal, es beneficia de la implantació de la IA i no anul·la ni substitueix talent, capacitat i habilitats humanes.
La realitat actual
“Els algoritmes predictius de determinades malalties ja veiem que poden ajudar a establir diagnòstics. Es poden fer moltes coses, sí, però veiem que moltes proves que es fan queden només en això: en una prova pilot”, declara Yolima Cossio. A més –afegeix– “veus professionals que usen aplicacions gratuïtes sense saber massa les implicacions que té el seu ús. I proveïdors que et visiten prometent augments espectaculars de productivitat sense entendre com funciona realment la sanitat pública. I als congressos veus projectes pilot que ningú té clar qui els integrarà, mantindrà o finançarà quan s’acabi el període de prova”.
Cal –precisa– saber “qui controla, qui aprova, qui determina quins problemes té l’hospital, abans de buscar la solució d’IA”. Per tot això, explica, “a l’Hospital de Sant Joan de Déu es va posar en contacte amb onze consultores amb coneixement de la tecnologia que tenien interès a conèixer quins són els circuits de l’hospital. Van tenir així oportunitat de conèixer com funciona un hospital. I un comitè tècnic, ètic i estratègic compost de quatre persones ens trobàvem cada setmana per parlar amb totes les consultores i veure què ens deien. Els vam pagar una cosa simbòlica pel seu acompanyament de l’abril fins abans de l’estiu. Els aprenentatges de l’ecosistema que en va derivar va ser molt ric. I vam veure que la solució de moltes de les coses que els directius volien resoldre, no era d’IA, sinó potser de canvi de rols, o en algun punt de l’organització”.
A l’Hospital de Sant Joan de Déu, l’Scribe és una de les dues eines que ja tenen implementada en diverses especialitats. És el sistema d’enregistrament de la conversa del professional amb un pacient i després, la redacció de la història clínica que el metge haurà de confirmar que estigui bé. Tot i així -precisa Cossio- eines com aquesta, perquè funcionin bé, s’han d’adaptar molt a cada especialitat”.
L’altra eina que tenen implementada ja al Sant Joan de Déu és una ajuda per fer diagnòstic diferencial, és a dir, indica quin diagnòstic té més probabilitats de ser el correcte. Altres que encara són algoritmes estan sent revisats com a recerca, com per exemple la predicció de les sèpsies, o la descompensació dels malalts de l’UCI. “De moment, els fem servir amb cura perquè s’estan testant”, diu Cossio. És ben conscient, però, que qualsevol professional sanitari pot consultar la IA generativa –ChatGPT–, per fer un aprenentatge no supervisat, i obtenir resultats de consultes que arriben com a fruit de connexions matemàtiques, però que no sempre suposa la resposta correcta. “Per això cal establir límits en determinats camps sanitaris. Els diagnòstics que la IA fa poden ajudar a confirmar o contrastar, però no es poden deixar en mans d’un algoritme decisions que poden ser errònies. Una altra cosa és la càrrega administrativa que no deixa temps per a dedicar-se al pacient i que podria fer la IA. Però, també en aquest camp, tal com afirma Cossio, “hi ha moltes proves d’aplicacions que han demostrat ser ineficients. És a dir, es desenvolupen moltes aplicacions, però qui en fa el seguiment després i l’auditoria de la seva eficiència o el control de l’ús que se’n fa?”. Una altra cosa -afegeix- “és que no es veu la rendibilitat de la inversió en IA en productivitat a les empreses perquè no s’està mesurant, i ho hauríem de poder fer, però, com?”
Com a directora d’estratègia digital, dades i sistemes d’informació del Sant Joan de Déu, Cossio, planteja que els responsables d’aquesta implantació i supervisió de la IA en un hospital, poden fer tres coses: Fer veure que no està passant, és a dir, que els professionals no estan fent consultes al chatGPT i altres aplicacions d’IA; capar els sistemes informàtics de la casa per a no poder-ho fer, o bé, formar el personal sobre les eines que ja estiguin testades, ensenyant-los com fer-les servir, considerant-les oficials, com a ja aprovades per l’organització quant a temes de privacitat. Així entrenes tothom per a fer-la servir i vas monitorant-ne el seu ús, no per capar, sinó per a usar-la en un entorn segur”. Aquesta –diu– “és la manera d’evitar que surtin dades del teu entorn i que no es comparteixin, amb un contracte específic que ja et dona aquesta garantia, perquè no volem que la informació que hi posem alimenti la IA. Tot això t’ho has de plantejar com a organització. Aquesta era la nostra filosofia”.
“Nosaltres el focus el vam posar a continuar estudiant què pot fer la IA quant al diagnòstic i tractaments, però donant també una empenta a l’hospital perquè l’organització sigui millor. I la primera organització que ens cal és la de determinar qui supervisa si una eina d’IA és òptima o no per als usuaris i professionals d’un centre hospitalari, si ajuda a millorar per exemple el sistema de treball establert, si alleugereix realment de càrregues. Ens equivocaríem ficant tot l’esforç en demanar a la IA que faci els diagnòstics”, precisa la doctora.
El vessant humà
La salvaguarda de la humanitat enfront de la IA, passa –en paraules de Cossio– perquè “tots els professionals es formin en pensament crític sobre aquesta tecnologia, i saber defensar que habilitats concretes dels professionals sanitaris, el procés cognitiu d’arribar a un diagnòstic, no s’hauria de perdre. Tampoc la capacitat d’entendre’ns com a humans. S’ha de mantenir el dret al tracte personal. La IA mai hauria de suplir al 100% els canals de comunicació d’humà a humà. I cap aplicació o eina que serveixi per fer la comunicació amb els usuaris, direcció de persones i valors pacients no pot ser l’única manera de comunicar-te”, afirma l’especialista de l’Hospital Sant Joan de Déu.
Per això des d’aquest centre hospitalari referent europeu en pediatria han volgut organitzar la jornada del pròxim 29 de setembre, per a fer valdre l’alta tecnologia, però acompanyada del tracte humà. “La IA pot ajudar molt a contrastar diagnòstics, com a suport i complement i també per a agilitzar tasques que no aporten valor, feines repetitives, com introduir dades o calcular resultats. Però, de totes maneres, hem de poder fer que l’aplicació de la IA no quedi només com a prova pilot, que sigui escalable si funciona, i amb visió d’organització”, puntualitza Yolima Cossio.
Cossio es planteja, a més, si és tasca de cada hospital organitzar tota aquesta supervisió de la IA i el coneixement de les aplicacions que els venen a oferir solucions, o si hauria de supervisar-se des de la Conselleria de Salut i per a tota Catalunya? De fet, en la jornada s’ha convidat a participar en una taula d’estratègia les persones que conformen el comitè d’IA de Salut. Perquè, tal com l’especialista apunta, “tot això és un canvi social i molt interessant, però que ha de saber preservar les habilitats que han de continuar en mans dels professionals, i això els qui desenvolupen la tecnologia ho han de saber”.
Moltes aplicacions que estan sorgint –comenta Cossio– “poden resultar atractives, però amb elles ens estem jugant el futur de la humanitat i de la sanitat pública. Per a confirmar un diagnòstic, necessitem metges”. I l’especialista del Sant Joan de Déu aprofita per alertar de l’augment de consultes que hi pot haver, noves demandes a la sanitat, per la interacció dels pacients amb la IA, fent-li consultes sobre els símptomes que tenen”.
Fora i dins de l’hospital, doncs, davant d’aquesta irrupció de la IA ja globalitzada, cal, a parer d’aquesta especialista, “educació i decisions compartides, i que la gent s’apoderi, perquè la transformació s’ha de fer conjuntament i amb una tecnologia que serà positiva si la governa la humanitat perquè, en resum: L’arribada de la IA pot ser una resposta a necessitats, però també comporta risc. Sabem que té un gran potencial de transformació en positiu, però, sense formació i límits, acabarem perdent tots”, conclou Yolima Cossio.
