Acessibilidade / Reportar erro

Desafíos bioéticos del uso de la inteligencia artificial en los hospitales

Resumen

Este artículo explora las ventajas y los posibles desafíos bioéticos que plantea el uso de la inteligencia artificial en los hospitales. Con base en la identificación de los desafíos en el desarrollo de sistemas dotados de inteligencia artificial (etapa prehospitalaria) y en la implementación y capacitación de los equipos de salud (etapa hospitalaria), se analiza el papel del enfoque bioético en el enfrentamiento de esta situación, especialmente de los comités de bioética hospitalaria. Por lo tanto, mediante la identificación de los desafíos individuales –relativos a la autonomía, al consentimiento y a la privacidad de los pacientes– y colectivos –cómo debe actuar la sociedad en general ante las nuevas tecnologías–, se observa el papel del Estado en la protección de la privacidad del paciente en el contexto del uso de la inteligencia artificial. En conclusión, teniendo en cuenta la vulnerabilidad humana ante la tecnología, se entiende que la regulación es un instrumento que, junto con los principios bioéticos, trata de minimizar los desafíos del uso de la inteligencia artificial en los hospitales.

Inteligencia artificial; Hospitales; Bioética

Resumo

Este artigo explora vantagens e possíveis desafios bioéticos do uso da inteligência artificial em hospitais. A partir da identificação de desafios no desenvolvimento de sistemas dotados de inteligência artificial (fase pré-hospitalar) e na implementação e capacitação de equipes de saúde (fase hospitalar), analisa-se o papel da abordagem bioética no enfrentamento dessa situação, sobretudo dos comitês de bioética hospitalar. Desse modo, mediante a identificação de desafios de ordem individual – referentes à autonomia, consentimento e privacidade dos pacientes – e coletiva – como a sociedade em geral deve se portar diante das novas tecnologias –, observa-se o papel do Estado na proteção da privacidade do paciente no contexto de utilização da inteligência artificial. Em conclusão, considerando a vulnerabilidade humana perante a tecnologia, entende-se que a regulamentação é um instrumento que, junto com os princípios bioéticos, tenta minimizar os desafios do uso da inteligência artificial em hospitais.

Inteligência artificial; Hospitais; Bioética

Abstract

This paper explores advantages and possible bioethical challenges of using artificial intelligence in hospitals. By identifying challenges both in the development of artificial intelligence systems (pre-hospital phase), its adoption, and training of healthcare teams (hospital phase), it analyzes the role of the bioethical approach in addressing this situation, especially in hospital bioethics committees. Hence, by identifying individual – related to autonomy, consent and patient privacy –, and collective challenges – how society at large should behave before new technologies –, the paper examines the role of the state in protecting patient privacy in contexts where artificial intelligence is used. In conclusion, considering the human vulnerability before technology, regulation is a tool that, anchored in bioethical principles, aims to minimize the challenges concerning artificial intelligence in hospitals.

Artificial intelligence; Hospitals; Bioethics

Los dispositivos médicos, la ingeniería genética y la telemedicina son algunos ejemplos de las nuevas tecnologías empleadas en el ámbito de la medicina. Entre estas innovaciones, llama la atención el desarrollo y la mejora de sistemas dotados de inteligencia artificial (IA), que ya vienen contribuyendo en el ámbito de la salud en diversos países. Además, debido a la pandemia por el nuevo coronavirus (SARS-CoV-2), que tuvo inicio en el 2020, se amplió el uso de la IA en la búsqueda de soluciones que pudieran contribuir a la prestación de servicios médicos y al combate al virus.

Con la creciente demanda de IA, se hace necesario reflexionar no solo sobre los posibles beneficios de su uso para la asistencia a la salud, sino también sobre los desafíos y riesgos que puede plantear en la atención al paciente. Esto es especialmente cierto en los hospitales, dado que son entornos de cuidado multidisciplinares, en los que intervienen diversos profesionales en la toma de decisiones. En ese sentido, por medio de una investigación bibliográfica de carácter exploratorio11. Gil AC. Como elaborar projetos de pesquisa. 4ª ed. São Paulo: Atlas; 2002. , el objetivo de este artículo es proponer la reflexión y fomentar el debate sobre los posibles desafíos bioéticos del uso de la IA en los cuidados de la salud en el entorno hospitalario.

Por lo tanto, con base en un análisis de la literatura, se presenta la definición y el funcionamiento de la IA en el área de la salud, especialmente en las unidades hospitalarias. Asimismo, se analizan las ventajas de su uso, los desafíos de su implementación y la importancia de la bioética al señalar los límites y finalidades de la intervención de la tecnología en la vida, así como el papel del Estado en dicha implementación.

Ante el análisis, se sugieren enfoques que pueden ser adoptados por la sociedad en general, así como por científicos, profesionales de la salud y gobiernos, en la elaboración (etapa prehospitalaria), uso en hospitales (etapa hospitalaria) y regulación y vigilancia de la IA, para que el uso de esta tecnología se produzca de forma segura y correcta.

Inteligencia artificial

Segundo cerebro

La IA se puede definir como una inteligencia similar a la humana, pero desarrollada por programas informáticos. Según Santos, la inteligencia artificial es una rama de la investigación de la informática que busca, por medio de símbolos computacionales, construir mecanismos o dispositivos que simulen la capacidad del ser humano para pensar, resolver problemas, es decir, ser inteligente 22. Santos MAS. Inteligência artificial. Brasil Escola [Internet]. [2008] [acesso 18 nov 2021]. Disponível: https://bit.ly/3IjcQn3
https://bit.ly/3IjcQn3...
.

Por medio del llamado machine learning (aprendizaje automático), las computadoras están programadas para aprender como los humanos, y casi todo el aprendizaje automático se basa en redes neuronales. Estas son sistemas de computación con nodos interconectados que funcionan como las neuronas del cerebro humano. Por medio de algoritmos, son capaces de reconocer estándares ocultos y correlaciones en datos sin procesar, agruparlos y clasificarlos y –con el tiempo–, aprender y mejorar continuamente 33. Redes neurais: o que são e qual sua importância? Statistical Analysis System [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/3sgog5c
https://bit.ly/3sgog5c...
.

Las redes neuronales son alimentadas por un gran volumen de datos ( big data ) introducidos en el sistema, que sirven para entrenarlas para encontrar una solución que implique dichos datos. En el ámbito de la salud puede incluir desde el diagnóstico precoz de una determinada enfermedad hasta la infusión de medicamentos44. Gambus P, Shafer SL. Artificial intelligence for everyone. Anesthesiology [Internet]. 2018 [acesso 18 nov 2021];128(3):431-3. DOI: 10.1097/ALN.0000000000001984 .

Según el profesor Hal Daume III, en un nivel básico, el aprendizaje automático consiste en predecir el futuro con base en el pasado. Por ejemplo, puedes predecir cuánto le gustará a la usuaria Alice una película que no ha visto con base en las calificaciones de las películas que ha visto. Esto significa hacer conjeturas sobre alguna propiedad no observada de algún objeto, con base en las propiedades observadas de dicho objeto. (...) La generalización es quizá el concepto central en el aprendizaje automático 55. Daumé H 3rd. A course in machine learning [Internet]. [Local desconhecido]: Hal Daumé III; 2012 [acesso 18 nov 2021]. p. 8-9. Tradução livre. Disponível: http://ciml.info/
http://ciml.info/...
.

Con base en diferentes estudios, Gomez66. Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10 resalta que la IA se despliega en cuatro enfoques, a saber: 1) sistemas que piensan como humanos; 2) sistemas que piensan racionalmente; 3) sistemas que actúan como humanos; y 4) sistemas que actúan racionalmente. Los robots se clasificarían como sistemas de computación inteligentes capaces de realizar tareas sin recibir instrucciones directas de humanos77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

En sus diversas formas de desarrollo, la IA se emplea cada vez más en el ámbito de la salud como un segundo cerebro, un ser pensante, contribuyendo al diagnóstico de enfermedades y a la asistencia a los pacientes. Por lo tanto, se hace necesario que esta tecnología vaya acompañada de cerebros humanos, para que el progreso tecnológico no resulte en daños a los pacientes ni a los profesionales.

La era de la salud 4.0

Chen y colaboradores88. Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0 resaltan que el ámbito de cuidados en salud puede dividirse en cuatro eras. En el siglo XIX, la era 1.0 adoptó enfoques inteligentes de salud pública, como medidas de saneamiento e investigación de vacunas para mejorar la calidad de vida. A principios del siglo XX, la era 2.0 estuvo marcada por la expansión de las grandes farmacéuticas, impulsada por el uso de la tecnología industrial, lo que permitió la producción masiva de diversos antibióticos. También se amplió la enseñanza básica de ciencias y el entrenamiento clínico, y la característica de esa época es la estructura de masa.

Alrededor de la década de 1980, comenzó la era 3.0, caracterizada por la tecnología de la información. Con el avance de la tecnología computacional, hubo un mejor uso de las imágenes en los cuidado de la salud, lo que permitió que los médicos examinaran lesiones con información adicional e identificaran enfermedades de manera más célere. Incluso en esa era, el avance de internet permitió un amplio acceso a la literatura médica, lo que aceleró el desarrollo de la medicina basada en evidencias.

Actualmente, el mundo vive en la era de los cuidados de la salud 4.0, que se caracteriza por la medicina inteligente. Manteniéndose al día con la nueva ola de revolución tecnológica, esta etapa está dominada en gran medida por la IA, el big data , la medicina de precisión, la telemedicina, etc., y es reconocida como la era en la que la medicina ha cobrado un nuevo cerebro y nuevas manos88. Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0 . Así, las noticias sobre el uso de la IA en el ámbito de la salud son frecuentes y su uso para la prevención, detección y tratamiento de enfermedades viene siendo ampliamente investigado.

IBM, una empresa informática norteamericana, creó Watson Health99. IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
https://ibm.co/3Le5UbY...
, tecnología basada en evidencia que permite a los profesionales de la salud compartir datos, proporcionando información para atender hospitales y realizar investigaciones, por ejemplo. El desempeño de Watson destaca en contribuir al tratamiento oncológico y en investigaciones de nuevas terapias en ciencias, lo que, según IBM99. IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
https://ibm.co/3Le5UbY...
, reduce los costos de atención y aumenta el valor del ámbito de la salud y los servicios sociales por medio de la medicina de precisión.

En el 2014, Google adquirió DeepMind77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp

8. Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0

9. IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
https://ibm.co/3Le5UbY...
- 1010. Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
https://bit.ly/35a218q...
, una empresa centrada en el desarrollo de IA, que creó una red neuronal aumentada de memoria llamada computadora neuronal diferenciable ( differentiable neural computer, DNC), que aprende de la experiencia utilizando un sistema de aprendizaje profundo. Los DNC1111. Wayne G, Graves A. Differentiable neural computers. DeepMind [blog] [Internet]. 2016 [acesso 18 nov 2021]. Disponível: https://bit.ly/3papHk0
https://bit.ly/3papHk0...
aprenden a usar la memoria y a producir respuestas desde cero.

DeepMind, en colaboración con hospitales y universidades británicas, desarrolla estudios y aplicaciones para encontrar maneras más rápidas de identificar enfermedades oculares comunes con base en exámenes rutinarios1010. Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
https://bit.ly/35a218q...
y diferenciar tejidos sanos y células cancerosas. Además, la empresa creó una aplicación que permite analizar datos de registros médicos, emitiendo una alerta cuando hay un cambio en la condición clinica del paciente77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Inteligencia artificial en el soporte hospitalario

Lobo afirma que la inteligencia artificial en medicina consiste en el uso de computadoras que, al analizar un gran volumen de datos y seguir algoritmos definidos por expertos en la materia, son capaces de proponer soluciones a problemas médicos 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Cabe destacar numerosas investigaciones que estudian el uso de la IA en el campo de la salud, en situaciones como el pronóstico de la calidad de vida de los pacientes con cáncer, ayuda en la toma de decisiones sobre el tratamiento clínico más adecuado1212. Santos HG, Zampieri FG, Normilio-Silva K, Silva GT, Lima ACP, Cavalcanti AB, Chiavegatto Filho ADP. Machine learning to predict 30-day quality-adjusted survival in critically ill patients with cancer. J Crit Care [Internet]. 2020 [acesso 18 nov 2021];55:73-8. DOI: 10.1016/j.jcrc.2019.10.015 o el uso de reconocimiento facial para detectar fiebre en personas1313. Council J. Hospitals tap AI to help manage coronavirus outbreak: health-care providers are enlisting the technology to monitor patients, screen visitors. Wall Street Journal [Internet]. Artificial intelligence; 20 mar 2020 [acesso 18 nov 2021]. Disponível: https://on.wsj.com/3BSZc7v
https://on.wsj.com/3BSZc7v...
. Sin embargo, el objeto de esta investigación es analizar el uso de la IA en hospitales con base en casos publicados en estudios nacionales e internacionales. Cabe señalar que, aunque este análisis se refiere al entorno hospitalario, muchas observaciones y conclusiones se pueden aplicar al uso de la IA en la salud, fuera de los hospitales.

Un estudio surcoreano comprobó el uso de la IA basada en el aprendizaje profundo como instrumento para predecir con precisión la necesidad de cuidados intensivos en pacientes en servicios médicos de urgencias prehospitalarios. Esto superó herramientas de triaje convencionales y los puntajes de alerta temprano, lo que permite concluir que el rendimiento predictivo del modelo de IA basado en el aprendizaje profundo es superior al de las herramientas de triaje y sistemas de puntaje convencionales 1414. Kang DY, Cho KJ, Kwon O, Kwon JM, Jeon KH, Park H et al. Artificial intelligence algorithm to predict the need for critical care in prehospital emergency medical services. Scand J Trauma Resusc Emerg Med [Internet]. 2020 [acesso 18 nov 2021];28(1):17. p. 4-5. Tradução livre. DOI: 10.1186/s13049-020-0713-4 .

Por lo tanto, en el aprendizaje profundo, el algoritmo aprende por sí solo qué recursos de imagen son importantes para realizar una clasificación, sin necesidad de que se lo informe un humano. Con esto, puede descubrir recursos que quizá no hayan sido percibidos por las personas, presentando un desempeño superior al humano. A pesar de ello, se teme que este tipo de sistemas de IA sea presentado a la sociedad como superior a la experiencia médica, lo que podría generar presión para que se implemente prematuramente en los sistemas de salud y hacer que su desarrollo se produzca sin una rigurosa base de evidencias1515. Nagendran M, Chen Y, Lovejoy CA, Gordon AC, Komorowski M, Harvey H et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:m689 DOI: 10.1136/bmj.m689 .

Para evitar que esto suceda, debe haber ética, diligencia y transparencia durante la investigación y elaboración del sistema. Además, este proceso debe basarse en evidencias científicas y seguir todos los protocolos y etapas necesarios para su implantación segura en el ámbito de la salud, y los investigadores no pueden sucumbir a las presiones sociales, so pena de comprometer el desarrollo de la IA.

El mismo rigor se debe aplicar a la puesta en común de los resultados, buscando el mejor interés del paciente, no el pionerismo tecnológico. Así, se debe sopesar el beneficio y el daño, la evaluación y la gestión del riesgo, tal como determinan los artículos 4 y 20, respectivamente, de la Declaración Universal sobre Bioética y Derechos Humanos (DUBDH)1616. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
https://bit.ly/3qPrixg...
.

Con la pandemia de la covid-19, el uso de la IA en el ámbito de la salud se ha vuelto aún más común. Un estudio publicado en marzo del 2020 en la revista Radiology afirma que la IA de aprendizaje profundo pudo detectar con precisión la covid-19, con base en imágenes de tomografía computarizada (TC) del tórax, y distinguirla de la neumonía y otras enfermedades, pulmonares o no1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 . Con esto, la detección de la enfermedad se vuelve más célere, ya que la TC de tórax podría usarse como un enfoque rápido y confiable para el rastreo de la covid-19.

Aunque obtuvieron resultados satisfactorios en su investigación, Li y colaboradores1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 destacan que el estudio presenta varias limitaciones: desventaja de todos los métodos de aprendizaje profundo es la falta de transparencia y capacidad de interpretación ( por ejemplo, es imposible determinar qué recursos de imagen se están utilizando para determinar la salida )1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 . Además, cabe destacar que ningún método será capaz de diferenciar todas las enfermedades pulmonares con base simplemente en la apariencia de la imagen en la TC del tórax. Se recomienda un enfoque multidisciplinario para ello 1717. Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905 .

También hay reportes del uso de robots para desinfectar el entorno hospitalario1818. Murray A. Coronavírus: os robôs usados para eliminar vírus em hospitais. BBC News Brasil [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bbc.in/35sLg85
https://bbc.in/35sLg85...
y para medir la temperatura a distancia1919. Alisson E. Startups brasileiras desenvolvem sistema que detecta febre a distância. Agência Fapesp [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3Hoc074
https://bit.ly/3Hoc074...
, además de la reciente autorización de la telemedicina2020. Brasil. Lei nº 13.989, de 15 de abril de 2020. Dispõe sobre o uso da telemedicina durante a crise causada pelo coronavírus (SARS-CoV-2). Diário Oficial de União [Internet]. Brasília, 15 abr 2020 [acesso 26 abr 2020]. Disponível: https://bit.ly/3JP1uaw
https://bit.ly/3JP1uaw...
en Brasil. También en Brasil, la IA se viene utilizando como una forma de triaje prehospitalario por medio de un sistema de inteligencia en línea que resuelve dudas y orienta a los pacientes, actuando como un servicio de emergencia digital para reducir la sobrecarga hospitalaria.

A la vez, en las unidades hospitalarias, el robot Laura, que utiliza el mismo sistema de IA que la atención de emergencia digital, ayuda a prevenir daños y a reducir costos por medio de análisis predictivos. Con la Inteligencia Artificial de Laura, los pacientes en una trayectoria de riesgo se identifican de manera anticipada, lo que le da al equipo de asistencia más tiempo para iniciar la gestión del cuidado 2121. Robô Laura [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://www.laura-br.com/
https://www.laura-br.com/...
.

Desafíos del uso de la inteligencia artificial en un entorno hospitalario

Ante tantas posibilidades, también es necesario exponer los problemas derivados del uso de la IA. Así, las siguientes cuestiones deben observarse de cerca y discutirse de manera responsable y ética, para la implementación correcta y segura de la IA en el sistema de salud y su uso en los hospitales: responsabilidad civil del equipo de salud por la decisión respaldada por la IA; formación deficiente de los equipos de salud para manejar adecuadamente la gestión de este sistema; confianza de los profesionales de la salud en este sistema; integridad científica en el proceso de construcción de IA; protección y uso compartido de datos sensibles recabados para alimentar el sistema.

Respecto a la IA para ayudar a la toma de decisiones en salud, destacamos el know-what y el know-why . Así, el sistema puede ayudar al profesional en este proceso, sugiriendo hipótesis sobre el problema y su probabilidad de incidencia ( know-what ), pero no logra explicar la causa de estas hipótesis ( know-why ). Por esta razón, si se utiliza como sistema de toma de decisiones, la IA puede conducir a errores sobre la conducta médica que se debe seguir, dependiendo de la capacidad del sistema para identificar el problema que afecta al paciente77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp , lo que eliminaría una de las ventajas de su uso.

Por lo tanto, es necesario invertir en capacitación de profesionales de la salud para operar correctamente los sistemas de IA disponibles. Del mismo modo, es necesario brindar una adecuada formación a los futuros profesionales del ámbito de la salud, asegurando que el enfoque bioético tenga un lugar más destacado en su formación, para promover la beneficencia al paciente, y no la tasa de éxito del sistema.

Así, aunque la tecnología se convierta en objeto de estudio para los profesionales de la salud, se espera que, en la misma medida, se amplíe la oferta de una enseñanza aún más humanizada y ética para el manejo de esta tecnología. En ese sentido, Han y colaboradores destacan que la inteligencia artificial reducirá los esfuerzos que requieren los médicos para interpretar los datos digitales y mejorar su capacidad de establecer un diagnóstico y un pronóstico. Por lo tanto, el aspecto humanístico no analítico de la medicina empezará a ser más enfatizado, porque es difícil reemplazarlo por la tecnología. (...) La educación médica futura debe reestructurarse para alinearse con estos cambios inexorables, teniendo en cuenta a los estudiantes que trabajarán en sistemas de salud digitalizados (...). Hay algunas consideraciones sobre el aprendizaje digital con tecnología avanzada, aunque tenga muchas ventajas técnicas. Debemos considerar cuidadosamente los desafíos éticos y morales, porque los algoritmos de aprendizaje basado en computadora y la inteligencia artificial pueden programarse para que sean tendenciosos contra ciertos grupos o sesguen hacia cualquier interés. Ante todo, se debe priorizar un enfoque humanístico para que los futuros médicos enfrenten la complejidad biopsicosocial de pacientes que no son fácilmente accesibles a las máquinas 2222. Han ER, Yeo S, Kim MJ, Lee YH, Park KH, Roh H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence: an integrative review. BMC Med Educ [Internet]. 2019 [acesso 18 nov 2021];19(1):460. p. 13. Tradução livre. DOI: 10.1186/s12909-019-1891-5 .

Otro punto que cabe resaltar en el uso de la IA en el entorno hospitalario es la alimentación del sistema, ya que, por una parte, los datos de los pacientes deben ser correctamente incluidos en la herramienta y, por otra parte, existe una alta rotación de personal. Así, el desarrollo de un flujo de alimentación que no sea perjudicado por el cambio de personal es imperativo para lograr un resultado satisfactorio. En un período caótico, como el de la pandemia de la covid-19, por ejemplo, para que la IA funcione como una ayuda en el entorno hospitalario, se debe asegurar el tratamiento de datos, designando a un equipo o a personas específicas para alimentar el sistema, con el fin de garantizar su eficiencia.

Lobo destaca que, actualmente, el problema es procesar un gran volumen de información, ya sea por medio de historias clínicas electrónicas con datos de los pacientes, resultados de sus exámenes, diagnóstico propuesto, prescripción y resultados de estas medicaciones, ya sea mediante la introducción manual de datos por teclado, considerando que los datos pueden no estar disponible o pueden estar incompletos. También se debe tener en cuenta la posibilidad de que sea necesario introducir la información manualmente por teclado debido a la incompatibilidad de los sistemas en los que se registra. Se debe tenerse en cuenta, sin embargo, que esta introducción manual por teclado puede eventualmente introducir una componente de error humano 77. Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp .

Cabe resaltar que el error cometido en esta etapa puede poner a prueba la opinión emitida por la IA, exponiendo a los pacientes y al equipo de salud que confiaron en ese sistema. En este punto, se cuestiona el papel de la bioética ante el uso de la IA en un entorno hospitalario.

Desafíos bioéticos en el uso de la inteligencia artificial

La bioética surge como resultado de las atrocidades perpetradas durante la Segunda Guerra Mundial, en un intento de construir la ética de la vida, común a todos los seres y naciones. Actualmente, se puede decir que la bioética pretende responder a las nuevas cuestiones éticas planteadas por las ciencias de la salud y de la vida, especialmente en lo que se refiere a las nuevas tecnologías empleadas en este ámbito2323. Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
https://bit.ly/3LbszWg...
.

Motta, Vidal e Siqueira-Batista2323. Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
https://bit.ly/3LbszWg...
argumentán que la preocupación por las perversidades cometidas en investigaciones con seres humanos, que dieron origen al Código de Núremberg, parece sugerir que la ética en la investigación con seres humanos es el objetivo principal de la bioética. Sin embargo, cada vez es más urgente aplicarla a las demás esferas de las relaciones y de la investigación, cruzando el puente idealizado por Van Rensselaer Potter en su conocida obra La bioética: Un puente hacia el futuro. En lo que respecta a las nuevas tecnologías, tan importante como preocuparse por la ética en las pruebas, es prestar atención a la integridad científica de las investigaciones, a la veracidad de los datos, al consentimiento del titular de los datos, y, sobre todo, a la honestidad y al rigor científico de la investigación presentada.

Gomes defiende que se deben responder tres preguntas sobre la IA: 1) ¿para cuándo?; 2) ¿para quién?; y 3) ¿para qué? En sus palabras: (...) para cuando (...) hoy y ahora, debemos ( y podemos ) evitar convertirnos en objetos de (...) IA y cuestionar su finalidad en lugar de aceptarla como algo inevitable o fatal. Respecto a la segunda pregunta, ¿para quién, (...) la IA debe estar dirigida al bien de la humanidad, de la persona, cada persona debe dejar de ser un mero espectador y convertirse en actor decisivo en la evaluación ética del valor y del interés superior de la IA en cada caso concreto. En cuanto a la pregunta ¿para qué?, advierte que la IA debe estar al servicio de la persona y no la persona al servicio de la tecnología; todos tenemos la responsabilidad ética de no obstaculizar el progreso científico, pero también tenemos el deber ético de preguntarnos sobre su finalidad 2424. Investigador do IB fala em 3 desafios éticos para a inteligência artificial. Universidade Católica Portuguesa [Internet]. 2019 [acesso 30 mar 2020]. Disponível: https://bit.ly/35phJwc
https://bit.ly/35phJwc...
.

Como destacan Silva y colaboradores , aunque los avances tecnológicos son sumamente importantes en el mundo de la medicina, desde el momento [en que] que uno comienza a interferir en otra vida, es necesario establecer no solo un límite, sino también un control social, económico y biológico de hasta qué punto se trata de una intervención beneficiosa para la población 2525. Silva ALAGMC, Sousa KCPC, Pereira GS, Araujo ACSS, Ribeiro LMN, Andrade IG, Vieira TLV. Os limites da tecnologia na prática médica segundo os princípios da bioética e da ética médica. Rev Bras Bioét [Internet]. 2018 [acesso 18 nov 2021];14(supl):81. Disponível: https://bit.ly/3LZ3NK5
https://bit.ly/3LZ3NK5...
.

Debe haber ética en todas las etapas del desarrollo de la IA, y este proceso comienza con un sentido de responsabilidad por parte de quienes programan la máquina66. Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10 . Deben preservar la integridad científica durante todo el proceso, desde la recopilación y gestión de los datos hasta la divulgación de los resultados a la comunidad científica. Deben ser imparciales en cuanto a los resultados obtenidos y a los posibles daños a los usuarios, incorporando el principio bioético de la no maleficencia.

Además de los principios ya consagrados, se deben tener en cuenta otros referentes bioéticos, como la práctica de análisis basada en el escenario “4P”, descrito por Garrafa y Azambuja2626. Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
https://bit.ly/3JXioUq...
: prudencia con lo desconocido; prevención de posibles daños; precaución contra el uso indiscriminado de nuevas tecnologías; y protección de los socialmente excluidos, los más frágiles y vulnerables. Los autores consideraron necesaria la incorporación de dichas referencias por el ejercicio de una práctica bioética comprometida con los más vulnerables, con la “cosa pública” y con el equilibrio ambiental y planetario del siglo XXI 2626. Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
https://bit.ly/3JXioUq...
.

El cumplimiento de las “4P” en comparación con el principio bioético de la no maleficencia, enfatiza que la protección y autorización del uso de datos de pacientes es de fundamental importancia a la hora de analizar el uso de la IA, especialmente en un entorno hospitalario. Por lo tanto, las cuestiones siguientes deben analizarse y discutirse de forma transparente y racional, teniendo en vista sus posibles consecuencias e incluso asumiendo una posible negativa de atención por parte de la institución hospitalaria si el paciente se niega a compartir sus datos:

  • ¿Está informado el paciente sobre cómo funciona el sistema de un determinado hospital?

  • ¿Se recoge el consentimiento informado para el uso e intercambio de datos clínicos sensibles del paciente?

  • ¿Cuáles son las implicaciones éticas de la omisión de esta aclaración?

Según un estudio publicado en marzo del 2020 en British Medical Journal , aunque la investigación en IA es prometedora, la literatura carece (…) de transparencia, informes claros para facilitar la replicabilidad, exploración de posibles preocupaciones éticas y demostraciones claras de eficacia 2727. Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927 . El trabajo también resalta que una de las razones de esto (…) es la falta actual de orientación de buenas prácticas específicas para el aprendizaje automático y la inteligencia artificial 2727. Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927 . Con base en ello, el estudio propone 20 preguntas críticas para ayudar a identificar las trampas comunes que pueden perjudicar las aplicaciones basadas en aprendizaje automático/IA en el ámbito de la salud. Las preguntas cubren temas de transparencia, reproducibilidad, ética y eficacia.

También es necesario reevaluar la formación de nuevos profesionales de la salud para actualizarlos sobre la evolución tecnológica desde una perspectiva bioética. Un estudio publicado en febrero del 2020 en la revista Frontiers in Medicine analizó esta cuestión y destacó la necesidad de validar herramientas modernas con ensayos clínicos tradicionales y debatir la actualización educativa del currículo médico a la luz de la medicina digital, teniendo en cuenta la ética del monitoreo conectado en curso. Dicho estudio utiliza el término “medicina aumentada” para abarcar las novedades aportadas no solo por la IA, sino por todos los dispositivos digitales2828. Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027 .

El trabajo investiga la razón por la que el campo de la medicina aumentada puede encontrar cierta resistencia por parte de los profesionales de la salud, especialmente los médicos, y resalta cuatro razones: 1) falta de preparación sobre el potencial de la medicina digital, dada la falta de educación básica y continua sobre esta disciplina; 2) la digitalización temprana de los procesos de salud, que culminó en un fuerte aumento de la carga administrativa, sobre todo la que se relaciona con la historia clínica electrónica, lo que pasó a conocerse como uno de los principales componentes del burnout médico; 3) el miedo creciente al riesgo de que la IA reemplace a los médicos; y 4) la actual escasez mundial de un marco legal que defina el concepto de responsabilidad en el caso de adopción o rechazo de las recomendaciones de los algoritmos2828. Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027 .

Ante este parámetro, se percibe que la educación para el uso de la IA en la salud debe centrarse no solo en el manejo de la tecnología, sino principalmente en la forma de tratar al paciente. Así, al practicar la medicina humanizada, orientada al bienestar del paciente –factor determinante para la decisión médica–, el profesional no temerá posibles responsabilidades civiles o penales por haberse basado o no en la IA en su diagnóstico, ya que el norte de su decisión fue la ética y la beneficencia, buscando el bienestar del paciente.

La ética relacionada con la tecnología comenzó a estudiarse hace al menos 20 años y, entre los principios éticos que rigen la investigación en salud, destacan: el respeto a las personas, la beneficencia y la justicia. Sin embargo, con la nueva era, surgen conflictos éticos que se suman a los ya conocidos, dado que surgen nuevas partes interesadas, como las empresas de tecnología, sin olvidar el gran volumen de datos que se genera. Por lo tanto, es importante reconocer quiénes están involucrados en este proceso e identificar la manera en que cada parte puede y debe asumir su responsabilidad para promover las prácticas éticas de este trabajo2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 .

Esta es una preocupación de la Organización Mundial de la Salud (OMS), que en enero del 2020 publicó un informe con los mayores desafíos de salud pública de la próxima década. El documento plantea preocupación en cuanto a la insuficiencia de las inversiones gubernamentales en el sector. Entre las mayores preocupaciones de la OMS figura la de dominar las nuevas tecnologías para la salud, especialmente en lo que respecta a los desafíos sobre el monitoreo y la regulación3030. Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
https://bit.ly/3hneNml...
.

Con esto, se pretende evitar que las tecnologías desarrolladas para ayudar a las personas las perjudiquen de alguna forma. Por lo tanto, es necesario revisar las evidencias y orientaciones sobre cuestiones más controvertidos, como la edición del genoma humano y la salud digital, y solicitar que los países regulen el desarrollo y el uso de estas nuevas tecnologías 3030. Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
https://bit.ly/3hneNml...
.

Nebeker, Torous y Bartlett Ellis resaltan que, al menos en Estados Unidos, no todas las personas que inician investigaciones están reguladas o capacitadas profesionalmente para diseñar estudios. (...) La revisión ética es un proceso de revisión por pares para evaluar la investigación propuesta e identificar y reducir los riesgos potenciales que pueden enfrentar los participantes de la investigación. Tener un proceso de revisión por pares objetivo no es un requisito para los gigantes de la tecnología, para las empresas emergentes ni para aquellos que se identifican con la comunidad científica de los ciudadanos; sin embargo, tenemos la responsabilidad social de hacerlo bien 2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 .

Los autores destacan aun un marco de los dominios de toma de decisiones en salud digital desarrollado para ayudar a los investigadores a tomar buenas decisiones al seleccionar tecnologías digitales para su uso en investigación en salud. El esquema comprende cinco dominios: 1) privacidad de los participantes; 2) riesgos y beneficios; 3) acceso y usabilidad; 4) gestión de datos; y 5) principios éticos2929. Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7 . Estos cinco dominios se presentan como relaciones cruzadas.

Papel de los comités de bioética

Ante este contexto, es fundamental la participación de los comités de bioética de las unidades hospitalarias en la implementación y supervisión del uso de la IA en los hospitales, así como su asistencia a los profesionales sanitarios en la toma de decisiones apoyadas en la IA, de manera que se priorice el beneficio al paciente. Sin embargo, Rocha y Rocha resaltan que muchas decisiones bioéticas terminan siendo tomadas por autoridades hospitalarias o por profesionales del campo jurídico, no instrumentalizados con el conocimiento bioético, por lo que presentan respuestas que en realidad buscan resguardar jurídicamente a las entidades jurídicas públicas y privadas de posibles demandas, en lugar de aportar soluciones éticas que puedan confortar al paciente y a sus familiares 3131. Rocha MS, Rocha AS. Resolução de conflitos bioéticos no cenário hospitalar brasileiro: uma revisão sistemática da literatura. Rev Bras Bioét [Internet]. 2019 [acesso 18 nov 2021];15(e7):1-12. p. 10-1. Disponível: https://bit.ly/36Ipmyz
https://bit.ly/36Ipmyz...
.

En Brasil, según la Recomendación 8/2015, del Consejo Federal de Medicina3232. Conselho Federal de Medicina. Recomendação CFM nº 8, de 12 de março de 2015. Recomenda a criação, o funcionamento e a participação dos médicos nos Comitês de Bioética [Internet]. Brasília: CFM; 2015 [acesso 18 nov 2021]. Disponível: https://bit.ly/3BPsXpX
https://bit.ly/3BPsXpX...
, los comités/comisiones de bioética hospitalaria deben estar formados por un colegiado multiprofesional, autónomo, con competencia consultiva y docente. Estos órganos tienen como objetivo auxiliar en la reflexión y solución de cuestiones relacionadas con la moral y la bioética que surgen en la atención al paciente. Con la ayuda del comité de bioética es posible tomar la decisión más adecuada en beneficio del paciente.

Siqueira-Batista y colaboradores2828. Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027 , al abordar un modelo de toma de decisiones con enfoque computacional, señalan que debe quedar claro que se trata de un sistema de apoyo a la decisión y no de la transferencia del proceso de toma de decisiones a un sistema computacional. Así pues, la última palabra, obviamente, la tendrá siempre el profesional capacitado, que no tendrá que renunciar al ejercicio de su conciencia ética 3333. Siqueira-Batista R, Gomes AP, Maia PM, Costa IT, Paiva AO, Cerqueira FR. Modelos de tomada de decisão em bioética clínica: apontamentos para a abordagem computacional. Rev. bioét. (Impr.) [Internet]. 2014 [acesso 18 nov 2021];22(3):456-61. p. 460. DOI: 10.1590/1983-80422014223028 .

Por lo tanto, el comité de bioética, en caso de conflictos morales y éticos derivados de la asistencia médica basada en el uso de IA y de otras tecnologías, debe ser instado a asistir al equipo de salud en la toma de decisiones. Sin embargo, desempeña un papel previo: ayudar en la implementación de estas tecnologías en la unidad hospitalaria, investigando su integridad científica, efectividad y viabilidad en dicha unidad, de acuerdo con la capacitación de los profesionales de salud locales.

Además, el comité debe abogar por la implementación de capacitación periódica en el manejo del sistema de IA, centrándose en las pautas bioéticas, especialmente en el principio de beneficencia. Con esto se pretende mitigar el riesgo tanto para la integridad del paciente como para el equipo de salud, como resultado de su decisión apoyada en la tecnología.

Francisconi resalta que los avances tecnológicos han permitido el desarrollo de equipos cada vez más desarrollados, lo que ha aportado, en su mayor parte, beneficios inequívocos a los pacientes. Por otra parte, los avances tecnológicos a menudo implican problemas éticos 3434. Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
https://bit.ly/3JRiH3i...
. Para el autor, cuando se le ofrecen nuevas técnicas para implementar en su actividad laboral, el profesional debe hacerse las siguientes preguntas: 1) ¿es seguro el nuevo procedimiento?; 2) ¿es eficaz?; 3) ¿representa una mejora real con respecto al tradicional?; 4) ¿cuál es su utilidad (relación costo-beneficio)?; y 5) cuál es su repercusión social3434. Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
https://bit.ly/3JRiH3i...
?

Si bien parte de estos desafíos puede ser enfrentada con la ayuda de la bioética, esta por sí sola no es capaz de resolverlos todos. Así, la regulación de la IA es primordial y, por lo tanto, requiere la actuación del poder estatal.

Papel del Estado en la era de la inteligencia artificial

Como el sistema de IA utiliza datos personales, es necesario que el Estado regule la responsabilidad, los límites y los principios que se deben establecer en el manejo de esta tecnología. En el ámbito internacional, existen muchas regulaciones que tienen como objetivo delimitar el uso de la IA. Todos mencionan la Recomendación sobre la ética de la Inteligencia Artificial , publicada a finales del 2021 por la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura, el primer instrumento normativo mundial sobre la ética de la IA aprobado por los estados miembros de la entidad3535. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Estados-membros da Unesco aprovam o primeiro acordo mundial sobre ética da inteligência artificial. Unesco [Internet]. 2021 [acesso 16 fev 2022]. Disponível: https://bit.ly/3t5fA12
https://bit.ly/3t5fA12...
.

En el 2021, se desarrolló la Estrategia Brasileña de Inteligencia Artificial, una política pública que pretende servir de base para las acciones del Estado en el desarrollo y uso de la IA. En esta acción, el sector de la salud es el que cuenta con el mayor número de startups de IA financiadas por programas gubernamentales3636. Brasil. Estratégia Brasileira de Inteligência Artificial: Ebia [Internet]. Brasília: Ministério da Ciência, Tecnologia e Informação; 2021 [acesso 11 fev 2022]. Disponível: https://bit.ly/3HjRp3V
https://bit.ly/3HjRp3V...
. El país aún no cuenta con una legislación específica para regular el desarrollo y uso de esta tecnología, aunque se encuentra en trámite en la Cámara de Diputados el Proyecto de Ley 21/20203737. Brasil. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil e dá outras providências [Internet]. Brasília: Câmara dos Deputados; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3hy9UY5
https://bit.ly/3hy9UY5...
, que tiene como objetivo crear el Marco Legal para el Desarrollo y Uso de la Inteligencia Artificial.

Sin embargo, al tratarse de datos personales – información cuya protección obtuvo el estatus de derecho fundamental por intermedio de la Enmienda Constitucional 115/20223838. Brasil. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Diário Oficial da União [Internet]. Brasília, 10 fev 2022 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
– aunque no exista una legislación específica para la IA, se debe seguir lo dispuesto en la Ley General de Protección de Datos3939. Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
. Esta directriz considera la información relativa a la salud como datos personales sensibles y determina que solo pueden ser tratados con el consentimiento del titular. Incluso en los casos de excepción al consentimiento, se deben utilizar con el fin de preservar los derechos del titular3939. Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
https://bit.ly/3IkWLNr...
.

Se encuentra en trámite en la Cámara de Diputados el Proyecto de Ley 3.814/20204040. Brasil. Projeto de Lei nº 3.814/2020. Altera a Lei nº 8.080, de 19 de setembro de 1990 (Lei Orgânica da Saúde), e a Lei nº 13.787, de 27 de dezembro de 2018, que dispõe sobre a digitalização e a utilização de sistemas informatizados para a guarda, o armazenamento e o manuseio de prontuário de paciente, para obrigar o Sistema Único de Saúde a manter plataforma digital única com informações de saúde dos pacientes [Internet]. Brasília: Senado Federal; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3JXBdH4
https://bit.ly/3JXBdH4...
, que prevé la creación de una plataforma digital a cargo del Sistema Único de Salud (SUS), con la unificación de información de salud de pacientes de establecimientos públicos y privados. Si se aprueba, pondrá a prueba el desafío de garantizar el respeto a la privacidad, la autonomía y el consentimiento de los pacientes.

Además, ya es una realidad el Conecte SUS, una iniciativa gubernamental para avanzar en las nuevas tecnologías, específicamente para implementar la inteligencia artificial en la gestión de la salud pública brasileña 4141. Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
https://bit.ly/3HrRHG8...
. Lemes y Lemos destacan que este programa forma parte de la Red Nacional de Datos en Salud, que tiene como objetivo integrar los datos de los usuarios del SUS y permite a los profesionales de la salud tener acceso a los datos médicos de los pacientes por medio de la aplicación4141. Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
https://bit.ly/3HrRHG8...
.

No se puede negar la necesidad de analizar los impactos bioéticos del uso del big data como herramienta predictiva en el ámbito de la salud. De esta forma, se profundiza la discusión sobre los posibles impactos que dicho uso puede generar en la vida en sociedad, con énfasis en el capitalismo de vigilancia y sus consecuencias en el campo social4242. Harayama RM. Reflexões sobre o uso do big data em modelos preditivos de vigilância epidemiológica no Brasil. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):153-65. DOI: 10.17566/ciads.v9i3.702 . Cuando se trata de la bioética como área de estudio interdisciplinaria, en el campo filosófico, que conecta la ciencia, la vida y la moral, presenta principios éticos bien fundamentados, que pueden observarse en todos los ámbitos de la vida4343. Fuentes MA. Princípios fundamentais de bioética. Vitória: Editora Centro Anchieta; 2021. .

En ese sentido, se infiere que la legislación de protección de datos corrobora los principios previstos en la DUBDH, destacando: 1) el del consentimiento, dado que el tratamiento de datos personales requiere el consentimiento previo, libre e informado del paciente, y la excepción debe seguir estándares éticos y legales compatibles con los derechos humanos; 2) el de la privacidad y de la confidencialidad, ya que es necesario respetar la privacidad y la confidencialidad de la información personal, evitando la distorsión de la finalidad para la cual fue recabada; 3) el del respeto a la vulnerabilidad, ya que el individuo es la parte más vulnerable en la relación con la tecnología, por lo que es necesario protegerlo al someterlo a los avances científicos1616. Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
https://bit.ly/3qPrixg...
.

Es innegable que el Estado viene ejerciendo su deber de regular el uso, establecer principios e imponer límites a la IA. Sin embargo, se debe ofrecer al paciente la garantía de que se cumplirán las normas reguladoras, con el objetivo de proteger su privacidad y consentimiento, una vez que, como parte vulnerable de la relación, debe ser protegida.

Consideraciones finales

La literatura ha presentado numerosas posibilidades para el uso de la IA en el ámbito de la salud, destacando su uso en el soporte hospitalario y sopesando las ventajas y los desafíos. Así, se resalta una etapa prehospitalaria, que debe ser observada no solo por la sociedad, sino también por los investigadores que participan en el desarrollo de la tecnología. En esta etapa, se deben respetar los principios éticos de la investigación y las evidencias científicas, para que haya transparencia en el proceso.

Sobre todo, es necesario observar la integridad científica del sistema, para que su finalidad sea de hecho la beneficencia para el paciente, y no el pionerismo tecnológico. Así pues, es fundamental que los científicos que desarrollan estas investigaciones no sucumban a las presiones sociales para lanzar una tecnología sin que esta haya sido rigurosamente probada y sin que haya cumplido con todas las etapas de su proceso creativo. Siempre debe prevalecer el mejor interés del paciente.

Por otra parte, en la etapa hospitalaria, cuando se implementa la IA en el hospital, es fundamental el seguimiento por parte del comité de bioética, que debe asegurarse de la integridad de la tecnología, de los datos de la investigación que la precedió y de su manejo. El comité también debe ayudar a solucionar cualquier dilema moral y ético que implique la toma de decisiones apoyada en IA, teniendo siempre como guía los principios de la bioética y el mejor interés del paciente.

Se entiende que el comité de bioética puede colaborar en la formación continua de profesionales de la salud aptos para manejar la tecnología utilizada en la unidad hospitalaria. Tal acción debe buscar siempre la humanización del cuidado y el mejor interés del paciente, por medio de un enfoque bioético en la toma de decisiones. De esta forma, el equipo de salud se sentirá confiado en su decisión, sin tener como primera preocupación una posible responsabilidad por haber adoptado o no la sugerencia de la IA.

Además, más allá de los muros del hospital, debe revisarse con urgencia la formación de los equipos de salud para que el manejo de la IA y las nuevas tecnologías se integren en su currículo. Pero, en la misma proporción, es necesario intensificar la humanización del cuidado y el enfoque bioético del cuidado.

También se considera fundamental el papel del Estado en la regulación de la IA y en asegurar el cumplimiento de la legislación. Esto, sumado a la aplicación de la bioética en el enfrentamiento a los desafíos presentados, permitirá que se respete el consentimiento y la autonomía de los pacientes y la privacidad de sus datos, a pesar de su vulnerabilidad frente a las nuevas tecnologías.

Finalmente, como sociedad, todos debemos estar atentos y promover el control social de las nuevas tecnologías y sus límites para la preservación y promoción de la dignidad humana. Además, es necesario regularla de manera efectiva, para que la tecnología esté al servicio de la humanidad y no lo contrario.

Referências

  • 1
    Gil AC. Como elaborar projetos de pesquisa. 4ª ed. São Paulo: Atlas; 2002.
  • 2
    Santos MAS. Inteligência artificial. Brasil Escola [Internet]. [2008] [acesso 18 nov 2021]. Disponível: https://bit.ly/3IjcQn3
    » https://bit.ly/3IjcQn3
  • 3
    Redes neurais: o que são e qual sua importância? Statistical Analysis System [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/3sgog5c
    » https://bit.ly/3sgog5c
  • 4
    Gambus P, Shafer SL. Artificial intelligence for everyone. Anesthesiology [Internet]. 2018 [acesso 18 nov 2021];128(3):431-3. DOI: 10.1097/ALN.0000000000001984
  • 5
    Daumé H 3rd. A course in machine learning [Internet]. [Local desconhecido]: Hal Daumé III; 2012 [acesso 18 nov 2021]. p. 8-9. Tradução livre. Disponível: http://ciml.info/
    » http://ciml.info/
  • 6
    Gomez JAV. Problemas bioéticos emergentes de la inteligencia artificial. Diversitas Perspect Psicol [Internet]. 2016 [acesso 2 abr 2020];12(1):137-47. DOI: 10.15332/s1794-9998.2016.0001.10
  • 7
    Lobo LC. Inteligência artificial e medicina. Rev Bras Educ Méd [Internet]. 2017 [acesso 18 nov 2021];41(2):185-93. DOI: 10.1590/1981-52712015v41n2esp
  • 8
    Chen C, Loh E, Kuo KN, Tam KW. The times they are a-changin’: healthcare 4.0 is coming! J Med Syst [Internet]. 2020 [acesso 18 nov 2021];44(2):40. DOI: 10.1007/s10916-019-1513-0
  • 9
    IBM. IBM Watson Health [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://ibm.co/3Le5UbY
    » https://ibm.co/3Le5UbY
  • 10
    Deep Mind. Impact [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://bit.ly/35a218q
    » https://bit.ly/35a218q
  • 11
    Wayne G, Graves A. Differentiable neural computers. DeepMind [blog] [Internet]. 2016 [acesso 18 nov 2021]. Disponível: https://bit.ly/3papHk0
    » https://bit.ly/3papHk0
  • 12
    Santos HG, Zampieri FG, Normilio-Silva K, Silva GT, Lima ACP, Cavalcanti AB, Chiavegatto Filho ADP. Machine learning to predict 30-day quality-adjusted survival in critically ill patients with cancer. J Crit Care [Internet]. 2020 [acesso 18 nov 2021];55:73-8. DOI: 10.1016/j.jcrc.2019.10.015
  • 13
    Council J. Hospitals tap AI to help manage coronavirus outbreak: health-care providers are enlisting the technology to monitor patients, screen visitors. Wall Street Journal [Internet]. Artificial intelligence; 20 mar 2020 [acesso 18 nov 2021]. Disponível: https://on.wsj.com/3BSZc7v
    » https://on.wsj.com/3BSZc7v
  • 14
    Kang DY, Cho KJ, Kwon O, Kwon JM, Jeon KH, Park H et al. Artificial intelligence algorithm to predict the need for critical care in prehospital emergency medical services. Scand J Trauma Resusc Emerg Med [Internet]. 2020 [acesso 18 nov 2021];28(1):17. p. 4-5. Tradução livre. DOI: 10.1186/s13049-020-0713-4
  • 15
    Nagendran M, Chen Y, Lovejoy CA, Gordon AC, Komorowski M, Harvey H et al. Artificial intelligence versus clinicians: systematic review of design, reporting standards, and claims of deep learning studies. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:m689 DOI: 10.1136/bmj.m689
  • 16
    Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Declaração universal sobre bioética e direitos humanos [Internet]. Brasília: Unesco; 2005 [acesso 18 nov 2021]. Disponível: https://bit.ly/3qPrixg
    » https://bit.ly/3qPrixg
  • 17
    Li L, Qin L, Xu Z, Yin Y, Wang X, Kong B et al. Artificial intelligence distinguishes COVID-19 from community acquired pneumonia on chest CT. Radiology [Internet]. 2020 [acesso 18 nov 2021];296(2):e65-71. p. e69. Tradução livre. DOI: 10.1148/radiol.2020200905
  • 18
    Murray A. Coronavírus: os robôs usados para eliminar vírus em hospitais. BBC News Brasil [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bbc.in/35sLg85
    » https://bbc.in/35sLg85
  • 19
    Alisson E. Startups brasileiras desenvolvem sistema que detecta febre a distância. Agência Fapesp [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3Hoc074
    » https://bit.ly/3Hoc074
  • 20
    Brasil. Lei nº 13.989, de 15 de abril de 2020. Dispõe sobre o uso da telemedicina durante a crise causada pelo coronavírus (SARS-CoV-2). Diário Oficial de União [Internet]. Brasília, 15 abr 2020 [acesso 26 abr 2020]. Disponível: https://bit.ly/3JP1uaw
    » https://bit.ly/3JP1uaw
  • 21
    Robô Laura [Internet]. [s.d.] [acesso 18 nov 2021]. Disponível: https://www.laura-br.com/
    » https://www.laura-br.com/
  • 22
    Han ER, Yeo S, Kim MJ, Lee YH, Park KH, Roh H. Medical education trends for future physicians in the era of advanced technology and artificial intelligence: an integrative review. BMC Med Educ [Internet]. 2019 [acesso 18 nov 2021];19(1):460. p. 13. Tradução livre. DOI: 10.1186/s12909-019-1891-5
  • 23
    Motta LCS, Vidal SV, Siqueira-Batista R. Bioética: afinal, o que é isto? Rev Bras Clin Med [Internet]. 2012 [acesso 18 nov 2021];10(5):431-9. Disponível: https://bit.ly/3LbszWg
    » https://bit.ly/3LbszWg
  • 24
    Investigador do IB fala em 3 desafios éticos para a inteligência artificial. Universidade Católica Portuguesa [Internet]. 2019 [acesso 30 mar 2020]. Disponível: https://bit.ly/35phJwc
    » https://bit.ly/35phJwc
  • 25
    Silva ALAGMC, Sousa KCPC, Pereira GS, Araujo ACSS, Ribeiro LMN, Andrade IG, Vieira TLV. Os limites da tecnologia na prática médica segundo os princípios da bioética e da ética médica. Rev Bras Bioét [Internet]. 2018 [acesso 18 nov 2021];14(supl):81. Disponível: https://bit.ly/3LZ3NK5
    » https://bit.ly/3LZ3NK5
  • 26
    Garrafa V, Azambuja LEO. Epistemología de la bioética: enfoque latino-americano. Rev Colomb Bioét [Internet]. 2009 [acesso 18 nov 2021];4(1):73-92. p. 82. Tradução livre. Disponível: https://bit.ly/3JXioUq
    » https://bit.ly/3JXioUq
  • 27
    Vollmer S, Mateen BA, Bohner G, Király FJ, Ghani R, Jonsson P et al. Machine learning and artificial intelligence research for patient benefit: 20 critical questions on transparency, replicability, ethics, and effectiveness. BMJ [Internet]. 2020 [acesso 18 nov 2021];368:l6927. Tradução livre. DOI: 10.1136/bmj.l6927
  • 28
    Briganti G, Le Moine O. Artificial intelligence in medicine: today and tomorrow. Front Med [Internet]. 2020 [acesso 18 nov 2021];7:27. DOI: 10.3389/fmed.2020.00027
  • 29
    Nebeker C, Torous J, Bartlett Ellis RJ. Building the case for actionable ethics in digital health research supported by artificial intelligence. BMC Med [Internet]. 2019 [acesso 18 nov 2021];17(1):137. Tradução livre. DOI: 10.1186/s12916-019-1377-7
  • 30
    Saiba quais são os principais desafios de saúde da próxima década. Veja [Internet]. 2020 [acesso 18 nov 2021]. Disponível: https://bit.ly/3hneNml
    » https://bit.ly/3hneNml
  • 31
    Rocha MS, Rocha AS. Resolução de conflitos bioéticos no cenário hospitalar brasileiro: uma revisão sistemática da literatura. Rev Bras Bioét [Internet]. 2019 [acesso 18 nov 2021];15(e7):1-12. p. 10-1. Disponível: https://bit.ly/36Ipmyz
    » https://bit.ly/36Ipmyz
  • 32
    Conselho Federal de Medicina. Recomendação CFM nº 8, de 12 de março de 2015. Recomenda a criação, o funcionamento e a participação dos médicos nos Comitês de Bioética [Internet]. Brasília: CFM; 2015 [acesso 18 nov 2021]. Disponível: https://bit.ly/3BPsXpX
    » https://bit.ly/3BPsXpX
  • 33
    Siqueira-Batista R, Gomes AP, Maia PM, Costa IT, Paiva AO, Cerqueira FR. Modelos de tomada de decisão em bioética clínica: apontamentos para a abordagem computacional. Rev. bioét. (Impr.) [Internet]. 2014 [acesso 18 nov 2021];22(3):456-61. p. 460. DOI: 10.1590/1983-80422014223028
  • 34
    Francisconi FC. Aspectos éticos da tecnologia médica. Jornal do CFM [Internet]. 1997 [acesso 18 nov 2021]. Disponível: https://bit.ly/3JRiH3i
    » https://bit.ly/3JRiH3i
  • 35
    Organização das Nações Unidas para a Educação, a Ciência e a Cultura. Estados-membros da Unesco aprovam o primeiro acordo mundial sobre ética da inteligência artificial. Unesco [Internet]. 2021 [acesso 16 fev 2022]. Disponível: https://bit.ly/3t5fA12
    » https://bit.ly/3t5fA12
  • 36
    Brasil. Estratégia Brasileira de Inteligência Artificial: Ebia [Internet]. Brasília: Ministério da Ciência, Tecnologia e Informação; 2021 [acesso 11 fev 2022]. Disponível: https://bit.ly/3HjRp3V
    » https://bit.ly/3HjRp3V
  • 37
    Brasil. Projeto de Lei nº 21/2020. Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil e dá outras providências [Internet]. Brasília: Câmara dos Deputados; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3hy9UY5
    » https://bit.ly/3hy9UY5
  • 38
    Brasil. Emenda Constitucional nº 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Diário Oficial da União [Internet]. Brasília, 10 fev 2022 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
    » https://bit.ly/3IkWLNr
  • 39
    Brasil. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União [Internet]. Brasília, 8 jul 2019 [acesso 11 fev 2022]. Disponível: https://bit.ly/3IkWLNr
    » https://bit.ly/3IkWLNr
  • 40
    Brasil. Projeto de Lei nº 3.814/2020. Altera a Lei nº 8.080, de 19 de setembro de 1990 (Lei Orgânica da Saúde), e a Lei nº 13.787, de 27 de dezembro de 2018, que dispõe sobre a digitalização e a utilização de sistemas informatizados para a guarda, o armazenamento e o manuseio de prontuário de paciente, para obrigar o Sistema Único de Saúde a manter plataforma digital única com informações de saúde dos pacientes [Internet]. Brasília: Senado Federal; 2020 [acesso 11 fev 2022]. Disponível: https://bit.ly/3JXBdH4
    » https://bit.ly/3JXBdH4
  • 41
    Lemes MM, Lemos ANLE. O uso da inteligência artificial na saúde pela Administração Pública brasileira. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):166-82. p. 172. Disponível: https://bit.ly/3HrRHG8
    » https://bit.ly/3HrRHG8
  • 42
    Harayama RM. Reflexões sobre o uso do big data em modelos preditivos de vigilância epidemiológica no Brasil. Cad Ibero Am Direito Sanit [Internet]. 2020 [acesso 9 fev 2022];9(3):153-65. DOI: 10.17566/ciads.v9i3.702
  • 43
    Fuentes MA. Princípios fundamentais de bioética. Vitória: Editora Centro Anchieta; 2021.

Fechas de Publicación

  • Publicación en esta colección
    09 Mayo 2022
  • Fecha del número
    Jan-Apr 2022

Histórico

  • Recibido
    31 Mayo 2020
  • Revisado
    30 Nov 2021
  • Acepto
    18 Feb 2022
Conselho Federal de Medicina SGAS 915, lote 72, CEP 70390-150, Tel.: (55 61) 3445-5932, Fax: (55 61) 3346-7384 - Brasília - DF - Brazil
E-mail: bioetica@portalmedico.org.br