Desafíos de la inteligencia artificial en el cuidado gineco-obstétrico: de la toma de decisiones a la responsabilidad

Challenges of artificial intelligence in gynecological-obstetric care: from decision making to responsibility within

Resumen

Objetivo: identificar los principales retos éticos, legales y prácticos que surgen con la implementación de sistemas de inteligencia artificial (IA) en el cuidado gineco-obstétrico, y analizar su impacto en la responsabilidad profesional, el juicio clínico de enfermería y la seguridad del paciente. Método: Se llevó a cabo un análisis documental de carácter descriptivo y analítico, basado en la revisión de doctrina jurídica sobre responsabilidad profesional, principios de bioética, informes de organismos internacionales y publicaciones científicas relacionadas con la IA en el ámbito de la salud. Resultados: El análisis revela cuatro desafíos críticos: (1) el riesgo de sesgo algorítmico que puede perpetuar y amplificar las inequidades existentes en salud materna; (2) la "difusión de la responsabilidad", donde la opacidad de los algoritmos de "caja negra" dificulta la atribución de culpa en eventos adversos; (3) la potencial "atrofia de la habilidad" o erosión del juicio clínico del personal de enfermería y médico; y (4) las brechas en los seguros de responsabilidad profesional, que no están adaptados para cubrir el "error algorítmico". Conclusiones: Si bien la IA es una herramienta prometedora, su integración en la obstetricia requiere una profunda revisión de los marcos jurídicos, clínicos y formativos para la enfermería y la medicina. Es imperativo un esfuerzo colaborativo entre juristas y profesionales de la salud para desarrollar marcos de responsabilidad claros que garanticen una implementación segura, justa y humana de estas tecnologías en el cuidado del paciente.

Abstract

Objective: This article aims to identify the main ethical, legal, and practical challenges that arise with the implementation of artificial intelligence (AI) systems in gyneco-obstetric care, and analyze their impact on professional responsibility, clinical nursing judgment, and patient safety. Methods: A documentary analysis of descriptive and analytical nature was conducted, based on the review of legal doctrine on professional responsibility, principles of bioethics, reports from international organizations and scientific publications related to AI in the health sector. Results: The analysis reveals four critical challenges: (1) the risk of algorithmic secrecy that can perpetuate and amplify existing inequities in maternal health; (2) the "diffusion of responsibility", where the opaqueness of the "black box" algorithms makes it difficult to attribute blame in adverse events; (3) the potential "atrophy of skill" or erosion of the clinical judgment of nursing and medical personnel; and (4) gaps in professional liability insurance, which are not adapted to cover the "algorithmic error". Conclusions: If AI is a promising tool, its integration into obstetrics requires a profound review of legal, clinical, and training frameworks for nursing and medicine. Collaborative effort between jurists and healthcare professionals is imperative to develop clear responsibility frameworks that guarantee a safe, fair, and humane implementation of these technologies in patient care.