Впровадження технологій штучного інтелекту в медичну сферу, яке мало на меті підвищення точності діагностики та ефективності лікування, призвело до неочікуваних наслідків. Реальні умови експлуатації систем виявилися значно складнішими, ніж передбачали розробники, що спричинило серйозні ризики для пацієнтів.
У Бразилії зафіксовано трагічний інцидент, пов'язаний із використанням автоматизованих алгоритмів у лікарні. Внаслідок збою або некоректної роботи системи, від якої залежало здоров'я людини, пацієнтка померла, що стало приводом для масштабної дискусії про безпеку новітніх технологій.
Ця подія змусила світову спільноту переглянути питання етичності повної автоматизації критично важливих медичних процесів. Фахівці наголошують на необхідності жорсткого контролю та людського нагляду за алгоритмами, від яких безпосередньо залежать людські життя.