Καθώς οι κατασκευαστές ιατροτεχνολογικών προϊόντων σπεύδουν να ενσωματώσουν τεχνητή νοημοσύνη (AI) στις συσκευές τους, αυξάνονται οι αναφορές προς τις ρυθμιστικές αρχές για τραυματισμούς ασθενών. Οι υποστηρικτές της τεχνολογίας υποστηρίζουν ότι η AI θα φέρει επανάσταση στην ιατρική· ωστόσο, τα στοιχεία δείχνουν ότι η μετάβαση αυτή δεν θα γίνει χωρίς να υπάρχουν κίνδυνοι.

Το 2021, θυγατρική του κολοσσού υγείας Johnson & Johnson ανακοίνωσε «ένα άλμα προς τα εμπρός»: την προσθήκη τεχνητής νοημοσύνης σε ιατρική συσκευή που χρησιμοποιείται για τη θεραπεία της χρόνιας ιγμορίτιδας. Η εταιρεία Acclarent γνωστοποίησε ότι το σύστημα πλοήγησης TruDi θα αξιοποιούσε πλέον αλγόριθμο μηχανικής μάθησης για να βοηθά ωτορινολαρυγγολόγους κατά τη διάρκεια χειρουργικών επεμβάσεων.

Η συσκευή κυκλοφορούσε ήδη στην αγορά επί περίπου τρία χρόνια. Μέχρι τότε, ο Αμερικανικός Οργανισμός Τροφίμων και Φαρμάκων (FDA) είχε λάβει μη επιβεβαιωμένες αναφορές για επτά δυσλειτουργίες και έναν τραυματισμό ασθενούς. Μετά την ενσωμάτωση της AI, ο FDA έχει λάβει τουλάχιστον 100 αναφορές για δυσλειτουργίες και ανεπιθύμητα συμβάντα.

Σύμφωνα με τις αναφορές, τουλάχιστον 10 άτομα τραυματίστηκαν από τα τέλη του 2021 έως τον Νοέμβριο του 2025. Τα περισσότερα περιστατικά φέρονται να σχετίζονται με σφάλματα κατά τα οποία το σύστημα TruDi παρείχε στους χειρουργούς λανθασμένες πληροφορίες για τη θέση των εργαλείων τους μέσα στο κεφάλι των ασθενών.

Σε μία περίπτωση, εγκεφαλονωτιαίο υγρό διέρρευσε από τη μύτη ασθενούς. Σε άλλη, χειρουργός τρύπησε κατά λάθος τη βάση του κρανίου. Σε δύο ακόμη περιστατικά, ασθενείς υπέστησαν εγκεφαλικά επεισόδια όταν τραυματίστηκε κατά λάθος βασική αρτηρία.

Οι αναφορές προς τον FDA δεν είναι πάντα πλήρεις και δεν προορίζονται για την απόδοση ευθυνών, επομένως δεν είναι σαφές ποιος ρόλος –αν υπήρξε– έπαιξε η τεχνητή νοημοσύνη. Ωστόσο, οι δύο ασθενείς που υπέστησαν εγκεφαλικό κατέθεσαν αγωγές στο Τέξας, υποστηρίζοντας ότι η AI του συστήματος TruDi συνέβαλε στους τραυματισμούς τους. Σε μία από τις αγωγές αναφέρεται ότι «το προϊόν ήταν αναμφίβολα ασφαλέστερο πριν από την ενσωμάτωση της τεχνητής νοημοσύνης στο λογισμικό».

Το Reuters δεν μπόρεσε να επιβεβαιώσει ανεξάρτητα τους ισχυρισμούς των αγωγών.

Η Johnson & Johnson παρέπεμψε ερωτήματα στην Integra LifeSciences, η οποία εξαγόρασε το 2024 την Acclarent και το σύστημα TruDi. Η Integra δήλωσε ότι οι αναφορές «απλώς δείχνουν ότι το σύστημα TruDi χρησιμοποιούνταν σε επεμβάσεις όπου σημειώθηκε ανεπιθύμητο συμβάν» και ότι «δεν υπάρχει αξιόπιστη ένδειξη αιτιώδους σχέσης μεταξύ της τεχνολογίας AI και των φερόμενων τραυματισμών».

Τα περιστατικά αυτά έρχονται στο φως καθώς η τεχνητή νοημοσύνη αρχίζει να μετασχηματίζει τον χώρο της υγείας. Οι υποστηρικτές της προβλέπουν ότι θα βοηθήσει στην ανακάλυψη θεραπειών για σπάνιες ασθένειες, στη δημιουργία νέων φαρμάκων και στη βελτίωση των χειρουργικών δεξιοτήτων. Όμως, έρευνα του Reuters σε αρχεία ασφαλείας και δικαστικά έγγραφα, καθώς και συνεντεύξεις με γιατρούς, νοσηλευτές, επιστήμονες και ρυθμιστικές αρχές, καταγράφει και τους κινδύνους της AI στην ιατρική.

Σήμερα, τουλάχιστον 1.357 ιατρικές συσκευές που χρησιμοποιούν AI έχουν λάβει έγκριση από τον FDA — αριθμός διπλάσιος σε σχέση με το 2022. Το σύστημα TruDi δεν είναι το μόνο που έχει τεθεί υπό αμφισβήτηση: έχουν κατατεθεί αναφορές για δεκάδες άλλες συσκευές, μεταξύ των οποίων καρδιακά μόνιτορ που φέρονται να αγνόησαν ανώμαλους καρδιακούς ρυθμούς και υπερηχογράφοι που φέρονται να αναγνώρισαν λανθασμένα μέρη του εμβρύου.

Μελέτη ερευνητών από τα πανεπιστήμια Johns Hopkins, Georgetown και Yale διαπίστωσε ότι 60 εγκεκριμένες συσκευές με AI συνδέθηκαν με 182 ανακλήσεις προϊόντων. Το 43% των ανακλήσεων σημειώθηκε μέσα στον πρώτο χρόνο από την έγκριση — ποσοστό σχεδόν διπλάσιο από αυτό των υπόλοιπων ιατρικών συσκευών.

Η «έκρηξη» της AI δημιουργεί σοβαρό πρόβλημα στον FDA, σύμφωνα με πέντε νυν και πρώην επιστήμονες του οργανισμού: η υπηρεσία δυσκολεύεται να παρακολουθήσει τον καταιγισμό αιτήσεων έγκρισης, μετά και την απώλεια εξειδικευμένου προσωπικού.

Παράλληλα, γενετικά μοντέλα τεχνητής νοημοσύνης, όπως τα chatbots, εισέρχονται επίσης στην ιατρική. Πολλοί γιατροί τα χρησιμοποιούν για εξοικονόμηση χρόνου, όμως παραδέχονται ότι ασθενείς τα αξιοποιούν για αυτοδιάγνωση ή για να αμφισβητούν ιατρικές οδηγίες, δημιουργώντας νέους κινδύνους.

Η τεχνητή νοημοσύνη έγινε παγκόσμιο επιχειρηματικό και κοινωνικό φαινόμενο μετά την κυκλοφορία του ChatGPT πριν από περίπου τρία χρόνια. Ωστόσο, η χρήση της στην ιατρική προηγείται κατά δεκαετίες: ο FDA ενέκρινε τις πρώτες συσκευές με AI ήδη από το 1995.

‘Όπως δείχνουν τα στοιχεία για το TruDi, τα οφέλη συνοδεύονται από σοβαρά ερωτήματα για την ασφάλεια, τη ρύθμιση και την επάρκεια των ελέγχων.

Όπως σημειώνει ειδικός στη ρύθμιση ιατροτεχνολογικών προϊόντων: «Η παραδοσιακή προσέγγιση του FDA δεν επαρκεί για να διασφαλίσει ότι οι συσκευές με τεχνητή νοημοσύνη είναι ασφαλείς και αποτελεσματικές. Βασιζόμαστε σε μεγάλο βαθμό στους ίδιους τους κατασκευαστές — και αυτό είναι εξαιρετικά προβληματικό».