AI chatbots στην υγεία: Τι πρέπει να γνωρίζετε

iGuRu.gr > AI chatbots στην υγεία: Τι πρέπει να γνωρίζετε

Τα chatbots τεχνητής νοημοσύνης (AI chatbots) αλλάζουν τον τρόπο με τον οποίο σκεφτόμαστε, μαθαίνουμε και αντιλαμβανόμαστε τον κόσμο γύρω μας. Η αλλαγή αυτή είναι εμφανής σε πολλούς τομείς της ζωής, αλλά ίσως ένας από τους πιο ευαίσθητους και συχνά προβληματικούς είναι η αυξανόμενη χρήση εργαλείων γενετικής τεχνητής νοημοσύνης (GenAI) στον τομέα της υγείας.

Μεγάλες εταιρείες τεχνολογίας έχουν μπει στο χώρο της υγειονομικής περίθαλψης, λανσάροντας υπηρεσίες όπως το Copilot Health, το ChatGPT Health και το HealthAI της Amazon. Οι πλατφόρμες αυτές βοηθούν τους χρήστες να ερμηνεύουν τα ιατρικά τους αρχεία και να υποβάλλουν ερωτήσεις σχετικά με συμπτώματα, αποτελέσματα εξετάσεων και θεραπευτικές επιλογές.

Δες περισσότερα άρθρα του iGuRu.gr όταν αναζητάς ειδήσεις στην Google.

Το iGuRu.gr προτιμώμενη πηγή

Ωστόσο, υπάρχουν σημαντικοί κίνδυνοι όταν ένα εργαλείο τεχνητής νοημοσύνης καλείται να αναλάβει το ρόλο του γιατρού, προειδοποιεί ο Phil Muncaster από την ομάδα της ESET, του παγκόσμιου ηγέτη σε θέματα κυβερνοασφάλειας. Το πρόβλημα δεν περιορίζεται μόνο στην πιθανότητα λανθασμένων συμβουλών. Οι χρήστες ενδέχεται επίσης να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα των οποίων οι διαδικασίες προστασίας της ιδιωτικότητας, οι πρακτικές διαχείρισης δεδομένων και οι νομικές υποχρεώσεις διαφέρουν από εκείνες ενός γιατρού ή ενός νοσοκομείου. Ως αποτέλεσμα, τα δεδομένα τους μπορεί να καταλήξουν σε άγνωστους φορείς ή να εκτεθούν σε τρίτους.

Σύμφωνα με έναν αμερικανικό οργανισμό για την ασφάλεια των ασθενών, η κακή χρήση των chatbot τεχνητής νοημοσύνης αποτελεί πλέον τον σημαντικότερο κίνδυνο στον τομέα της τεχνολογίας υγείας.

chatbot

Από τη θεωρία στην πράξη

Ο λόγος για τον οποίο οι δημιουργοί μοντέλων τεχνητής νοημοσύνης μπαίνουν σ’ αυτόν το χώρο είναι προφανής: τα chatbots έχουν εξελιχθεί σε έναν εξαιρετικά δημοφιλή τρόπο αναζήτησης ιατρικών πληροφοριών, εξηγεί ο Muncaster από την ESET. Σύμφωνα με τη Microsoft, οι άνθρωποι συζητούν για την υγεία τους καθώς και την υγεία των αγαπημένων τους περισσότερο από οποιοδήποτε άλλο θέμα στις κινητές συσκευές τους. Τα chatbots είναι διαθέσιμα όλο το εικοσιτετράωρο και προσφέρουν άμεσες απαντήσεις σχεδόν για τα πάντα, συνήθως με έναν τόνο βεβαιότητας που μπορεί να καθησυχάζει τους ανήσυχους ασθενείς.

Σε μια εποχή κατά την οποία τα εθνικά συστήματα υγείας βρίσκονται υπό αυξανόμενη πίεση, πολλοί άνθρωποι είναι πιθανό να προσπαθήσουν να διαγνώσουν το πρόβλημά τους με τη βοήθεια της τεχνητής νοημοσύνης προτού αποφασίσουν αν θα αναζητήσουν ιατρική βοήθεια. Ο χρόνος, η προσπάθεια και το πιθανό κόστος της πρόσβασης στο συχνά πολύπλοκο σύστημα υγείας καθιστούν τη «διάγνωση» στο σπίτι ιδιαίτερα ελκυστική.

Ήδη, ωστόσο, έχουν αρχίσει να διατυπώνονται σοβαρές ανησυχίες. Η πρώτη αφορά τις λεγόμενες «ψευδαισθήσεις» της τεχνητής νοημοσύνης και τις λανθασμένες συμβουλές.

Μελέτη του Πανεπιστημίου της Οξφόρδης, που δημοσιεύθηκε τον Φεβρουάριο στο Nature Medicine, διαπίστωσε ότι:

Οι χρήστες συχνά δε γνώριζαν ποιες πληροφορίες έπρεπε να μοιραστούν με τα μεγάλα γλωσσικά μοντέλα (LLMs).
Τα LLM έδιναν πολύ διαφορετικές απαντήσεις ακόμη και όταν οι ερωτήσεις διέφεραν ελάχιστα.
Τα μοντέλα παρείχαν συχνά συνδυασμό σωστών και λανθασμένων συμβουλών, ενώ οι χρήστες δυσκολεύονταν να διακρίνουν τη διαφορά.

«Παρά τον ενθουσιασμό, η τεχνητή νοημοσύνη απλώς δεν είναι έτοιμη να αναλάβει το ρόλο του γιατρού», προειδοποίησε η επικεφαλής ερευνήτρια της μελέτης, Δρ Rebecca Payne. «Οι ασθενείς πρέπει να γνωρίζουν ότι το να ρωτούν ένα μεγάλο γλωσσικό μοντέλο για τα συμπτώματά τους μπορεί να είναι επικίνδυνο, καθώς ενδέχεται να δώσει λανθασμένες απαντήσεις και να μην αναγνωρίσει πότε υπάρχει επείγουσα ανάγκη για ιατρική βοήθεια».

Αποκαλύπτοντας τους κινδύνους για την ιδιωτικότητα

Υπάρχουν όμως και κίνδυνοι που δε σχετίζονται άμεσα με την υγεία. Ο πιο προφανής είναι ότι η κοινοποίηση ευαίσθητων ιατρικών πληροφοριών σε ένα chatbot μπορεί να οδηγήσει στη χρήση αυτών των δεδομένων για την εκπαίδευση μοντέλων ή ακόμη και στη διαρροή τους σε τρίτους. Έχουν καταγραφεί περιπτώσεις κατά τις οποίες μοντέλα αποκάλυψαν δεδομένα που είχαν δώσει οι χρήστες τους.

Ορισμένοι πάροχοι χρησιμοποιούν τα δεδομένα για τη βελτίωση των μοντέλων τους, εκτός αν οι χρήστες επιλέξουν να εξαιρεθούν. Άλλοι προσφέρουν ισχυρότερες διαβεβαιώσεις ότι δε θα χρησιμοποιήσουν πληροφορίες υγείας για εκπαιδευτικούς σκοπούς. Σε κάθε περίπτωση, οι χρήστες θα πρέπει να γνωρίζουν ακριβώς με τι είδους υπηρεσία έχουν να κάνουν πριν ανεβάσουν οποιοδήποτε ευαίσθητο αρχείο.

Τα δεδομένα υγείας δεν είναι σαν μια κλεμμένη πιστωτική κάρτα που μπορεί να ακυρωθεί και να αντικατασταθεί. Είναι προσωπικά δεδομένα που σας ακολουθούν για όλη σας τη ζωή και, μόλις κοινοποιηθούν σε ένα εργαλείο τεχνητής νοημοσύνης, ενδέχεται να αποτελέσουν μόνιμο ψηφιακό αποτύπωμα.

Από την άλλη πλευρά, τα περισσότερα εξειδικευμένα chatbots υγείας υπόσχονται ότι δε θα χρησιμοποιούν αυτά τα δεδομένα για την εκπαίδευση των μοντέλων τους. Ωστόσο, η εκπαίδευση αποτελεί μόνο μία πτυχή της προστασίας της ιδιωτικότητας. Οι υπηρεσίες αυτές ενδέχεται να μην παρέχουν τις ίδιες εγγυήσεις σχετικά με την κοινοποίηση δεδομένων σε τρίτους.

Οι προσωπικές ιατρικές πληροφορίες μπορεί να καταλήξουν σε εταιρείες διαμεσολάβησης δεδομένων ή άλλους ενδιάμεσους φορείς μεταξύ του παρόχου του μοντέλου και του παρόχου υγειονομικής περίθαλψης. Είναι επίσης πιθανό να κοινοποιηθούν σε διαφημιστές, άμεσα ή έμμεσα μέσω τέτοιων εταιρειών, έστω και σε ανωνυμοποιημένη μορφή.

Οι χρήστες θα πρέπει να είναι ιδιαίτερα προσεκτικοί. Τα δεδομένα υγείας είναι εξαιρετικά ευαίσθητα και η ανωνυμοποίηση δεν εξαλείφει πάντοτε κάθε κίνδυνο ταυτοποίησης, τονίζει ο Muncaster.

Όταν ο κίνδυνος παραβίασης πολλαπλασιάζεται

Όταν ευαίσθητα δεδομένα διακινούνται μεταξύ πολλών οργανισμών, αυξάνεται και η πιθανότητα να πέσουν θύματα κυβερνοεπιθέσεων. Αμερικανοί γερουσιαστές υποστηρίζουν ότι έχουν εντοπίσει ζημίες ύψους 21 δισεκατομμυρίων δολαρίων που συνδέονται με παραβιάσεις σε εταιρείες διαμεσολάβησης δεδομένων.

Τα δεδομένα υγείας είναι ιδιαίτερα πολύτιμα για τους απατεώνες επειδή:

Διατηρούν την αξία τους για μεγάλο χρονικό διάστημα, καθώς συνήθως δεν μπορούν να αντικατασταθούν ή να επανεκδοθούν.
Μπορεί να περιλαμβάνουν ασφαλιστικές πληροφορίες που επιτρέπουν την υποβολή ψευδών αιτήσεων αποζημίωσης ή τη λήψη ιατρικών υπηρεσιών στο όνομα του θύματος.
Μπορούν να χρησιμοποιηθούν για εκβιασμό ή άλλες μορφές απάτης.

Όσο περισσότερες εταιρείες διατηρούν τέτοια δεδομένα, τόσο περισσότερες ευκαιρίες έχουν οι κυβερνοεγκληματίες να τα παραβιάσουν και να τα κλέψουν. Το πρόβλημα είναι ότι πολλά εργαλεία τεχνητής νοημοσύνης στον χώρο της υγείας δεν υπάγονται στους κανονισμούς προστασίας προσωπικών δεδομένων στις ΗΠΑ. Αυτό σημαίνει ότι οι πάροχοί τους ενδέχεται να μην υπόκεινται στις αυστηρές απαιτήσεις προστασίας δεδομένων που θα περίμενε κανείς από έναν οργανισμό υγείας.

Συμβουλές για ασθενείς

Αν σας απασχολεί κάποιο ιατρικό ζήτημα, αποφύγετε τα γενικής χρήσης chatbots και προτιμήστε εργαλεία που έχουν σχεδιαστεί ειδικά για ερωτήσεις σχετικές με την υγεία.

Ελέγξτε αν η υπηρεσία εξηγεί:

Πώς διαχειρίζεται τα δεδομένα σας.
Αν χρησιμοποιεί τις ερωτήσεις σας για την εκπαίδευση μοντέλων.
Αν κοινοποιεί πληροφορίες σε τρίτους.
Αν καλύπτεται από τη νομοθεσία προστασίας προσωπικών δεδομένων.

Μην εμπιστεύεστε τυφλά τις απαντήσεις, ακόμη και όταν συνοδεύονται από παραπομπές ή συνδέσμους. Να επαληθεύετε τις πληροφορίες και να συμβουλεύεστε πάντοτε έναν επαγγελματία υγείας ή επίσημες πηγές.

Για να προστατέψετε την ιδιωτικότητα σας:

Μην ανεβάζετε ποτέ ιατρικά έγγραφα, αποτελέσματα εξετάσεων ή άλλα ευαίσθητα αρχεία, εκτός αν γνωρίζετε ακριβώς πώς θα χρησιμοποιηθούν.
Αποφύγετε να δώσετε ονόματα, διευθύνσεις, στοιχεία ασφάλισης, αριθμό μητρώου ασθενών ή άλλα αναγνωριστικά στοιχεία.
Βεβαιωθείτε ότι οι λειτουργίες εκπαίδευσης και αποθήκευσης ιστορικού συνομιλιών είναι απενεργοποιημένες.
Μοιράζεστε μόνο τις απολύτως απαραίτητες πληροφορίες.
Υποθέστε ότι οτιδήποτε πληκτρολογείτε μπορεί να αποθηκευτεί ή να εκτεθεί και ενεργήστε αναλόγως.

Τα chatbots τεχνητής νοημοσύνης μπορούν να αποτελέσουν χρήσιμα εργαλεία για την προετοιμασία μιας ιατρικής επίσκεψης, για την κατανόηση ενός ιατρικού όρου ή για τη διαμόρφωση ερωτήσεων προς τον γιατρό σας. Υπάρχει όμως μεγάλη διαφορά ανάμεσα στη χρήση της τεχνητής νοημοσύνης ως βοηθητικού εργαλείου και στη χρήση της ως υποκατάστατου της ιατρικής φροντίδας.

Μην αντιμετωπίζετε μια απάντηση ως διάγνωση και μην αγνοείτε συμπτώματα επειδή μια μηχανή σας έδωσε μια καθησυχαστική απάντηση. Η τεχνητή νοημοσύνη μπορεί να συμπληρώσει την ανθρώπινη ιατρική κρίση, αλλά δεν μπορεί να την αντικαταστήσει.