Τεχνητή νοημοσύνη: «Τα χάνει» μπροστά στα ηθικά ιατρικά διλήμματα

Ακόμη και τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης μπορούν να κάνουν σημαντικά λάθη όταν αντιμετωπίζουν πολύπλοκα σενάρια ιατρικής δεοντολογίας.

Στη διαπίστωση αυτή κατέληξαν ερευνητές της Ιατρικής Σχολής Icahn στο Mount Sinai, σε συνεργασία με συναδέλφους από το Ιατρικό Κέντρο Rabin στο Ισραήλ και άλλους συνεργάτες σε μελέτη τους που δημοσιεύθηκε στο ηλεκτρονικό τεύχος του περιοδικού NPJ Digital Medicine, με τίτλο «Παγίδες των Μεγάλων Γλωσσικών Μοντέλων στη Συλλογιστική Ιατρικής Ηθικής».

Τα ευρήματα, εγείρουν σημαντικά ερωτηματικά αναφορικά με το πώς και πότε πρέπει να βασιζόμαστε σε μεγάλα γλωσσικά μοντέλα (LLM), όπως το ChatGPT, σε περιβάλλον υγειονομικών μονάδων.googletag.cmd.push(function() { googletag.display("300x250_m1"); }); Αυτά τα εργαλεία μπορούν να είναι απίστευτα χρήσιμα, αλλά δεν είναι αλάνθαστα H τεχνητή νοημοσύνη χρειάζεται ανθρώπινη εποπτεία κατά τη χρήση της στην ιατρική Η ερευνητική ομάδα εμπνεύστηκε από το βιβλίο του Daniel Kahneman «Thinking, Fast and Slow», το οποίο αντιπαραβάλλει τις γρήγορες, διαισθητικές αντιδράσεις με την πιο αργή, αναλυτική συλλογιστική.

Έχει παρατηρηθεί ότι τα μεγάλα γλωσσικά μοντέλα (LLM) «τα χάνουν» όταν τα κλασικά παζλ δέχονται ανεπαίσθητες τροποποιήσεις.

Βασιζόμενη σε αυτή την παρατήρηση, η μελέτη εξέτασε πόσο καλά μετατοπίζονται τα συστήματα Τεχνητής Νοημοσύνης ανάμεσα σε αυτούς τους δύο τρόπους λειτουργίας όταν αντιμετωπίζουν γνωστά ηθικά διλήμματα που είχαν τροποποιηθεί σκόπιμα.

«Η Τεχνητή Νοημοσύνη θα μπορούσε να είναι πολύ ισχυρή και αποτελεσματική, αλλά η μελέτη μας έδειξε ότι θα μπορούσε να «σκοντάψει» στην πιο οικεία ή διαισθητική απάντηση, ακόμα και όταν αυτή η απάντηση παραβλέπει κρίσιμες λεπτομέρειες.googletag.cmd.push(function() { googletag.display("300x250_middle_2"); });googletag.cmd.push(function() { googletag.display("300x250_m2"); }); Σε καθημερινές καταστάσεις, αυτό το είδος σκέψης θα μπορούσε να περάσει απαρατήρητο.

Αλλά στην υγειονομική περίθαλψη, όπου οι αποφάσεις συχνά έχουν σοβαρές ηθικές και κλινικές επιπτ...

Πηγή/Περισσότερα: in.gr

Μείνετε σε επαφή μαζί μας:

Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook

Στο Twitter: Follow