Οι επιστήμονες δημιούργησαν μια φανταστική ασθένεια και η τεχνητή νοημοσύνη την πίστεψε: Ένα ανησυχητικό σήμα για όλους

Ερευνητές από το Πανεπιστήμιο της Καλιφόρνιας στο Σαν Φρανσίσκο (UCSF) και το Πανεπιστήμιο της Πενσυλβάνια δοκίμασαν την ικανότητα συστημάτων Τεχνητής Νοημοσύνης να ξεχωρίζουν τις πραγματικές ιατρικές πληροφορίες από τις ψευδείς. Για τον σκοπό αυτό δημιούργησαν μια εντελώς ανύπαρκτη οφθαλμολογική πάθηση, την οποία ονόμασαν «bixonymia».Οι ερευνητές δημοσίευσαν στο διαδίκτυο μια αναλυτική περιγραφή της υποτιθέμενης ασθένειας, παρουσιάζοντας συμπτώματα, πιθανά αίτια και θεραπευτικές προσεγγίσεις, με στόχο να διαπιστώσουν εάν τα μοντέλα Τεχνητής Νοημοσύνης θα αναγνώριζαν ότι επρόκειτο για κατασκευασμένη πληροφορία.Τα αποτελέσματα ήταν ιδιαίτερα ανησυχητικά. Πολλά συστήματα AI αποδέχθηκαν τη φανταστική ασθένεια ως υπαρκτή, παρά το γεγονός ότι δεν υπήρχε καμία αναφορά σε επιστημονικά περιοδικά ή ιατρικές βάσεις δεδομένων. Μάλιστα, ορισμένα μοντέλα προχώρησαν ακόμη περισσότερο, προσθέτοντας δικές τους «ιατρικές» λεπτομέρειες σχετικά με τη διάγνωση, την εξέλιξη και τη θεραπεία της υποτιθέμενης πάθησης.

Το πρόβλημα της επαλήθευσης πληροφοριών

Η περίπτωση της bixonymia αναδεικνύει μια σημαντική αδυναμία των σημερινών συστημάτων Τεχνητής Νοημοσύνης απέναντι σε καλά σχεδιασμένη παραπληροφόρηση. Τα μοντέλα έτειναν να εμπιστεύονται ένα κείμενο που είχε επιστημονική μορφή και ορολογία, χωρίς να μπορούν να επιβεβαιώσουν εάν οι πληροφορίες βασίζονταν σε πραγματικά επιστημονικά δεδομένα.Σύμφωνα με τους ερευνητές, το πείραμα υπογραμμίζει την ανάγκη ανάπτυξης πιο αξιόπιστων μηχανισμών επαλήθευσης των πληροφοριών που χρησιμοποιούν τα συστήματα AI, αλλά και τη σημασία της κριτικής αξιολόγησης από τους ίδιους τους χρήστες. Όπως επισημαίνουν, ακόμη και όταν μια πληροφορία παρουσιάζεται με επιστημονικό ύφος ή προέρχεται από φαινομενικά αξιόπιστη πηγή, είναι απαραίτητο να διασταυρώνεται πριν θεωρηθεί έγκυρη.

www.bankingnews.gr