Οι ψευδαισθήσεις μέσω της τεχνητής νοημοσύνης γίνονται ολοένα και πιο επικίνδυνες, καθώς τα μοντέλα εμπιστεύονται ολοένα και περισσότερο την εμφάνιση πληροφοριών και τη λήψη κρίσιμων αποφάσεων.
Όλοι έχουμε αυτόν τον φίλο που ειναι ξερόλας και δεν μπορεί να παραδεχτεί ότι δεν ξέρει κάτι ή καταφεύγει στο να δώσει αμφίβολες συμβουλές βασισμένες σε κάτι που έχει διαβάσει στο διαδίκτυο. Οι ψευδαισθήσεις από μοντέλα τεχνητής νοημοσύνης είναι σαν αυτόν τον φίλο, αλλά αυτός θα μπορούσε να είναι υπεύθυνος για τη δημιουργία του σχεδίου θεραπείας του καρκίνου σας.
Εδώ μπαίνει στο παιχνίδι η Τεχνητή Νοημοσύνη του Θέμη. Αυτή η εταιρεία του MIT κατάφερε να πετύχει κάτι που φαίνεται απλό στη θεωρία, αλλά στην πραγματικότητα είναι αρκετά περίπλοκο, διδάσκοντας στα συστήματα Τεχνητής Νοημοσύνης να λένε «Δεν είμαι σίγουρος γι’ αυτό».
Τα συστήματα τεχνητής νοημοσύνης συνήθως επιδεικνύουν υπερβολική αυτοπεποίθηση. Η πλατφόρμα Capsa της Θέμις λειτουργεί ως έλεγχος της πραγματικότητας για την τεχνητή νοημοσύνη, βοηθώντας τα μοντέλα να αναγνωρίζουν πότε προβαίνουν σε εικασίες αντί για βεβαιότητα.
Ιδρύθηκε το 2021 από την καθηγήτρια του MIT, Daniela Rus, μαζί με τους πρώην ερευνητικούς συναδέλφους της, Alexander Amini και Elaheh Ahmadi, και η Themis AI έχει αναπτύξει μια πλατφόρμα που μπορεί να ενσωματωθεί σχεδόν με οποιοδήποτε σύστημα τεχνητής νοημοσύνης για να επισημαίνει στιγμές αβεβαιότητας προτού οδηγήσουν σε λάθη.
Το Capsa ουσιαστικά εκπαιδεύει την Τεχνητή Νοημοσύνη να ανιχνεύει μοτίβα στον τρόπο με τον οποίο επεξεργάζεται πληροφορίες που μπορεί να υποδηλώνουν σύγχυση, προκατάληψη ή εργασία με ελλιπή δεδομένα που θα μπορούσαν να οδηγήσουν σε παραισθήσεις.
Από την έναρξή του, η Themis ισχυρίζεται ότι έχει βοηθήσει τις εταιρείες τηλεπικοινωνιών να αποφύγουν δαπανηρά λάθη στον σχεδιασμό δικτύων, έχει βοηθήσει τις εταιρείες πετρελαίου και φυσικού αερίου να κατανοήσουν πολύπλοκα σεισμικά δεδομένα και έχει δημοσιεύσει έρευνα σχετικά με τη δημιουργία chatbots που δεν επινοούν με σιγουριά πράγματα.
Οι περισσότεροι άνθρωποι εξακολουθούν να μην γνωρίζουν πόσο συχνά τα συστήματα τεχνητής νοημοσύνης απλώς κάνουν τις καλύτερες δυνατές εικασίες. Καθώς αυτά τα συστήματα χειρίζονται ολοένα και πιο κρίσιμες εργασίες, αυτές οι εικασίες θα μπορούσαν να έχουν σοβαρές συνέπειες. Το λογισμικό της Themis AI προσθέτει ένα επίπεδο αυτογνωσίας που έλειπε.
Το ταξίδι του Θέμη για την αντιμετώπιση των ψευδαισθήσεων με τεχνητή νοημοσύνη
Το ταξίδι προς την Τεχνητή Νοημοσύνη του Θέμη ξεκίνησε πριν από χρόνια στο εργαστήριο του καθηγητή Ρας στο MIT, όπου η ομάδα διερευνούσε ένα θεμελιώδες πρόβλημα: πώς κάνεις μια μηχανή να συνειδητοποιήσει τους δικούς της περιορισμούς;
Το 2018, η Toyota χρηματοδότησε την έρευνά της σχετικά με την αξιόπιστη Τεχνητή Νοημοσύνη για αυτόνομα οχήματα — έναν τομέα όπου τα λάθη θα μπορούσαν να αποβούν μοιραία. Τα διακυβεύματα είναι απίστευτα υψηλά όταν τα αυτόνομα οχήματα πρέπει να αναγνωρίζουν με ακρίβεια τους πεζούς και άλλους οδικούς κινδύνους.
Η σημαντική τους ανακάλυψη ήρθε όταν ανέπτυξαν έναν αλγόριθμο που μπορούσε να εντοπίσει φυλετικές και έμφυλες προκαταλήψεις σε συστήματα αναγνώρισης προσώπου. Αντί απλώς να εντοπίσουν το πρόβλημα, το σύστημά τους στην πραγματικότητα το έλυσε επανεξισορροπώντας τα δεδομένα εκπαίδευσης – ουσιαστικά διδάσκοντας στην Τεχνητή Νοημοσύνη να διορθώνει τις δικές της προκαταλήψεις.
Μέχρι το 2021, είχαν καταδείξει πώς αυτή η προσέγγιση θα μπορούσε να φέρει επανάσταση στην ανακάλυψη φαρμάκων. Τα συστήματα τεχνητής νοημοσύνης μπορούσαν να αξιολογήσουν πιθανά φάρμακα, αλλά -το πιο σημαντικό- να εντοπίσουν πότε οι προβλέψεις τους βασίζονταν σε αδιάσειστα στοιχεία έναντι τεκμηριωμένων εικασιών ή πλήρων παραισθήσεων. Η φαρμακευτική βιομηχανία αναγνώρισε την πιθανή εξοικονόμηση χρημάτων και χρόνου, εστιάζοντας μόνο σε υποψήφια φάρμακα για τα οποία η τεχνητή νοημοσύνη ήταν σίγουρη.
Ένα άλλο πλεονέκτημα της τεχνολογίας είναι οι συσκευές με περιορισμένη υπολογιστική ισχύ. Οι συσκευές Edge χρησιμοποιούν μικρότερα μοντέλα που δεν μπορούν να φτάσουν την ακρίβεια των τεράστιων μοντέλων που εκτελούνται σε έναν διακομιστή, αλλά με την τεχνολογία του Themis, αυτές οι συσκευές θα είναι πολύ πιο ικανές να χειρίζονται τις περισσότερες εργασίες τοπικά και θα ζητούν βοήθεια από τους μεγάλους διακομιστές μόνο όταν αντιμετωπίζουν κάτι δύσκολο.
- Διαβάστε επίσης: Εξερευνώντας το μέλλον των σχέσεων ανθρώπου-AI
Η Τεχνητή Νοημοσύνη έχει τεράστιες δυνατότητες να βελτιώσει τη ζωή μας, αλλά αυτές οι δυνατότητες συνοδεύονται από πραγματικούς κινδύνους. Καθώς τα συστήματα Τεχνητής Νοημοσύνης ενσωματώνονται όλο και περισσότερο σε κρίσιμες υποδομές και στη λήψη αποφάσεων, η ικανότητα αναγνώρισης της αβεβαιότητας που οδηγεί σε παραισθήσεις μπορεί να αποδειχθεί η πιο ανθρώπινη – και πιο πολύτιμη – ιδιότητά τους. Η Θέμις Τεχνητή Νοημοσύνη φροντίζει να μάθουν αυτή την κρίσιμη δεξιότητα.
