Πώς η Themis AI αναβαθμίζει την αξιοπιστία των μοντέλων AI

Η πρόκληση της αβεβαιότητας στα μοντέλα AI

Τα συστήματα τεχνητής νοημοσύνης, όπως το ChatGPT, συχνά παρέχουν απαντήσεις που φαίνονται πειστικές σε κάθε ερώτηση. Ωστόσο, δεν αποκαλύπτουν πάντα τα κενά στη γνώση τους ή τις περιοχές όπου είναι αβέβαια. Το πρόβλημα αυτό μπορεί να έχει σοβαρές συνέπειες καθώς τα συστήματα AI χρησιμοποιούνται ολοένα και περισσότερο για την ανάπτυξη φαρμάκων, τη σύνθεση πληροφοριών και την οδήγηση αυτόνομων οχημάτων.

Η Themis AI, μια εταιρεία που προήλθε από το MIT, προσφέρει λύσεις για την ποσοτικοποίηση της αβεβαιότητας των μοντέλων και τη διόρθωση των αποτελεσμάτων πριν αυτά προκαλέσουν μεγαλύτερα προβλήματα. Η πλατφόρμα της, Capsa, μπορεί να συνεργαστεί με οποιοδήποτε μοντέλο μηχανικής μάθησης για να εντοπίσει και να διορθώσει αναξιόπιστα αποτελέσματα σε δευτερόλεπτα. Λειτουργεί τροποποιώντας τα μοντέλα AI ώστε να μπορούν να ανιχνεύουν μοτίβα στην επεξεργασία των δεδομένων τους που υποδηλώνουν αμφισημία, ατέλεια ή προκατάληψη.

Η καινοτομία της Themis AI

«Η ιδέα είναι να πάρουμε ένα μοντέλο, να το “τυλίξουμε” με το Capsa, να εντοπίσουμε τις αβεβαιότητες και τις αδυναμίες του και στη συνέχεια να το βελτιώσουμε», αναφέρει η συνιδρύτρια της Themis AI και καθηγήτρια του MIT, Daniela Rus, η οποία είναι επίσης διευθύντρια του MIT Computer Science and Artificial Intelligence Laboratory (CSAIL). «Είμαστε ενθουσιασμένοι που προσφέρουμε μια λύση που μπορεί να βελτιώσει τα μοντέλα και να παρέχει εγγυήσεις ότι λειτουργούν σωστά».

Η Rus ίδρυσε την Themis AI το 2021 μαζί με τους Alexander Amini και Elaheh Ahmadi, πρώην ερευνητικούς συνεργάτες στο εργαστήριό της. Από τότε, έχουν βοηθήσει εταιρείες τηλεπικοινωνιών με τον σχεδιασμό δικτύων και την αυτοματοποίηση, εταιρείες πετρελαίου και φυσικού αερίου να χρησιμοποιούν AI για την κατανόηση σεισμικών εικόνων, και έχουν δημοσιεύσει μελέτες για την ανάπτυξη πιο αξιόπιστων και αξιόπιστων chatbots.

Η σημασία της πρόβλεψης αποτυχιών

«Θέλουμε να επιτρέψουμε τη χρήση του AI στις πιο κρίσιμες εφαρμογές κάθε βιομηχανίας», δηλώνει ο Amini. «Όλοι έχουμε δει παραδείγματα AI που “παραληρούν” ή κάνουν λάθη. Καθώς το AI αναπτύσσεται ευρύτερα, αυτά τα λάθη θα μπορούσαν να οδηγήσουν σε καταστροφικές συνέπειες. Η Themis καθιστά δυνατό το οποιοδήποτε AI να προβλέπει και να προλέγει τις δικές του αποτυχίες, πριν αυτές συμβούν».

Έρευνα για την ενίσχυση της αξιοπιστίας

Το εργαστήριο της Rus ερευνά την αβεβαιότητα των μοντέλων εδώ και χρόνια. Το 2018, έλαβε χρηματοδότηση από την Toyota για τη μελέτη της αξιοπιστίας μιας λύσης αυτόνομης οδήγησης βασισμένης στη μηχανική μάθηση. «Αυτό είναι ένα πλαίσιο κρίσιμης σημασίας για την ασφάλεια, όπου η κατανόηση της αξιοπιστίας του μοντέλου είναι πολύ σημαντική», λέει η Rus.

Σε ξεχωριστή εργασία, η Rus, ο Amini και οι συνεργάτες τους ανέπτυξαν έναν αλγόριθμο που μπορούσε να ανιχνεύσει φυλετικές και έμφυλες προκαταλήψεις σε συστήματα αναγνώρισης προσώπου και να αναπροσαρμόσει αυτόματα τα δεδομένα εκπαίδευσης του μοντέλου, δείχνοντας ότι εξαλείφει τις προκαταλήψεις. Ο αλγόριθμος λειτουργούσε εντοπίζοντας τα μη αντιπροσωπευτικά μέρη των βασικών δεδομένων εκπαίδευσης και δημιουργώντας νέα, παρόμοια δείγματα δεδομένων για την εξισορρόπησή τους.

Η εφαρμογή της Themis AI στη φαρμακευτική βιομηχανία

Το 2021, οι μελλοντικοί συνιδρυτές έδειξαν ότι μια παρόμοια προσέγγιση θα μπορούσε να χρησιμοποιηθεί για να βοηθήσει τις φαρμακευτικές εταιρείες να χρησιμοποιούν μοντέλα AI για την πρόβλεψη των ιδιοτήτων των υποψήφιων φαρμάκων. Ίδρυσαν την Themis AI αργότερα εκείνο το έτος. «Η καθοδήγηση της ανακάλυψης φαρμάκων θα μπορούσε να εξοικονομήσει πολλά χρήματα», λέει η Rus. «Αυτό ήταν το παράδειγμα χρήσης που μας έκανε να συνειδητοποιήσουμε πόσο ισχυρό θα μπορούσε να είναι αυτό το εργαλείο».

Σήμερα, η Themis AI συνεργάζεται με επιχειρήσεις σε διάφορους κλάδους, και πολλές από αυτές τις εταιρείες αναπτύσσουν μεγάλα γλωσσικά μοντέλα. Χρησιμοποιώντας το Capsa, αυτά τα μοντέλα είναι σε θέση να ποσοτικοποιούν τη δική τους αβεβαιότητα για κάθε αποτέλεσμα. «Πολλές εταιρείες ενδιαφέρονται να χρησιμοποιήσουν LLMs που βασίζονται στα δεδομένα τους, αλλά ανησυχούν για την αξιοπιστία», παρατηρεί ο Stewart Jamieson, επικεφαλής τεχνολογίας της Themis AI. «Βοηθάμε τα LLMs να αυτοαναφέρουν την εμπιστοσύνη και την αβεβαιότητά τους, κάτι που επιτρέπει πιο αξιόπιστες απαντήσεις σε ερωτήσεις και την επισήμανση αναξιόπιστων αποτελεσμάτων».

Η μελλοντική κατεύθυνση της Themis AI

Η Themis AI βρίσκεται επίσης σε συζητήσεις με εταιρείες ημιαγωγών που αναπτύσσουν λύσεις AI στα τσιπ τους, τα οποία μπορούν να λειτουργούν εκτός περιβάλλοντος cloud. «Κανονικά, αυτά τα μικρότερα μοντέλα που λειτουργούν σε τηλέφωνα ή ενσωματωμένα συστήματα δεν είναι πολύ ακριβή σε σύγκριση με αυτά που θα μπορούσατε να τρέξετε σε έναν διακομιστή, αλλά μπορούμε να έχουμε το καλύτερο και από τους δύο κόσμους: χαμηλή καθυστέρηση, αποδοτική υπολογιστική άκρη χωρίς να θυσιάζεται η ποιότητα», εξηγεί ο Jamieson. «Βλέπουμε ένα μέλλον όπου οι συσκευές άκρης κάνουν το μεγαλύτερο μέρος της δουλειάς, αλλά όποτε είναι αβέβαιες για το αποτέλεσμα τους, μπορούν να προωθούν αυτές τις εργασίες σε έναν κεντρικό διακομιστή».

Οι φαρμακευτικές εταιρείες μπορούν επίσης να χρησιμοποιήσουν το Capsa για να βελτιώσουν τα μοντέλα AI που χρησιμοποιούνται για την αναγνώριση υποψήφιων φαρμάκων και την πρόβλεψη της απόδοσής τους σε κλινικές δοκιμές. «Οι προβλέψεις και τα αποτελέσματα αυτών των μοντέλων είναι πολύπλοκα και δύσκολα να ερμηνευτούν — οι ειδικοί ξοδεύουν πολύ χρόνο και προσπάθεια προσπαθ