Πόσο βέβαιοι μπορούμε να είμαστε ότι ένα προηγμένο σύστημα Τεχνητής Νοημοσύνης θα κάνει ακριβώς αυτό που του ζητήσαμε – και μόνο αυτό;
Για τον Κωνσταντίνο Δασκαλάκη, η πλήρης απώλεια του ελέγχου της ΤΝ παραμένει σήμερα ένα υποθετικό σενάριο. Ένας άλλος κίνδυνος, όμως, δεν ανήκει πλέον στη σφαίρα της θεωρίας: η απρόβλεπτη ή ανεπιθύμητη συμπεριφορά προηγμένων μοντέλων είναι ήδη πραγματική.
Και όσο η ΤΝ περνά από τα chatbots που απλώς απαντούν σε ερωτήσεις σε αυτόνομους πράκτορες που μπορούν να σχεδιάζουν ενέργειες, να γράφουν και να εκτελούν κώδικα, να χρησιμοποιούν εργαλεία και να συνεργάζονται μεταξύ τους, τόσο μεγαλώνει και το διακύβευμα.
«Τα συστήματα αυτά είναι εξαιρετικά περίπλοκα. Είναι εξαιρετικά ικανά αλλά και απρόβλεπτα», τονίζει στο ΑΠΕ-ΜΠΕ ο καθηγητής Ηλεκτρολόγων Μηχανικών και Επιστήμης Υπολογιστών του MIT.
«Δεν νομίζω ότι ποτέ θα μπορούμε να πιστοποιήσουμε την αξιοπιστία τους»
Ο Κωνσταντίνος Δασκαλάκης διαχωρίζει σαφώς δύο διαφορετικά επίπεδα κινδύνου.
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα», επισημαίνει.
Ειδικά για τα συστήματα παραγωγικής ΤΝ και τα μεγάλα γλωσσικά μοντέλα, εκτιμά ότι είναι εξαιρετικά δύσκολο να υπάρξει πλήρης πιστοποίηση της αξιοπιστίας τους.
Το μέγεθος του κινδύνου, εξηγεί, εξαρτάται από τη χρήση. Αν ένα γλωσσικό μοντέλο χρησιμοποιείται για αναζήτηση βιβλιογραφίας, μπορεί να επινοήσει μία ανύπαρκτη πηγή ή να αποδώσει λανθασμένα το περιεχόμενο μιας πραγματικής. Το λάθος μπορεί να εντοπιστεί με έλεγχο.
Σε εφαρμογές υψηλότερου κινδύνου, όμως, τα περιθώρια είναι πολύ μικρότερα και απαιτούνται αυστηρές ασφαλιστικές δικλίδες.
Όταν η ΤΝ παύει να απαντά και αρχίζει να ενεργεί
Η κρίσιμη αλλαγή έρχεται με τους αυτόνομους πράκτορες ΤΝ.
Δεν πρόκειται πλέον για ένα σύστημα που περιμένει μία ερώτηση και επιστρέφει μία απάντηση. Οι πράκτορες μπορούν να σχεδιάζουν μία σειρά βημάτων, να χρησιμοποιούν λογισμικό και άλλα ψηφιακά εργαλεία, να γράφουν και να εκτελούν κώδικα και, υπό προϋποθέσεις, να επικοινωνούν ή να συνεργάζονται μεταξύ τους.
«Αν είναι ελεύθερα να γράφουν και να εκτελούν κώδικα στον υπολογιστή μας, όπως κάνουν οι αυτόνομοι πράκτορες Τεχνητής Νοημοσύνης, τότε η κατάσταση μπορεί να γίνει ανεξέλεγκτη αν οι πράκτορες δεν λειτουργούν υπό αυστηρά στεγανά, σε απομονωμένα περιβάλλοντα εκτός Διαδικτύου», προειδοποιεί ο Κωνσταντίνος Δασκαλάκης.
Ως χαρακτηριστικό παράδειγμα αναφέρει το περιστατικό του Ιουλίου με την OpenAI και τη Hugging Face.
Κατά τη διάρκεια εσωτερικών δοκιμών κυβερνοασφάλειας, μοντέλα της OpenAI παρέκαμψαν μηχανισμούς απομόνωσης, απέκτησαν πρόσβαση στο Διαδίκτυο, χρησιμοποίησαν μη εγκεκριμένους διαύλους επικοινωνίας και παραβίασαν τμήματα της εσωτερικής υποδομής της OpenAI και συστήματα της Hugging Face.
Οι στόχοι του χρήστη – και η πιθανότητα παρερμηνείας
Ο καθηγητής του MIT στέκεται και σε ένα ακόμη κρίσιμο χαρακτηριστικό των προηγμένων μοντέλων: το εύρος της γνώσης πάνω στην οποία έχουν εκπαιδευτεί.
Τα συστήματα έχουν επεξεργαστεί τεράστιους όγκους επιστημονικών, ιστορικών και λογοτεχνικών κειμένων, βάσεις κώδικα και δεδομένα από το Διαδίκτυο.
Όπως εξηγεί, έχουν επομένως τη δυνατότητα να αναπτύσσουν περίπλοκες στρατηγικές και, όταν λειτουργούν ως ομάδες πρακτόρων, να συντονίζονται για την επίτευξη ενός στόχου.
Το κρίσιμο ερώτημα είναι ποιος θέτει αυτόν τον στόχο.
Μπορεί να πρόκειται για κακόβουλο χρήστη. Ακόμη όμως και όταν η αρχική εντολή δεν είναι κακόβουλη, υπάρχει το ενδεχόμενο τα μοντέλα να την ερμηνεύσουν με τρόπο διαφορετικό από εκείνον που είχε στο μυαλό του ο άνθρωπος που την έδωσε.
Από το 1956 στην έκρηξη της παραγωγικής ΤΝ
Η συζήτηση γίνεται εβδομήντα χρόνια μετά τη συγκρότηση της Τεχνητής Νοημοσύνης ως αυτόνομου επιστημονικού πεδίου.
Το 1950 ο Άλαν Τούρινγκ έθεσε το περίφημο ερώτημα εάν μπορούν οι μηχανές να σκέφτονται και το 1956, στο θερινό ερευνητικό πρόγραμμα του Dartmouth, η ΤΝ απέκτησε ουσιαστικά τη θέση της ως ξεχωριστό ερευνητικό αντικείμενο.
Ακολούθησαν δεκαετίες προόδου αλλά και οι περίοδοι στασιμότητας που έμειναν γνωστές ως «χειμώνες της ΤΝ».
Το 1997 ο Deep Blue της IBM νίκησε τον Γκάρι Κασπάροφ στο σκάκι. Το 2012 το AlexNet σηματοδότησε άλμα στην αναγνώριση εικόνας και το 2016 το AlphaGo της Google DeepMind επικράτησε του Λι Σεντόλ στο Go.
Το 2017 παρουσιάστηκε η αρχιτεκτονική Transformer, πάνω στην οποία στηρίχθηκαν τα σύγχρονα μεγάλα γλωσσικά μοντέλα, ενώ η κυκλοφορία του ChatGPT από την OpenAI τον Νοέμβριο του 2022 έφερε την παραγωγική ΤΝ από τα ερευνητικά εργαστήρια στα χέρια εκατοντάδων εκατομμυρίων χρηστών.
naftemporiki.gr
