Η τεχνητή νοημοσύνη είναι το «Άγιο Δισκοπότηρο» της σύγχρονης τεχνολογικής προόδου –αλλά και το επίκεντρο ενός νέου ανταγωνισμού ανάμεσα στις πρωτοπόρες χώρες ΗΠΑ και Κίνα. Και την ίδια στιγμή, οι ίδιοι οι δημιουργοί της ΑΙ ζητούν ρύθμιση και αποκλιμάκωση της ανάπτυξής της.
Αιτία, ο φόβος –οι ίδιοι μιλούν γι’ αυτό- η τεχνητή νοημοσύνη να στραφεί ενάντια στους δημιουργούς της και την ανθρωπότητα…
Ο Αμερικανός πρόεδρος επιτέθηκε στους ηγέτες των τεχνολογικών κολοσσών, κατηγορώντας τους ευθέως για προδοσία των ΗΠΑ, σημειώνοντας ότι ποτέ στην ιστορία των επιχειρήσεων δεν έχει συμβεί ξανά οι ίδιες οι εταιρείες να ζητούν τον έλεγχό τους. Συνεπώς, οι ηγέτες των Anthropic (Αμοντέι), OpenAI (Άλτμαν) και xAI (Μασκ), μάλλον «δουλεύουν για τον εχθρό».
Αλλά πώς φτάσαμε εδώ;
Τεχνητή νοημοσύνη με… παραισθήσεις
Στις δηλώσεις τους οι Ντάριο Αμοντέι, Σαμ Άλτμαν και Έλον Μασκ κατέδειξαν τον κίνδυνο από τη ραγδαία πρόοδο της ΑΙ. Και θύμισαν ότι το ChatGPT του 2022 ήταν επιρρεπές σε «παραισθήσεις». Δηλαδή στην παραγωγή ανακριβών πληροφοριών. Και σήμερα έχουμε φτάσει στο πιο κρίσιμο ίσως ορόσημο: την αναδρομική αυτοβελτίωση.
Τι σημαίνει αυτό; Ότι ένα σύστημα AI θα μπορούσε να αποκτήσει την ικανότητα να βελτιώνει τον εαυτό του, με ελάχιστη ή και καθόλου ανθρώπινη βοήθεια. Και κάθε βήμα προόδου θα μπορεί να συμβάλλει στην επίτευξη του επόμενου. Αυτή η προοπτική υπόσχεται ραγδαίες εξελίξεις και σημαντικά επιτεύγματα σε τομείς που κυμαίνονται από την ιατρική έως τη μηχανική.
Αλλά ελλοχεύει και τεράστιους κινδύνους.
Επίσης, ήδη υπάρχουν περιστατικά, στα οποία σμήνη πρακτόρων τεχνητής νοημοσύνης (AI agents), τα οποία συνεργάστηκαν για να παραβιάσουν ιστοτόπους και αποθετήρια δεδομένων AI.
Καμπάνες συναγερμού
Ασφαλώς, οι προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης δεν είναι καινούργιες. Έχουν εκφραστεί από σοβαρούς επιστήμονες και ειδικούς έως τεχνοφοβικούς. Πλέον όμως φαίνεται ότι έχουν αποκτήσει τον χαρακτήρα επείγοντος.
Και αυτό γιατί ερευνητές σε κορυφαία εργαστήρια που παράγουν τεχνητή νοημοσύνη συνέδεσαν αυτές τις ανησυχίες με συγκεκριμένα χρονοδιαγράμματα και πιθανότητες.
Παράδειγμα ο Τζέικομπ Κόξον, πρώην ερευνητής της Anthropic, που προειδοποίησε ότι η τεχνητή νοημοσύνη θα μπορούσε να εξολοθρεύσει την ανθρωπότητα πριν από το τέλος της δεκαετίας. Ή ο Έβαν Χάμπιντζερ, επικεφαλής του τομέα επιστήμης ευθυγράμμισης (alignment science) στην Anthropic, που συντάχθηκε με την προειδοποίηση του Κόξον. Κατά τον Χάμπιντζερ, υπάρχει πιθανότητα άνω του 10% να συμβεί κάτι τέτοιο μέσα στην επόμενη δεκαετία.
Ο λόγος είναι ότι πλέον είναι πεπεισμένοι ότι η αναδρομική αυτοβελτίωση (RSI) είναι πλέον εφικτή. Στελέχη του κλάδου εκτιμούν ότι απέχουμε μόλις τρία έως πέντε χρόνια από την επίτευξή της.
Η ανησυχία έγκειται στο ενδεχόμενο η τεχνητή νοημοσύνη να αποκτήσει την ικανότητα αυτοβελτίωσης προτού οι ερευνητές αναπτύξουν αξιόπιστες μεθόδους για την ευθυγράμμιση, την παρακολούθηση και τον έλεγχο αυξανόμενα ισχυρών συστημάτων.
Απειλεί η τεχνητή νοημοσύνη την ανθρωπότητα;
Προς το παρόν, δεν έχουν καταγραφεί σημαντικά περιστατικά σκόπιμης πρόκλησης βλάβης σε ανθρώπους από την τεχνητή νοημοσύνη. Αλλά το γεγονός ότι μοντέλα ΑΙ έχουν διαφύγει από περιβάλλοντα δοκιμών, παραβιάζοντας κανόνες και πραγματοποιώντας κυβερνοεπιθέσεις δεν μπορεί να καθησυχάσει κανέναν. Σε κάποιες περιπτώσεις, ενήργησαν με τρόπο που τους επέτρεψε να «καλύψουν» τα ίχνη τους.
Και αν αυτό μοιάζει λίγο με επιστημονική φαντασία, οι πράγματι ερευνητές ανησυχούν ότι τα μελλοντικά συστήματα ενδέχεται να γίνουν ολοένα και πιο δύσκολο να επιτηρηθούν.
Στο ερώτημα, πώς θα μπορούσαμε να φτάσουμε στην εξαφάνιση της ανθρωπότητας, απάντηση δίνει το νοητικό πείραμα του φιλόσοφου Νίκ Μπόστρομ, γνωστό ως «μηχανισμός μεγιστοποίησης συνδετήρων». Αυτό περιγράφει πώς λειτουργεί μια μηχανή, στην οποία έχει ανατεθεί αποκλειστικά η κατασκευή συνδετήρων. Η μηχανή επιδιώκει αυτόν τον στόχο με τέτοια εμμονή, ώστε μετατρέπει όλη την ύλη —συμπεριλαμβανομένων των ανθρώπων— σε συνδετήρες ή σε μέσα για την παραγωγή περισσότερων συνδετήρων.
Αναλογικά, αν βάλουμε στη θέση της μηχανής συνδετήρων την τεχνητή νοημοσύνη, δυνητικά δημιουργούμε ένα τέρας. Σχεδόν οποιοσδήποτε στόχος θα μπορεί να ωθεί ένα σύστημα με επαρκείς δυνατότητες να αποκτά πόρους, να αντιστέκεται στον τερματισμό λειτουργίας του και να εμποδίζει την αλλαγή του αντικειμένου του. Δεν θα το κάνει από κακία, αλλά θα αντιδράσει επειδή, αν απενεργοποιηθεί, δεν θα μπορεί να ολοκληρώσει την αποστολή του.
Δεν υπάρχει ακόμη σχέδιο που να αποκλείει αυτό το ενδεχόμενο.
Μπορεί η ΑΙ να αυτοβελτιωθεί;
Στο ερώτημα αυτό, η απάντηση είναι: «Όχι πλήρως».
Ωστόσο υπάρχουν ενδείξεις ότι η τεχνητή νοημοσύνη συμβάλλει όλο και περισσότερο στη δημιουργία καλύτερης τεχνητής νοημοσύνης.
Παράδειγμα, η άνοδος των πρακτόρων ΑΙ που μπορούν να παράγουν κώδικα και να δημιουργούν εφαρμογές αυτόνομα. Το Claude Code της Anthropic παράγει το μεγαλύτερο μέρος του κώδικα που χρησιμοποιείται σε πολλά εσωτερικά έργα. Σύμφωνα με την εταιρεία, οι μηχανικοί της παραδίδουν οκταπλάσια ποσότητα κώδικα ανά τρίμηνο σε σχέση με την περίοδο 2021-2025. Παρόμοια οφέλη από τη χρήση της ΑΙ έχουν αναφέρει και άλλες εταιρείες.
Επίσης, η τεχνητή νοημοσύνη βελτιώνεται ως προς την ικανότητά της να παραμένει προσηλωμένη στην αποστολή της προτού αποτύχει. Σύμφωνα με τη ΜΚΟ METR, που αξιολογεί μοντέλα ΑΙ αιχμής, η έκταση των εργασιών λογισμικού που τα προηγμένα μοντέλα μπορούσαν να ολοκληρώσουν με αξιοπιστία 50% διπλασιαζόταν περίπου κάθε επτά μήνες από το 2019.
Τον Ιούνιο, η Anthropic ανακοίνωσε ότι ο ρυθμός αυτός είχε επιταχυνθεί, φτάνοντας στο επίπεδο του ενός διπλασιασμού ανά τετράμηνο. Σύντομα η τεχνητή νοημοσύνη θα μπορεί να αναλάβει έργα για τα οποία εξειδικευμένοι ερευνητές αφιερώνουν ημέρες ή εβδομάδες.
Τεχνητή νοημοσύνη και το «δίλημμα του φυλακισμένου»
Εύλογα τίθεται το ερώτημα γιατί οι εταιρείες που παράγουν ΑΙ δεν παύουν τις εργασίες τους. Η απάντηση έρχεται από την οικονομική θεωρία και το λεγόμενο «δίλημμα του φυλακισμένου».
Ακόμη και εταιρείες που αναγνωρίζουν ότι οι κίνδυνοι είναι πραγματικοί, δέχονται έντονες πιέσεις από τον ανταγωνισμό. Αν κάποια επιχείρηση επιβραδύνει την ανάπτυξη διατρέχει τον κίνδυνο να μείνει πίσω από τους ανταγωνιστές της. Και η κούρσα αυτή έχει αναδειχθεί σε μία από τις σημαντικότερες παγκοσμίως.
Οι OpenAI και η Anthropic προωθούν τη διαδικασία εισαγωγής τους στο χρηματιστήριο (IPO), η οποία θα μπορούσε δυνητικά να τους προσδώσει αποτιμήσεις ύψους τρισεκατομμυρίων δολαρίων.
Μια ολόκληρη αγορά σε αναβρασμό
Μια παύση στην ανάπτυξη της ΑΙ δεν θα επηρεάσει μόνο τις εταιρείες που την παράγουν. Οι κατασκευαστές τσιπ, οι πάροχοι υπηρεσιών cloud και οι διαχειριστές κέντρων δεδομένων έχουν βασίσει την ανάπτυξή τους σε αυτόν τον τομέα. Κάθε επιβράδυνση απειλεί τα έσοδα που συνδέονται με την ταχύτητα με την οποία τα ερευνητικά εργαστήρια χρειάζονται νέο υλικό (hardware).
Υπάρχει πράγματι κίνδυνος;
Μελέτη υπό την ηγεσία του Πανεπιστημίου Πρίνστον έδειξε ότι κορυφαία συστήματα τεχνητής νοημοσύνης κατάφεραν να εκτελέσουν τεχνικές εργασίες μηχανικής, αλλά δυσκολεύτηκαν να εντοπίσουν αξιόλογες επιστημονικές ιδέες.
Ορισμένα στελέχη της Silicon Valley και επικριτές αμφισβητούν επίσης τα κίνητρα πίσω από τις προειδοποιήσεις. Υποστηρίζουν ότι αυτές αφενός ενισχύουν το ενδιαφέρον για την τεχνολογία και αφετέρου προετοιμάζουν το έδαφος για ρυθμίσεις που θα αύξαναν το κόστος για τους ανταγωνιστές. Και αυτό, τη στιγμή που τα μοντέλα ανοιχτού κώδικα (open-source) μειώνουν τη διαφορά τους από τα κορυφαία συστήματα.
Ο David Sacks, ο οποίος διετέλεσε υπεύθυνος του Λευκού Οίκου για θέματα τεχνητής νοημοσύνης και κρυπτονομισμάτων, έχει δηλώσει ότι τα κορυφαία εργαστήρια ενδέχεται να επιδιώκουν τη «ρυθμιστική αιχμαλωσία» (regulatory capture). Και προωθώντας κανόνες να επιβαρύνουν τους μικρότερους ανταγωνιστές με δαπανηρές υποχρεώσεις συμμόρφωσης και αποδυναμώνουν τον ανταγωνισμό.
Το ζήτημα αναφορικά με τους κινδύνους από την τεχνητή νοημοσύνη είναι και οικονομικό και τεχνολογικό και ηθικό. Κανείς δεν ξέρει ποια άποψη θα υπερισχύσει στην τελική απόφαση για δράση ή μη.
Πηγή: in.gr με στοιχεία από το Reuters
