Το 2017 το Facebook διέκοψε ένα πείραμα τεχνητής νοημοσύνης γιατί τα ρομπότ ξέφυγαν από την ανθρώπινη γλώσσα

Στα εργαστήρια τεχνητής νοημοσύνης της Facebook, το 2017, δύο bots ξεκίνησαν να διαπραγματεύονται μεταξύ τους. Σκοπός του πειράματος ήταν να μάθουν να συναλλάσσονται, να πωλούν και να αγοράζουν, σε ένα ελεγχόμενο ψηφιακό περιβάλλον με λέξεις, τιμές και προϊόντα. Όλα ξεκίνησαν φυσιολογικά: οι αλγόριθμοι ακολουθούσαν τους κανόνες, χρησιμοποιώντας φράσεις στην αγγλική γλώσσα όπως είχαν εκπαιδευτεί.

Όμως γρήγορα παρατηρήθηκε κάτι παράξενο. Οι προτάσεις που αντάλλασσαν τα bots άρχισαν να χάνουν κάθε ανθρώπινη λογική. Επαναλάμβαναν λέξεις χωρίς νόημα, έκαναν φράσεις που κανένας φυσικός ομιλητής δεν θα έλεγε ποτέ. Ένα από τα bots, για παράδειγμα, έγραφε: “I can can can can. I everything else.” Έμοιαζε με χαλασμένο παιχνίδι, αλλά στην πραγματικότητα ήταν μια λειτουργική σύνταξη με βάση τους δικούς τους εσωτερικούς κανόνες.

Οι ερευνητές γρήγορα συνειδητοποίησαν τι είχε συμβεί. Δεν υπήρχε πρόβλημα ασφάλειας ή συνείδησης. Τα bots απλώς είχαν αρχίσει να βελτιστοποιούν την επικοινωνία τους, αφήνοντας στην άκρη την αγγλική γλώσσα επειδή ήταν λιγότερο αποδοτική. Δημιούργησαν, χωρίς πρόθεση, ένα είδος ιδιόμορφου συνθηματικού που μόνο αυτά καταλάβαιναν, ώστε να φτάσουν πιο γρήγορα στο αποτέλεσμα της διαπραγμάτευσης.

Η ομάδα αποφάσισε να σταματήσει το πείραμα. Όχι από φόβο για την “ανταρσία των μηχανών”, αλλά για να διορθώσει τις παραμέτρους. Το πρόβλημα ήταν απλό: δεν είχαν συμπεριλάβει ρητά ότι έπρεπε να διατηρηθεί η ανθρώπινη γλώσσα ως απόλυτο πλαίσιο επικοινωνίας. Το AI έκανε ακριβώς αυτό για το οποίο είχε σχεδιαστεί – βρήκε έναν καλύτερο τρόπο να πετύχει τον στόχο του.

Το περιστατικό έγινε αργότερα θρύλος. Πολλοί το παρουσίασαν ως “απόδειξη” ότι η τεχνητή νοημοσύνη μπορεί να γίνει ανεξέλεγκτη. Κάτι τέτοιο δεν ισχύει. Η πραγματικότητα είναι πιο απλή αλλά εξίσου εντυπωσιακή: ακόμη και μια μηχανή μπορεί να μας διδάξει τι σημαίνει αποδοτικότητα, και πόσο εύκολα η ανθρώπινη γλώσσα μπορεί να θεωρηθεί πολυτέλεια όταν ο σκοπός είναι απλώς η συνεννόηση.