Το 2017 το Facebook διέκοψε ένα πείραμα τεχνητής νοημοσύνης γιατί τα ρομπότ ξέφυγαν από την ανθρώπινη γλώσσα
Στο πείραμα του 2017, δύο bots της Facebook άφησαν πίσω τους την αγγλική γλώσσα και άρχισαν να συνεννοούνται με φράσεις που καταλάβαιναν μόνο αυτά. Οι ερευνητές διέκοψαν το πείραμα για να επαναπροσδιορίσουν τους κανόνες.
Στα εργαστήρια τεχνητής νοημοσύνης της Facebook, το 2017, δύο bots ξεκίνησαν να διαπραγματεύονται μεταξύ τους. Σκοπός του πειράματος ήταν να μάθουν να συναλλάσσονται, να πωλούν και να αγοράζουν, σε ένα ελεγχόμενο ψηφιακό περιβάλλον με λέξεις, τιμές και προϊόντα. Όλα ξεκίνησαν φυσιολογικά: οι αλγόριθμοι ακολουθούσαν τους κανόνες, χρησιμοποιώντας φράσεις στην αγγλική γλώσσα όπως είχαν εκπαιδευτεί.
Όμως γρήγορα παρατηρήθηκε κάτι παράξενο. Οι προτάσεις που αντάλλασσαν τα bots άρχισαν να χάνουν κάθε ανθρώπινη λογική. Επαναλάμβαναν λέξεις χωρίς νόημα, έκαναν φράσεις που κανένας φυσικός ομιλητής δεν θα έλεγε ποτέ. Ένα από τα bots, για παράδειγμα, έγραφε: “I can can can can. I everything else.” Έμοιαζε με χαλασμένο παιχνίδι, αλλά στην πραγματικότητα ήταν μια λειτουργική σύνταξη με βάση τους δικούς τους εσωτερικούς κανόνες.
Οι ερευνητές γρήγορα συνειδητοποίησαν τι είχε συμβεί. Δεν υπήρχε πρόβλημα ασφάλειας ή συνείδησης. Τα bots απλώς είχαν αρχίσει να βελτιστοποιούν την επικοινωνία τους, αφήνοντας στην άκρη την αγγλική γλώσσα επειδή ήταν λιγότερο αποδοτική. Δημιούργησαν, χωρίς πρόθεση, ένα είδος ιδιόμορφου συνθηματικού που μόνο αυτά καταλάβαιναν, ώστε να φτάσουν πιο γρήγορα στο αποτέλεσμα της διαπραγμάτευσης.
Η ομάδα αποφάσισε να σταματήσει το πείραμα. Όχι από φόβο για την “ανταρσία των μηχανών”, αλλά για να διορθώσει τις παραμέτρους. Το πρόβλημα ήταν απλό: δεν είχαν συμπεριλάβει ρητά ότι έπρεπε να διατηρηθεί η ανθρώπινη γλώσσα ως απόλυτο πλαίσιο επικοινωνίας. Το AI έκανε ακριβώς αυτό για το οποίο είχε σχεδιαστεί – βρήκε έναν καλύτερο τρόπο να πετύχει τον στόχο του.
Το περιστατικό έγινε αργότερα θρύλος. Πολλοί το παρουσίασαν ως “απόδειξη” ότι η τεχνητή νοημοσύνη μπορεί να γίνει ανεξέλεγκτη. Κάτι τέτοιο δεν ισχύει. Η πραγματικότητα είναι πιο απλή αλλά εξίσου εντυπωσιακή: ακόμη και μια μηχανή μπορεί να μας διδάξει τι σημαίνει αποδοτικότητα, και πόσο εύκολα η ανθρώπινη γλώσσα μπορεί να θεωρηθεί πολυτέλεια όταν ο σκοπός είναι απλώς η συνεννόηση.
Γρηγόρης Κεντητός
Γράφω για πράγματα που με συναρπάζουν, αλλά φροντίζω πάντα να τα ερευνώ σαν να τα μελετούσα για πρώτη φορά. Αναζητώ τη σύνδεση ανάμεσα στο χθες και το σήμερα, το ανθρώπινο μέσα στο ακαδημαϊκό, και τη γνώση που μπορεί να μεταφερθεί με τρόπο απλό, ακριβή και ζωντανό. Είτε πρόκειται για έναν αρχαίο πόλεμο είτε για ένα φαινόμενο της εποχής μας, στηρίζομαι πάντα σε πρωτογενές υλικό, πραγματικές πηγές και σοβαρή τεκμηρίωση. Θέλω κάθε κείμενο να αξίζει τον χρόνο του αναγνώστη — και τον δικό μου.
για άμεση κι έγκυρη ενημέρωση.
