Η τεχνητή νοημοσύνη στα επόμενα αυτοκίνητα θα αποφασίζει αν θα πεθάνεις

Στο κοντινό μέλλον, η τεχνητή νοημοσύνη δεν θα σε καθοδηγεί απλώς στον προορισμό σου. Θα αποφασίζει αν θα ζήσεις ή αν θα πεθάνεις. Αν ένα ατύχημα είναι αναπόφευκτο, το όχημα δεν θα ρωτήσει εσένα – θα εκτελέσει την εντολή που του έχει προγραμματιστεί: ποιος αξίζει περισσότερο να σωθεί.

Το 2016, το πανεπιστήμιο MIT παρουσίασε ένα παγκόσμιο πείραμα ηθικής που ονομάστηκε Moral Machine. Περισσότερα από 40 εκατομμύρια χρήστες από 233 χώρες συμμετείχαν. Έπρεπε να διαλέξουν: αν ένα αυτόνομο αυτοκίνητο δεν μπορεί να αποφύγει μια σύγκρουση, θα πρέπει να σκοτώσει έναν ηλικιωμένο πεζό ή να θυσιάσει τον νεαρό οδηγό; Έναν εγκληματία ή έναν γιατρό; Μια έγκυο ή έναν άστεγο;

Η τεχνητή νοημοσύνη, όσο έξυπνη κι αν είναι, δεν δημιουργεί ηθική. Την αντιγράφει. Κάποιος την έχει διδάξει πώς να κρίνει ποια ζωή έχει μεγαλύτερη αξία. Αυτό σημαίνει ότι το λογισμικό κάθε αυτόνομου αυτοκινήτου είναι ήδη ένας μηχανισμός επιλογής ζωών. Κι εσύ δεν είσαι πλέον οδηγός. Είσαι ένας αριθμός μέσα σε ένα αλγόριθμο με κριτήρια που δεν γνωρίζεις.

Στη Γερμανία, η Επιτροπή Ηθικής που συμβουλεύει το Υπουργείο Μεταφορών πρότεινε να μην βασίζεται η απόφαση σε ηλικία, φύλο ή σωματικά χαρακτηριστικά. Όμως στην πράξη, πολλά συστήματα τεχνητής νοημοσύνης μαθαίνουν από ανοιχτά datasets του διαδικτύου που ήδη περιέχουν προκαταλήψεις. Το AI βλέπει έναν 80χρονο οδηγό και έναν 19χρονο πεζό. Και αν δεν έχει εκπαιδευτεί σωστά, ίσως απλώς προτιμήσει τον νεότερο.

Κάποια μοντέλα χρησιμοποιούν μαθηματικούς αλγορίθμους με βάση την πιθανότητα επιβίωσης, την ταχύτητα, τη μάζα του οχήματος, την κατάσταση του δρόμου. Όμως όλα αυτά οδηγούν στο ίδιο σημείο: αν έρθει η στιγμή που το αυτοκίνητο πρέπει να αποφασίσει, δεν είσαι εσύ που το κάνει.

Αν ο οδηγός είναι υπερήλικας ή πάσχει από κάτι, ο υπολογιστής ίσως εκτιμήσει ότι ο νεαρός πεζός είναι «πιο πολύτιμος». Ή ότι είναι απλούστερο να θυσιάσει τον επιβάτη και όχι π.χ. μια ομάδα μαθητών που περνάει απέναντι. Κι αυτή η απόφαση λαμβάνεται σε χιλιοστά του δευτερολέπτου, χωρίς συναίσθημα, χωρίς φόβο, χωρίς τύψεις. Μόνο με αριθμούς.

Οι μεγάλες αυτοκινητοβιομηχανίες –Tesla, Waymo, Mercedes-Benz– έχουν ήδη ενσωματώσει αυτοματισμούς αποφυγής σύγκρουσης. Αλλά κανείς δεν δηλώνει ξεκάθαρα ποια είναι τα ηθικά πρωτόκολλα που ακολουθούν σε ένα “no-win” σενάριο. Όταν δηλαδή όλοι θα τραυματιστούν, και κάποιος θα πεθάνει.

Η ερώτηση είναι απλή: θα αγόραζες ένα αυτοκίνητο που ξέρεις ότι μπορεί να σε θυσιάσει για να σώσει έναν άλλον; Για κάποιους, αυτό είναι απλώς μια πρόοδος ασφαλείας. Για άλλους, είναι η απαρχή ενός νέου είδους ελέγχου πάνω στη ζωή των ανθρώπων.

Η τεχνητή νοημοσύνη, όσο προοδεύει, θα αναλαμβάνει ρόλους που μέχρι σήμερα κανείς δεν ακουμπούσε. Και αν κάποτε τα φρένα σπάσουν και δεν υπάρχει χρόνος για ερωτήσεις, τότε το ερώτημα δεν είναι «ποιος φταίει». Είναι ποιος επιλέχθηκε να πεθάνει.