«Κάποιοι παίζουν …ΡΩΣΙΚΗ ΡΟΥΛΕΤΑ με την ανθρωπότητα χωρίς τη συναίνεση της!»

Ο καθηγητής Στιούαρτ Ράσελ, μία από τις πιο έγκυρες φωνές παγκοσμίως στην τεχνητή νοημοσύνη, προειδοποιεί ότι η ανθρωπότητα βρίσκεται σε ένα ιστορικό σταυροδρόμι με δυνητικά υπαρξιακές συνέπειες. Την ώρα που οι κοινωνίες εστιάζουν σε καθημερινά πολιτικά ζητήματα, μικρές ομάδες στελεχών στη Σίλικον Βάλεϊ λαμβάνουν αποφάσεις που μπορούν να καθορίσουν το μέλλον του ανθρώπινου είδους.

Ο Ράσελ χρησιμοποιεί την αναλογία των γορίλλων για να εξηγήσει τον κίνδυνο: όπως οι άνθρωποι, λόγω ανώτερης νοημοσύνης, καθορίζουν τη μοίρα άλλων ειδών, έτσι και η δημιουργία μιας υπερ-νοήμονος μηχανής θα μπορούσε να καταστήσει τον άνθρωπο ανίσχυρο. Το πρόβλημα δεν είναι η κακή πρόθεση, αλλά η ίδια η ανώτερη ικανότητα επίτευξης στόχων.

Παρά τους κινδύνους, η ανάπτυξη δεν σταματά λόγω της τεράστιας οικονομικής έλξης. Η τεχνητή γενική νοημοσύνη εκτιμάται ότι θα έχει αξία δεκάδων τρισεκατομμυρίων δολαρίων, γεγονός που ωθεί εταιρείες και επενδυτές να συνεχίζουν, ακόμα κι αν αναγνωρίζουν ανοιχτά την πιθανότητα καταστροφής. Ο ίδιος ο Ράσελ μιλά για «ρώσικη ρουλέτα με την ανθρωπότητα», χωρίς τη συναίνεσή της.

Ιδιαίτερη ανησυχία προκαλεί η πιθανότητα «έκρηξης νοημοσύνης», όπου τα συστήματα θα αυτοβελτιώνονται με ταχύτητα που ο άνθρωπος δεν θα μπορεί να ελέγξει. Ο Ράσελ θεωρεί ότι χωρίς άμεση πολιτική παρέμβαση και κοινωνική πίεση, ο κόσμος κινδυνεύει να βρεθεί αντιμέτωπος είτε με μια καταστροφή που θα λειτουργήσει ως αφύπνιση, είτε με την οριστική απώλεια ελέγχου.