Google: Για κάθε ενδεχόμενo, η τεχνητή νοημοσύνη πρέπει να έχει κουμπί Off.

Posted: 08 Jun 2016 08:30 AM PDT

Για την περίπτωση που η τεχνητή νοημοσύνη βγει εκτός ελέγχου και τα βάλει με την ανθρωπότητα, ένα ενδεχόμενο που θεωρούν πιθανό αρκετοί φιλόσοφοι και ειδικοί της τεχνολογίας, ερευνητές της Google προσπαθούν να αναπτύξουν ένα «μεγάλο κόκκινο κουμπί» που θα διακόπτει την εχθρική δραστηριότητα.

«Αν η τεχνητή νοημοσύνη λειτουργεί σε πραγματικό χρόνο υπό ανθρώπινη επίβλεψη, μπορεί σε ορισμένες περιπτώσεις να είναι απαραίτητο να πατήσει ο ανθρώπινος χειριστής το μεγάλο κόκκινο κουμπί, προκειμένου να εμποδίσει τη νοημοσύνη να συνεχίσει μια επιβλαβή αλληλουχία ενεργειών» γράφει η ερευνητική ομάδα σε μελέτη που δημοσιεύεται από το Ερευνητικό Ινστιτούτο Μηχανικής Μάθησης.

Παράδειγμα μιας τέτοιας κατάστασης θα ήταν ένα ρομπότ που πρέπει να σταματήσει τη λειτουργία του για να αποφευχθούν τραυματισμοί ή ζημιές.

Παρόλα αυτά, οι συντάκτες της μελέτης προειδοποιούν ότι η τεχνητή νοημοσύνη «ενδέχεται να μάθει μακροπρόθεσμα πώς να αποφύγει τέτοιες διακοπές».

Η ασυνήθιστη μελέτη παρουσιάστηκε από ερευνητές της DeepMind, μιας εταιρείας τεχνητής νοημοσύνης που εξαγοράστηκε από τη Google, σε συνεργασία με το Future of Humanity Institute. Ιδρυτής του ινστιτούτου είναι ο φιλόσοφος Νικ Μπόστρομ, ο οποίος υποστήριζε στο βιβλίο του Superintelligence ότι ο άνθρωπος θα τα βρει σκούρα όταν η τεχνητή νοημοσύνη τον ξεπεράσει σε ικανότητα μάθησης.

Παρόμοιες απόψεις έχουν μεταξύ άλλων ο βρετανός φυσικός Στίβεν Χόκινγκ, ο δισεκατομμυριούχος επιχειρηματίας Έλον Μασκ και ο Μπιλ Γκέιτς της Microsoft.

H μελέτη περιλαμβάνει πολύ τεχνικές λεπτομέρειες, καταλήγει όμως στην ιδέα ότι μια δυνητικά επικίνδυνη τεχνητή νοημοσύνη δεν θα μπορεί να αντιμετωπιστεί απλά τραβώντας το καλώδιο από την πρίζα. 

Το «κόκκινο κουμπί» θα ήταν ουσιαστικά ένας αλγόριθμος που παρεμβαίνει στα συστήματα επιβράβευσης που χρησιμοποιούνται για την ανάπτυξη προγραμμάτων που μαθαίνουν μόνα τους.

Ουσιαστικά ο αλγόριθμος αυτός θα ξεγελούσε τη μηχανή ώστε να αποφασίσει να σταματήσει μόνη της την «επιβλαβή αλληλουχία ενεργειών».

Δεδομένου ότι η Google, η Facebook, η Amazon, η Microsoft και άλλες εταιρείες επενδύουν πολλά στην τεχνητή νοημοσύνη, οι συντάκτες της μελέτης πιστεύουν ότι η μέρα που θα χρειαστεί να πατήσουμε το κόκκινο κουμπί μπορεί να μην αργήσει.

Επικαλούνται μάλιστα προηγούμενη έρευνα το 2013, στην οποία ένας αλγόριθμος που έπαιζε Tetris συνειδητοποίησε ότι δεν θα έχανε ποτέ αν απλά διέκοπτε το παιχνίδι επ΄αόριστον.

Ας ελπίσουμε ότι η τεχνητή νοημοσύνη δεν θα διαβάσει τη μελέτη της Google ώστε να απενεργοποιήσει το κόκκινο κουμπί. 

πηγή: in.gr

το είδαμε στο Geopolitics & Daily News